transformers v5.23.0
Biblioteket Transformers version 5.23.0 lägger till stöd för den nya multimodala modellen Inkling 2 Small från Thinking Machines Lab.
- Typ
- Öppen modell
- Licens
- Apache-2.0
- Senaste version
- v5.23.0
- Källkod
- GitHub ↗
- Kräver
- Python och biblioteket transformers i version 5.23.0 eller senare, samt tillräckligt med GPU-minne för en modell med 594B totala parametrar.
- Ämnen
- Modeller & lanseringar
Vad verktyget gör
Inkling 2 Small tar text- och bildindata och genererar text, och är avsedd för engelska och andra språk samt flera programmeringsspråk. Språkdelen har 48 mixture-of-experts-lager med 594B totala och 17B aktiva parametrar. Modellen bygger vidare på Inkling-decodern och lägger till bland annat block attention residuals och gated attention.
Om beskrivningen: skriven av AI utifrån verktygets README. Vi har inte testat verktyget.
Så kommer du igång
# Från verktygets README
# venv
python -m venv .my-env
source .my-env/bin/activate
# uv
uv venv .my-env
source .my-env/bin/activateVersioner
- v5.23.013 nov 15:10
Ny release som lägger till modellen Inkling 2 Small.
Fel i kortet? Skicka en rättelse.