App · Modeller & lanseringar

llama.cpp

Program för att köra språkmodeller lokalt, nu med stöd för TTS-modellen Drama-3.

Öppna på GitHub ↗Läs licensenv0.9.0 · uppdaterad 4 nov 14:08

Typ: App
Licens: MIT
Senaste version: v0.9.0
Källkod: GitHub ↗
Kräver: Ladda ner en förbyggd binär för sin plattform eller bygg från källkod.
Ämnen: Modeller & lanseringar

Vad verktyget gör

Releasen b12116 lägger till stöd för Drama-3 TTS i modell- och mtmd-koden och begränsar en hjälpfunktion till kodboksgränsen. Det är ett verktyg för att köra öppna modeller lokalt på egen maskin. Binärer finns för macOS, Linux och Windows.

Om beskrivningen: skriven av AI utifrån verktygets README och releaseanteckningar, kurerad av Anders Stensiö. Vi har inte testat verktyget. Beskrivningen säger vad det lovar.

Så kommer du igång

# Från verktygets README
# curl
curl -LsSf https://llama.app/install.sh | sh

# powershell
irm https://llama.app/install.ps1 | iex

Versioner

b121164 nov 22:57
Nytt är stödet för TTS-modellen Drama-3.
v0.9.04 nov 14:08
Nytt är FP8 E4M3-kvantisering, stöd för fyra nya arkitekturer och TTS- och transkriptionsmodeller.

App Modeller & lanseringar

Fel i kortet? Skicka en rättelse.