ollama
Ollama är ett verktyg för att köra AI-modeller, och den här versionen innehåller bland annat ändringar i OpenAI-kompatibla anrop.
- Typ
- App
- Licens
- MIT
- Senaste version
- v0.40.16-rc0
- Källkod
- GitHub ↗
- Kräver
- Anges inte i texten.
- Ämnen
- Modeller & lanseringar
Vad verktyget gör
Releasen v0.40.16-rc0 är en kandidatversion av Ollama. Den har bland annat stöd för att vidarebefordra truncation-alternativet i responses-anrop och returnerar en tom lista från /v1/models när inga modeller är installerade. Den uppdaterar också llama.cpp till version b12177 och lägger till CUDA 13.5 och SM 103 för ARM64 på Windows.
Om beskrivningen: skriven av AI utifrån verktygets README och releaseanteckningar, kurerad av Anders Stensiö. Vi har inte testat verktyget. Beskrivningen säger vad det lovar.
Versioner
- v0.40.16-rc019:21
Kandidatversion (rc) med ändringar i OpenAI-kompatibelt API, uppdaterad llama.cpp och stöd för CUDA 13.5 på Windows ARM64.
Fel i kortet? Skicka en rättelse.