ONNX Runtime v1.32.0
ONNX Runtime är ett körningsbibliotek för att köra ONNX-modeller effektivt på olika hårdvara.
- Typ
- App
- Licens
- MIT
- Senaste version
- v1.32.0
- Källkod
- GitHub ↗
- Kräver
- ONNX-modeller och en installation av ONNX Runtime 1.32.0; GPU-stöd kräver motsvarande execution provider, till exempel CUDA eller WebGPU.
- Ämnen
Vad verktyget gör
Version 1.32.0 återintegrerar ONNX 1.23.2 med stöd för opset 28 och introducerar hybrid MoE-avlastning mellan CPU och GPU samt delade CPU QMoE-kärnor. Releasen utökar API:er för enhetsminne, viktlös kompilering och Python-modellpaket och snabbar upp sessionsinitiering för stora grafer. Även CUDA- och WebGPU-kärnor uppdateras, medan detaljer för andra providers finns i separata releaser.
Om beskrivningen: skriven av AI utifrån verktygets README. Vi har inte testat verktyget.
Versioner
- v1.32.013 nov 10:36
Nytt i denna version är stöd för ONNX opset 28, CPU/GPU-hybrid MoE-avlastning och snabbare sessionsinitiering på stora grafer.
Fel i kortet? Skicka en rättelse.