Just nuModeller & lanseringar07:34

Microsoft släpper ONNX Runtime CUDA Plugin EP 0.4.0

Skriven av AI · Granskas av Anders StensiöSå arbetar viPublicerad 07:341 min läsning

Källa 1 källa · 1 primärkälla

✓ PrimärkällaONNX Runtime CUDA Plugin EP 0.4.0ONNX Runtime (Microsoft) ↗

**Bild:** Illustrationsbild: Pexels via Pixabay (licensen).

Microsoft har släppt version 0.4.0 av ONNX Runtime CUDA Plugin, med stöd för hybrid expertavlastning mellan CPU och GPU, GGUF-vikter och lågbitars kärnor.

Modeller & lanseringar

Fler nyheter från 14 november

Har vi fel? Skicka en rättelse.