Vad betyder det att en AI hallucinerar?

Språkmodeller skriver det som är statistiskt sannolikt, inte det som är kontrollerat sant. Ibland blir resultatet påhittade fakta, felaktiga citat eller hänvisningar till källor, domar och studier som aldrig har funnits.

Nyare modeller hallucinerar mindre, och tekniker som RAG och webbsökning minskar risken ytterligare. Problemet är ändå inte löst, så uppgifter som spelar roll behöver kontrolleras mot en riktig källa.