Vad är RLHF?

RLHF står för reinforcement learning from human feedback, förstärkningsinlärning med mänsklig återkoppling. Människor jämför olika svar från modellen och väljer vilket som är bäst. Utifrån de valen tränas modellen att ge mer hjälpsamma, korrekta och säkra svar.

Det var den här metoden som gjorde råa språkmodeller till användbara assistenter som ChatGPT. I dag kompletteras den ofta med varianter där en annan AI-modell ger återkopplingen, och med förstärkningsinlärning mot uppgifter där svaret kan kontrolleras automatiskt, som matematik och kod.