Vad är LoRA?

LoRA står för low-rank adaptation. I stället för att ändra modellens miljarder parametrar tränas en liten uppsättning extra parametrar som läggs ovanpå. Det kräver mycket mindre minne och beräkningskraft, och tillägget blir en liten fil som kan bytas ut.

Tekniken är populär både för språkmodeller och bildmodeller. Den som vill få en bildmodell att rita i en viss stil eller känna igen en viss produkt använder ofta en LoRA.