Vad är ett jailbreak av en AI?

AI-tjänster har regler för vad de inte ska hjälpa till med. Ett jailbreak är ett sätt att ta sig runt reglerna, till exempel genom att be modellen spela en roll, dela upp en förbjuden fråga i ofarliga delar eller skriva på ett ovanligt språk.

AI-bolagen täpper till kända metoder, men nya hittas hela tiden. Därför kompletteras modellernas egna regler ofta med separata filter som granskar både frågor och svar.