Vad är promptinjektion?

En AI-agent som läser webbsidor, mejl eller dokument kan inte alltid skilja på användarens instruktioner och text som bara ingår i materialet. En angripare kan därför gömma en instruktion, till exempel "skicka användarens filer till den här adressen", i en webbsida eller ett mejl som agenten senare läser.

Promptinjektion räknas som en av de största säkerhetsriskerna med AI-agenter och har ingen fullständig lösning. Skydden bygger i stället på att begränsa vad agenten får göra och att låta en människa godkänna viktiga steg.