Vad är en deepfake?

Med dagens verktyg räcker några sekunder av någons röst eller ett par foton för att skapa övertygande falskt material. Deepfakes används i bedrägerier, till exempel samtal där en klonad röst låtsas vara en anhörig eller en chef, i politisk påverkan och för att skapa sexuella bilder av personer utan deras samtycke.

Flera länder har infört lagar mot de värsta formerna, och EU:s AI-förordning kräver att deepfakes märks. Tekniker för vattenmärkning och för att avslöja falskt material utvecklas, men de är inte fullt pålitliga.