IMY granskar Arbetsförmedlingens AI-stöd för arbetssökande

Granskningen gäller ett verktyg som Arbetsförmedlingen internt kallar det statistiska bedömningsstödet. Det används när handläggare ska avgöra om en arbetssökande ska anvisas till programmet Rusta och matcha, uppger Kollega ^[2]. IMY ska pröva om användningen strider mot dataskyddsförordningen (GDPR) ^[2].

Enligt Kollega utgår IMY från fem frågor: om användningen är laglig, om den är nödvändig, hur systemet fungerar, om det innebär automatiserat beslutsfattande och om inskrivna har fått veta hur deras personuppgifter används ^[2].

Tips från allmänhet och medier

Tillsynen görs efter tips från både allmänheten och medier. IMY har tidigare begärt in handlingar om systemet från Arbetsförmedlingen ^[2].

Kollega hänvisar till uppgifter i Aftonbladet. Enligt tidningen får arbetslösa inte veta att de har profilerats. Tidningen skriver också att jurister har sagt upp sig i protest, att träffsäkerheten är dålig och att handläggare inte vet hur systemet fungerar ^[2]. Det är medieuppgifter som jag inte har kunnat kontrollera mot någon annan källa.

– Vi kommer att granska hur AI-systemet fungerar och hur Arbetsförmedlingen informerar arbetssökande om hur deras personuppgifter behandlas i det, säger Linn Sandmark, enhetschef på IMY, enligt Kollega ^[2].

Så går granskningen till

Enligt Kollega inleds granskningen den 24 november. Sex personer från IMY ska då hålla ett heldagsmöte med Arbetsförmedlingens personal och gå igenom hur verktyget fungerar ^[2]. Dagens PS rapporterar också att IMY inleder en granskning och att den riktar in sig på det statistiska bedömningsstödet ^[1]. Tidningen har rubricerat det som att myndigheten 'tvingas till förhör'. Kollega beskriver ett heldagsmöte.

Vad verktyget gör enligt Arbetsförmedlingen

Arbetsförmedlingen beskriver stödet som en del av en samlad bedömning. Resultatet presenteras i tre kategorier: för nära arbetsmarknaden för Rusta och matcha, lämplig för Rusta och matcha (med en nivå av stöd hos leverantören), eller i behov av fördjupat stöd som myndigheten utreder vidare ^[3].

Myndigheten betonar att utfallet bara är ett stöd. Det är enligt Arbetsförmedlingen alltid den samlade bedömningen av en arbetsförmedlare som avgör om Rusta och matcha erbjuds ^[3]. Om systemet innebär automatiserat beslutsfattande är en av frågorna IMY ska pröva ^[2].

Arbetsförmedlingen skriver själv att verktyget innebär profilering. I juridisk mening är det en automatisk behandling av personuppgifter för att bedöma en persons förutsättningar till sysselsättning, utifrån hur det gått för andra med motsvarande egenskaper ^[3].

Enligt Kollega profilerar systemet bland annat efter födelseland, funktionsnedsättning, kön, ålder och utbildning ^[2].

Arbetsförmedlingen uppger också att randomisering förekommer i ärenden som ligger på gränsen mellan olika rekommendationer. Då motsvarar utfallet inte helt hur långt personen står från arbetsmarknaden. Randomiseringen används för att utvärdera tjänsten ^[3].

Varför det spelar roll

Rusta och matcha är en matchningstjänst där leverantörer hjälper arbetssökande till jobb eller studier. Den pågår i sex månader och kan förlängas med sex månader om det är arbetsmarknadspolitiskt motiverat. Enligt Arbetsförmedlingen ska den som bedöms stå längre från arbetsmarknaden få mer stöd ^[3]. Bedömningen kan alltså ha betydelse för vilket stöd en person får.

Granskningen gäller därmed hur en statlig myndighet använder statistiska modeller på enskilda arbetssökande, och särskilt kravet på att människor ska få veta hur deras uppgifter används. I de källor jag har läst redovisas inget beslut från IMY och inget om att verktyget har stoppats.

I de delar av Arbetsförmedlingens sida jag har läst finns ingen kommentar till granskningen eller kritiken.