1.11.3 Algoritmisk ogenomskinlighet
AI-system och algoritmer används i beslutsprocesser inom offentlig sektor utan att det alltid är synligt för den enskilde att sådana system medverkar eller hur de kan påverka utfallet.
En situation
En person blir utvald för en bedrägerikontroll och får sin ersättning stoppad. Ingen berättar att en algoritm valde ut ärendet och personen vet inte vad som ska bemötas.
Utgångspunkter enligt lag
Förvaltningslag (2017:900) 32 § anger att ett beslut som kan antas påverka någons situation på ett inte obetydligt sätt ska innehålla en klargörande motivering, om det inte är uppenbart obehövligt. 33 § anger att den som är part ska underrättas om innehållet i beslutet, om det inte är uppenbart obehövligt.
Diskrimineringslag (2008:567) 1 kap. 4 § anger vad som är diskriminering, och omfattar även indirekt diskriminering genom bestämmelser, kriterier eller förfaringssätt som framstår som neutrala. 2 kap. anger var diskriminering är förbjuden, bland annat i socialförsäkringssystemet (14 §).
Dataskyddsförordningen (EU) 2016/679 art. 22 anger att den registrerade har rätt att inte bli föremål för ett beslut som enbart grundas på automatiserad behandling, inbegripet profilering, om beslutet har rättsliga följder eller på liknande sätt i betydande grad påverkar hen. Art. 13.2 f och 14.2 g anger att den personuppgiftsansvarige ska informera den registrerade om förekomsten av automatiserat beslutsfattande och meningsfull information om logiken bakom samt betydelsen och följderna för den registrerade. Art. 15.1 h anger att den registrerade har rätt att få sådan information på begäran.
AI-förordningen (EU) 2024/1689 art. 13 anger att AI-system med hög risk ska utformas så att deras funktion är tillräckligt transparent för att verksamhetsutövare ska kunna tolka systemets utdata och använda det på lämpligt sätt. Art. 86 anger att den som berörs av ett beslut som grundas på utdata från ett AI-system med hög risk har rätt till en tydlig och meningsfull förklaring av systemets roll i beslutet
DigidelGov sammanfattar läget
Tillsynen över automatiserade beslut är delad mellan flera myndigheter utan samordnat ansvar. Rätten till information om logiken bakom ett beslut finns i lag, men den är svår att använda när den enskilde inte ens vet att en algoritm har medverkat. AI-förordningens rätt till förklaring gäller bara system med hög risk och börjar gälla i december 2027.
Bakgrund och fakta
Arbetsförmedlingens automatiserade system utfärdade 2019 cirka 15 000 felaktiga beslut, de flesta om sanktioner. ”Trots den stora mängden felaktiga beslut uppstod inte någon tillströmning av klagomål från enskilda som drabbats, enligt Arbetsförmedlingen” (s. 218). ”När systemen inte fungerar som avsett kan de i värsta fall generera rättsstridiga beslut i stor skala. Systemens utformning kan göra det svårt att härleda uppkomna brister till specifika faktorer eller ens överblicka konsekvenserna. Det är särskilt graverande att felen inte blev uppenbara för vare sig myndigheten eller de drabbade, trots att det rörde sig om betungande sanktionsbeslut” (s. 219). När lagen översätts till kod kan det ”i praktiken innebära att rättens praktiska konsekvenser inte bestäms av lagen, men av programkod som därmed i normerande hänseende får större betydelse än lagen själv” (s. 230). ”Annars balanseras riskerna med automatiserade beslutsprocesser i hög grad över till de enskilda, eftersom de måste reagera för att få rätt” (s. 242).
Forskning Källa: Enqvist, L. & Naarttijärvi, M. (2022) Rättsstatliga principer och beslutsprocesser i en (alltmer) digitaliserad och automatiserad förvaltning. I: Statskontoret, Rättsstaten i den svenska förvaltningen – en forskningsantologi (PDF) Kärandens begäran om att få se algoritmen beviljades aldrig. Förvaltningsrätten lade bevisbördan på den enskilda: ”Under omständigheter där parterna inte är överens utelämnad text är det upp till käranden att motbevisa förvaltningens påståenden och bevisa att besluten har fattats av ett datorprogram och inte av handläggare” (s. 1648). ”Om käranden måste lägga fram algoritmer som bevis utan att ha någon möjlighet att få tillgång till dem, kommer orättvisa konsekvenser att bestå gång på gång” (s. 1649, egen översättning).
Forskning Källa: Kronblad, Essén & Mähring (2024) When Justice Is Blind to Algorithms. MIS Quarterly 48(4) ”Kartläggningen visar att automatiserat beslutsfattande används vid 14 av de 34 tillfrågade myndigheterna utelämnad text ” (s. 35). utelämnad text ”Tio av fjorton myndigheter gör riskanalyser för att säkerställa att inte enskilda missgynnas. Endast fyra beaktar diskrimineringsgrunderna i detta arbete” (s. 36).
Källa: Diskrimineringsombudsmannen (2022) Transparens, träning och data. Myndigheters användning av AI och automatiserat beslutsfattande samt kunskap om risker för diskriminering (Rapport 2022:1) (PDF) ”Ökad AI-användning medför samtidigt nya utmaningar när det gäller likabehandling, transparens och dataskydd” (s. 12).
Källa: Regeringskansliet (2026) Sveriges AI-strategi ”Samtidigt innebär tekniken nya risker för att mänskliga rättigheter kränks. Bristande transparens, felaktiga underlag och begränsade möjligheter till ansvarsutkrävande kan leda till att enskilda drabbas av felaktiga eller godtyckliga beslut. I slutet av 2024 visade exempelvis en granskning av Lighthouse Reports och Svenska Dagbladet, med stöd av Amnesty International, att Försäkringskassan använt ett icke-transparent AI-system för att flagga personer för bidragsbedrägeri. Systemet riktade sig i oproportionerlig grad mot kvinnor, låginkomsttagare, personer med utländsk bakgrund och/eller låg utbildningsnivå, och tillämpades utifrån ett antagande om brottsligt uppsåt” (s. 58).
Källa: Institutet för mänskliga rättigheter (2026) Årsrapport 2026. Mänskliga rättigheter i Sverige 2025 ”I Sverige avslöjade Svenska Dagbladet och journalistkollektivet Lighthouse Reports en liknande algoritmisk välfärdsskandal 2024 efter en treårig granskning av Försäkringskassan. Myndigheten experimenterade med ett AI-system som skulle flagga potentiellt felaktiga ansökningar om VAB, vård av barn, genom att tilldela ansökningarna riskpoäng. En hög poäng kunde leda till längre handläggningstider och särskilda granskningar, som kontakt med arbetsgivare och förskola. Reportrarna begärde utan framgång ut handlingar som beskrev de variabler som ingick i modellen. Även om de inte fick ut underlaget från myndigheten lyckades de på egen hand lista ut hur systemet fungerade – och kunde visa att gruppen kvinnor och gruppen föräldrar med utländsk bakgrund, låg utbildning eller låg inkomst i större utsträckning än andra tilldelades högre riskpoäng, trots att de inte lämnade in felaktiga uppgifter oftare än andra” (s. 26–27).
Källa: Kaun, A. (2026) AI – den bättre byråkraten? I: Riksbankens Jubileumsfond, Byråkrati. RJ:s årsbok 2026. Makadam förlag ”IMY inledde i juni 2025 tillsyn mot Försäkringskassan i syfte att utreda hur myndigheten behandlar personuppgifter inom ramen för myndighetens arbete med riskbaserade urval för riktade kontroller mot enskilda inom ersättning för tillfällig föräldrapenning samt om behandlingen är förenlig med dataskyddsförordningen och föreskrifter som kompletterar dataskyddsförordningen. I Försäkringskassans svar till IMY, som inkom den 5 september 2025, uppgavs att Försäkringskassan har använt en maskininlärningsbaserad riskprofil inom ramen för det aktuella arbetet men att denna togs ur bruk en dryg månad före tidpunkten för Försäkringskassans svar. utelämnad text IMY bedömer mot denna bakgrund att det inte finns skäl att vidta ytterligare utredning i ärendet. Ärendet ska därför skrivas av” (s. 1).
Källa: Integritetsskyddsmyndigheten (2025) Beslut efter tillsyn enligt dataskyddsförordningen – Försäkringskassan (IMY-2025-11828) (PDF) ”Även om [Udbetaling Danmark] lämnade ut maskad dokumentation om några utvalda av sina modeller för bedrägerikontroll, avslogs alla begäranden om data som skulle göra det möjligt för forskare att testa modellerna för snedvridning och rättvisa. utelämnad text När det gäller drabbade personers tillgång till rättsmedel har Amnesty International identifierat risker för rätten till rättsmedel från två håll. För det första saknas transparens och tydlig underrättelse om att [Udbetaling Danmark] använder algoritmer för bedrägerikontroll när enskilda flaggas för vidare bedrägeriutredning. För det andra innehåller [den danska] förvaltningslagen inga bestämmelser som kräver att myndigheter informerar en person om att ärendet mot hen har uppkommit genom en algoritm. Eftersom en person som flaggas för bedrägeri av [Udbetaling Danmarks] algoritmer inte vet att hen är föremål för en automatiserad process, kan hen därför inte effektivt ifrågasätta [Udbetaling Danmarks] beslutsprocess” (s. 11–12, egen översättning).
Källa: Amnesty International (2024) Coded Injustice: Surveillance and Discrimination in Denmark's Automated Welfare State Trelleborgs kommun har sedan 2017 använt robotstyrd processautomation för beslut om ekonomiskt bistånd. ”I samband med detta begärde en journalist ut källkoden till algoritmen som använts, med argumentet att den utgjorde en offentlig handling. Efter flera misslyckade försök att få tillgång till källkoden tog journalisten fallet vidare till förvaltningsdomstolen.” utelämnad text ”Historien fick en oväntad vändning när källkoden lämnades ut och den danska leverantören missade att rensa dokumentet från känsliga personuppgifter som därmed hamnade hos journalisterna” (s. 34). SSR ville få se gränssnittet och beslutsträdet. ”Kommunen lämnade emellertid aldrig ut materialet och SSR vände sig till Justitieombudsmannen – som uttalade sig för förbundet och krävde utlämning” (s. 35).
Källa: Kaun, A. (2026) AI – den bättre byråkraten? I: Riksbankens Jubileumsfond, Byråkrati. RJ:s årsbok 2026. Makadam förlag ”Akademikerförbundet SSR välkomnar att JO idag i stora delar uttrycker stöd för vår anmälan av hur Trelleborg infört algoritmer som ersätter socialsekreterares beslut om försörjningsstöd” (hämtad 2026-11-02).
Källa: Akademikerförbundet SSR (2021) JO visar att lagändring krävs kring robotar i välfärden. Pressmeddelande 9 juni 2021 ”I både den nederländska skandalen med barnomsorgsbidragen och MiDAS-skandalen behandlades medborgare med olika bakgrund orättvist eftersom de inte kunde navigera i den digitala byråkratin och det automatiserade beslutsfattandet. Dessutom antogs resultaten från de automatiserade systemen vara korrekta, trots att de senare visade sig vara felaktiga” (s. 1378, egen översättning).
Forskning Källa: Ranchordás, S. (2022) Empathy in the Digital Administrative State. Duke Law Journal, 71(6), 1341–1389 ”Personen har en berättelse att berätta, men e-hälsotjänsten styr kommunikationen genom att ställa vissa frågor, så att bara delar av hela berättelsen når fram. När berättelsen förs vidare till vårdpersonalen kan de tro att det är hela berättelsen” (s. 44, egen översättning). Tjänsten presenteras som en chattbot men uppfattades som ett frågeformulär, vilket gav ouppfyllda förväntningar och sämre kognitiv tillgänglighet (s. 51).
Forskning Källa: Jonsson (2025) Cognitive Accessibility in eHealth. Doktorsavhandling, KTH När en bank räknar fram räntan automatiskt, utan mänsklig inblandning, ska kunden få ”meningsfull information om logiken bakom” beräkningen. Swedbank avslog en kunds begäran om registerutdrag och hävdade att beräkningen var en ”affärshemlighet” (s. 21, egen översättning). noyb har anmält Swedbank till Integritetsskyddsmyndigheten, och ärendet pågår (s. 21).
Källa: noyb (2026) Annual Report 2025 (PDF) ”En central effekt av automatiseringen är att den handläggare som faktiskt fattar beslutet döljs för klienten” (avsnitt 5, egen översättning). utelämnad text De automatiserade tjänsterna kan nästan ses som en ”dold byråkrat” som fattar besluten i medborgarnas personliga ärenden (avsnitt 4.3, egen översättning).
Forskning Källa: Wihlborg, E., Larsson, H. & Hedström, K. (2016) ”The Computer Says No!” – A Case Study on Automated Decision-making in Public Authorities. I 2016 49th Hawaii International Conference on System Sciences (s. 2903–2912). IEEE ”Systemanalytiker och programutvecklare är nyckelaktörerna i dessa verkställande myndigheter. De översätter de rättsliga reglerna till algoritmer och beslutsträd.” utelämnad text ”Vem granskar utvecklarna och deras system? Inför vem ska de stå till svars för hur de har omvandlat analog lagstiftning till digitala beslutsträd, skript och algoritmer?” (sammanfattning och avsnitt 5.2, egen översättning).
Forskning Källa: Bovens, M. & Zouridis, S. (2002) From Street-Level to System-Level Bureaucracies: How Information and Communication Technology Is Transforming Administrative Discretion and Constitutional Control. Public Administration Review, 62(2), 174–184
Ansvar och vägar vidare
Vägledning för den enskilde
- Myndigheten som fattat beslutet (fråga om skälen för beslutet, 32 § förvaltningslagen)
- Integritetsskyddsmyndigheten (klagomål om automatiserade beslut)
- Diskrimineringsombudsmannen (anmälan om misstänkt diskriminering)
- Fackförbund eller funktionsrättsorganisation (stöd)
Vägledning för utförare
- Integritetsskyddsmyndigheten (vägledning om automatiserat beslutsfattande)
- Diskrimineringsombudsmannen (stöd till myndigheter om risker för diskriminering vid AI och automatiserat beslutsfattande)
- Myndigheten för digital förvaltning (vägledning om AI och automatisering i offentlig sektor)
Klagoväg
- Förvaltningsrätten (överklaga beslut, men inte själva urvalet till kontroll)
- Integritetsskyddsmyndigheten (klagomål, beslut kan överklagas till förvaltningsrätten)
- Tingsrätten (talan om diskrimineringsersättning, väcks av Diskrimineringsombudsmannen eller den enskilde)
Granskande aktörer
- Integritetsskyddsmyndigheten (tillsyn enligt dataskyddsförordningen)
- Inspektionen för socialförsäkringen (granskar Försäkringskassan och Pensionsmyndigheten)
- Inspektionen för vård och omsorg (tillsyn över socialtjänsten)
- Diskrimineringsombudsmannen (tillsyn enligt diskrimineringslagen)
- Justitieombudsmannen (granskar enskilda fall av myndighetsutövning)
- Riksrevisionen (granskar effektivitet och kontroll i statsförvaltningen)
Version 2.0. Det här är en granskningsversion. Innehållet kan ändras innan ramverket är färdigt. Innehållet uppdaterades .