Diskriminering
Hur motverkas diskriminering i alla dess former?
Diskrimineringslagen förbjuder missgynnande på sju grunder, och DO vakar över efterlevnaden. Med AI flyttar frågan delvis in i tekniken: beslut om jobb, lån, bidrag och polisiär uppmärksamhet kan präglas av mönster i träningsdata som ingen enskild människa valt. Hur motverkar man diskriminering som ingen ser?
Hur AI tros påverka området
Det strukturella skiftet är att diskriminering byter form: från enskildas avsikter till statistiska mönster som ingen valt och få kan se. DO:s rapport om AI i arbetslivet pekade på mekanismen: system tränade på historiska data ärver historiens ojämlikheter, och risken är att missgynnandet blir mer konsekvent, inte mindre. Den enskilde som drabbats har i dag små möjligheter att ens upptäcka det; mönstret syns ofta först på gruppnivå.
Tillsynen byggs därför om. I juni 2026 fick DO i uppdrag att stödja sju myndigheter i arbetet mot etnisk diskriminering, med AI och automatiserat beslutsfattande uttryckligen utpekade. Det markerar en omorientering i hela förvaltningen: frågan handlar inte längre om enskilda handläggares attityder utan om hur system upphandlas, tränas och granskas. Ansvaret fördelas samtidigt på fler händer, mellan beställare, utvecklare och användare, vilket gör det svårare att utkräva.
Konflikten mellan effektivitet och likabehandling ställs på sin spets i övervakningen. Polisens realtidsansiktsigenkänning, tillåten från maj 2026, möttes av remissvarningar om etnisk profilering och upplevd massövervakning, samtidigt som förespråkare pekar på grova brott som kan klaras upp. Men tekniken kan också vändas till granskningens fördel: mönster i tusentals beslut kan analyseras i efterhand, och diskriminering som tidigare var osynlig kan bli mätbar och möjlig att åtgärda.
- Beslutsmönster i tusentals ärenden kan granskas i efterhand; osynlig diskriminering blir mätbar.trolig
- Tillsynen skärps: sju myndigheter ingår i ett DO-uppdrag där AI uttryckligen pekas ut.säker
- AI-förordningens dokumentationskrav ger nya verktyg för ansvarsutkrävande.trolig
- Diskriminering flyttar från avsikt till mönster; ansvaret blir svårare att utkräva.trolig
- Skevheter i träningsdata upprepas i stor skala innan någon upptäcker dem.trolig
- Den enskilde kan sällan upptäcka eller bevisa att en algoritm missgynnat just hen.säker
- Realtidsövervakning riskerar etnisk profilering enligt flera remissinstanser.trolig
Frågor att diskutera
Hur upptäcker man diskriminering som uppstår ur statistiska mönster snarare än ur en persons avsikt?
Vilken insyn i algoritmer behöver den som misstänker att ett system missgynnat just hen?
Vad skulle det innebära att använda AI för att granska myndigheters beslutsmönster i efterhand?
Hur viktar samhället effektivare brottsbekämpning mot risken att vissa grupper övervakas mer än andra?
Vem ska kunna ställas till svars när ansvaret fördelas mellan beställare, utvecklare och användare av ett system?
Att tänka på
- DO har varnat för att AI-system tränade på historiska data kan göra diskriminering mer systematisk, inte mindre.
- Sju statliga myndigheter ingår sedan 2026 i ett uppdrag om etnisk diskriminering där AI och automatiserade beslut uttryckligen pekas ut.
- Diskriminering via AI kan vara svår att bevisa för en enskild: mönstret syns ofta först på gruppnivå.