Diskriminering
Hur motverkas diskriminering i alla dess former?
Diskrimineringslagen förbjuder missgynnande på sju grunder, och DO vakar över efterlevnaden. Med AI flyttar frågan delvis in i tekniken: beslut om jobb, lån, bidrag och polisiär uppmärksamhet kan präglas av mönster i träningsdata som ingen enskild människa valt. Hur motverkar man diskriminering som ingen ser?
Hur AI skulle kunna förändra detta
DO:s rapport om AI i arbetslivet pekade på en obekväm mekanism: system tränade på historiska data ärver historiens ojämlikheter, och risken är att diskrimineringen blir mer konsekvent, inte mindre. DO efterlyste transparens i hur systemen byggs, tydligare ansvarsfördelning och tillsyn. Den enskilde som missgynnats av en algoritm har i dag små möjligheter att ens upptäcka det.
Staten har börjat agera. I juni 2026 fick DO i uppdrag att stödja sju myndigheter i arbetet mot etnisk diskriminering, däribland Polisen, Försäkringskassan och Skatteverket, och uppdraget pekar uttryckligen ut riskerna med AI och automatiserat beslutsfattande i handläggningen. Det är ett erkännande av att frågan inte längre handlar om enskilda handläggares attityder.
Den skarpaste konflikten hittills gäller polisens realtidsansiktsigenkänning, tillåten från maj 2026. Remissinstanser varnade för etnisk profilering och upplevd massövervakning, medan förespråkare pekar på grova brott som kan klaras upp. Samtidigt kan AI vändas åt andra hållet: mönster i tusentals beslut kan granskas i efterhand, och diskriminering som tidigare var osynlig kan bli mätbar.
Frågor att diskutera
Hur upptäcker man diskriminering som uppstår ur statistiska mönster snarare än ur en persons avsikt?
Vilken insyn i algoritmer behöver den som misstänker att ett system missgynnat just hen?
Vad skulle det innebära att använda AI för att granska myndigheters beslutsmönster i efterhand?
Hur viktar samhället effektivare brottsbekämpning mot risken att vissa grupper övervakas mer än andra?
Vem ska kunna ställas till svars när ansvaret fördelas mellan beställare, utvecklare och användare av ett system?
Att tänka på
- DO har varnat för att AI-system tränade på historiska data kan göra diskriminering mer systematisk, inte mindre.
- Sju statliga myndigheter ingår sedan 2026 i ett uppdrag om etnisk diskriminering där AI och automatiserade beslut uttryckligen pekas ut.
- Diskriminering via AI kan vara svår att bevisa för en enskild: mönstret syns ofta först på gruppnivå.