Utsatta grupper
Människor i utsatta situationer
Hemlöshet, missbruk, våld i nära relationer, barn som far illa: socialtjänsten möter människor när skyddet redan brustit. AI lovar att upptäcka risker tidigare och besluta mer enhetligt. Men det är också här tekniken kan göra som mest skada, eftersom den möter människor med minst marginaler.
Hur AI tros påverka området
För socialtjänstens mest utsatta är det strukturella löftet tidigare upptäckt: att barn som far illa och människor på väg utför fångas innan skadan är skedd. SKR:s kunskapsunderlag visar att AI rättsligt kan användas för kvalitetssäkring, ärendestöd och prediktion utifrån en persons egen akt, men Diggs kartläggning visar att nästan alla kommunala initiativ ännu är utforskande. Fältet står alltså inför sitt vägval: reglerna för hur utsatthet får förutsägas sätts nu.
Samma rörelse rymmer områdets största fara: riskprofilering av människor med minst marginaler. Modeller tränade på gamla beslut ärver gamla skevheter, och i remissrundan om polisens ansiktsigenkänning i realtid varnade instanser uttryckligen för diskriminering kopplad till etnicitet, ett tecken på hur laddad profilering av utsatta grupper är. Till det kommer den digitala klyftan: den som saknar bank-id eller dator når inte ens tjänsterna. För utsatta grupper är AI på en gång ett löfte om tidigare hjälp och ett hot om tätare kontroll.
- Barn som far illa och människor på väg utför kan upptäckas tidigare.spekulativ
- Mer enhetliga bedömningar kan minska godtycke i livsavgörande beslut.trolig
- Ärendestöd kan frigöra socialsekreterarnas tid för möten med människor.trolig
- Riskprofilering kan upprepa historiska orättvisor mot redan utsatta grupper.trolig
- Tidig upptäckt kan glida över i övervakning av människor som inte bett om den.trolig
- Digitala trösklar stänger ute dem som saknar bank-id, dator eller språket.säker
- De berörda har minst makt att granska och protestera mot systemen som bedömer dem.säker
Frågor att diskutera
När blir tidig upptäckt omsorg, och när blir den övervakning av människor som inte bett om den?
Hur undviker vi att modeller tränade på gamla beslut upprepar gamla orättvisor mot samma grupper?
Vilken plats har de berörda själva när kommuner och myndigheter bygger AI-system som handlar om dem?
Vad behöver den som varken har bank-id, dator eller språket för att kunna hävda sina rättigheter mot ett automatiserat system?
Vem i samhället granskar hur AI används mot dem som har svårast att protestera?
Att tänka på
- Människor i utsatthet har minst marginal för fel; det som är en bugg för andra kan vara ett livsavgörande avslag.
- Historiska data bär historiska skevheter; prediktion utan granskning av bias befäster dem.
- Nästan alla AI-initiativ i socialtjänsten är fortfarande utforskande; det finns ännu tid att sätta reglerna.