Hoppa till innehållet
← Sejfer Nyheter

Krönika

Öppen artikel

Låt inte AI göra varje barn till en misstänkt

AI kan bidra till ett mer träffsäkert brottsförebyggande arbete, men individbaserade riskprofiler för barn innebär särskilda faror. Införandet måste föregås av tydliga bevis på nödvändighet, proportionalitet och faktisk nytta – inte av krav på att barn ska acceptera övervakning för säkerhets skull.

Cirka 5 min läsningFler öppna artiklar
Bilden är AI-genererad och inspirerad av artikeltexten.

När en algoritm pekar ut ett barn som en framtida risk är det inte barnet som ska behöva bevisa sin oskuld. Det är myndigheten som måste visa att övervakningen är nödvändig, träffsäker och proportionerlig.

Den principen blir särskilt viktig när kommuner och skolor söker tekniska verktyg för sitt brottsförebyggande arbete. Sedan den 1 juli 2023 har svenska kommuner ett lagstadgat ansvar att ta fram lägesbilder över brottsligheten och besluta om åtgärdsplaner. Men det ansvaret är inte ett frikort att samla in, samköra och analysera barns personuppgifter.

Under 2026 blir frågan mer konkret när huvuddelen av EU:s AI-förordning börjar tillämpas den 2 augusti. Det betyder inte att all AI i skolor eller brottsförebyggande verksamhet förbjuds. Förordningen bygger huvudsakligen på en riskbaserad modell där vissa användningar är förbjudna och andra kan tillåtas under omfattande krav.

Det finns inte heller i det tillgängliga underlaget stöd för att påstå att Integritetsskyddsmyndigheten formellt har pekat ut just kombinationen AI, barn och brottsförebyggande arbete som en särskild prioritering för 2026. Men frågan hör tveklöst hemma på myndighetens bord. Den rör dataskydd, automatiserade bedömningar, biometriska uppgifter och barn som befinner sig i beroendeställning till offentliga aktörer.

Alla AI-system är inte samma sak

Debatten blir snabbt meningslös om all AI behandlas som en enda teknik. Det är stor skillnad mellan att analysera anonymiserad statistik om otrygga platser och att ge en enskild elev en riskpoäng utifrån frånvaro, skolresultat, incidentrapporter, bostadsområde eller tidigare kontakter med myndigheter.

Den första användningen kan hjälpa en kommun att placera vuxennärvaro eller stöd där behoven är störst. Den andra kan förändra hur ett barn blir bemött av lärare, socialtjänst eller polis, även om algoritmens besked formellt bara kallas beslutsstöd.

Det är därför inte tillräckligt att någon människa finns med i slutet av processen. Mänsklig översyn kan bli en tom ritual om handläggaren saknar tid, kunskap eller faktisk möjlighet att avvika från systemets rekommendation. En maskinell riskmarkering kan få stor praktisk betydelse utan att ensam fatta ett formellt beslut.

Historiska data är inte neutrala

Förespråkare för prediktiva system framhåller gärna att datorer är mindre fördomsfulla än människor. Det är ett relevant motargument: lärare, poliser och socialsekreterare kan också göra felaktiga och diskriminerande bedömningar. Ett transparent och oberoende granskat system skulle i vissa situationer kunna vara mer kontrollerbart än ren magkänsla.

Men algoritmer upphäver inte historien i de data de matas med. Forskning om prediktiv polisverksamhet har visat hur tidigare polisdata kan skapa återkopplingsslingor. Om ett område redan har kontrollerats oftare registreras fler händelser där. Modellen pekar därefter ut samma område som mer riskfyllt, vilket leder till ännu mer kontroll.

Det betyder inte att varje datadriven metod alltid diskriminerar eller saknar effekt. En systematisk forskningsöversikt har funnit studier som rapporterar minskad brottslighet, särskilt för platsbaserade insatser. Samtidigt begränsas kunskapsläget av metodproblem, och effekter på diskriminering, rättssäkerhet och förtroende måste bedömas separat från förändringar i registrerad brottslighet.

Just därför är steget från platsanalys till individprofilering så avgörande. Social utsatthet får inte förvandlas till ett digitalt indicium på framtida kriminalitet.

Skolan är ingen frivillig marknad

Barn har ett särskilt skydd enligt dataskyddsförordningen eftersom de kan ha svårare att förstå riskerna och konsekvenserna av personuppgiftsbehandling. GDPR kräver bland annat laglighet, tydliga ändamål och uppgiftsminimering. Vid behandling som sannolikt medför hög risk för människors fri- och rättigheter ska den personuppgiftsansvariga också göra en konsekvensbedömning avseende dataskydd.

Skellefteåärendet borde fortfarande fungera som varningsskylt. År 2019 beslutade den dåvarande Datainspektionen, numera IMY, att Skellefteå kommun skulle betala en administrativ sanktionsavgift på 200 000 kronor efter ett försök med ansiktsigenkänning för närvarokontroll på en gymnasieskola. Myndigheten bedömde bland annat att behandlingen var oproportionerlig, att samtycke inte var en lämplig rättslig grund i relationen mellan skola och elev och att konsekvensbedömningen hade brister.

Det projektet handlade inte om att förutse brott. Ändå var maktobalansen mellan skolan och eleverna central. Ett system som försöker bedöma vilka barn som kan hamna i kriminalitet skulle normalt beröra ännu känsligare frågor och kunna få betydligt större följder.

EU:s AI-förordning drar dessutom en tydlig gräns för vissa metoder. AI-baserad känsloigenkänning i utbildningsinstitutioner är förbjuden, med undantag för användning av medicinska eller säkerhetsrelaterade skäl. Vissa former av biometrisk kategorisering som drar slutsatser om känsliga egenskaper är också förbjudna.

Andra system inom utbildning eller brottsbekämpning kan klassas som högrisk och omfattas av krav på bland annat riskhantering, datastyrning, dokumentation, loggning, mänsklig översyn, robusthet och cybersäkerhet. Högriskklassning är alltså inte detsamma som ett förbud. Men inte heller ett godkännande.

AI-förordningen och dataskyddsreglerna gäller parallellt. Att ett system uppfyller AI-förordningens krav betyder inte automatiskt att behandlingen av personuppgifter är laglig enligt GDPR. För polisens behandling av uppgifter för brottsbekämpande ändamål kan i stället särskild brottsdatalagstiftning bli tillämplig. Samverkan mellan skola, kommun, socialtjänst och polis gör därför inte juridiken enklare, utan mer krävande.

Trygghet är också en rättighet

Integritet får inte användas som argument för passivitet. Barn har rätt till skydd mot våld, exploatering och brott, och tidiga stödinsatser kan vara mindre ingripande än sena straffrättsliga åtgärder. Ett system som analyserar aggregerade uppgifter för att styra resurser kan därför vara både försvarbart och värdefullt.

Men trygghet och privatliv ska inte ställas mot varandra som om samhället bara kan välja det ena. Ett barn blir inte tryggare av att felaktigt klassificeras som en risk. En skola blir inte säkrare om eleverna lär sig att varje frånvarodag, konflikt eller svagt betyg kan hamna i en framtida riskprofil.

Innan ett individbaserat system införs bör den ansvariga aktören åtminstone kunna visa vilket konkret problem som ska lösas, vilken rättslig grund som finns, varför mindre ingripande metoder inte räcker, hur felaktiga träffar ska hanteras och hur barn kan få en begriplig förklaring och en verklig mänsklig prövning. Systemet måste också kunna stoppas om nyttan uteblir eller skadeverkningarna blir för stora.

Brottsförebyggande arbete behöver kunskap, samverkan och uthållighet. Ibland kan AI vara ett användbart verktyg. Men tekniken får inte bli en genväg runt den svårare uppgiften: att bygga förtroende, ge stöd i tid och behandla barn som rättighetsbärare i stället för datapunkter.

Bevisbördan i den offentliga prövningen måste därför ligga hos den som vill införa övervakningen. Inte hos barnet som förväntas leva med den.

← Tillbaka till nyhetsarkivet