Hoppa till innehållet
← Sejfer Nyheter

Krönika

Öppen artikel

Barns data får inte bli priset för offentlig sektors AI

Sverige bör använda AI i offentlig sektor, men barns uppgifter kräver dataminimering, verklig mänsklig kontroll och tydligt ansvar redan från början.

Cirka 5 min läsningFler öppna artiklar
Bilden är AI-genererad och inspirerad av artikeltexten.

Offentlig sektor ska inte avstå från AI av rädsla för integritetsproblem. Men barns personuppgifter får aldrig bli insatsen i ett tekniskt experiment där effektiviseringen är konkret och ansvaret diffust.

Den viktiga skiljelinjen går inte mellan dem som är för eller emot AI. Den går mellan genomtänkt användning och införanden som vilar på leverantörslöften, oklara ändamål och en from förhoppning om att någon människa fortfarande har kontroll.

AI kan ge bättre språkligt stöd, ökad tillgänglighet och mindre administration. Att avstå från sådana möjligheter har också ett pris. Men när systemen används i skolan, vården eller socialtjänsten kan de behandla uppgifter om frånvaro, stödbehov, hälsa, social situation, beteenden och kommunikation. Varje enskild uppgift behöver inte vara särskilt känslig enligt juridikens kategorier för att helheten ska kunna bilda en närgången profil av ett barn.

Integritet är en del av säkerheten

Integritet och cybersäkerhet framställs ibland som konkurrerande intressen. Det är en missvisande utgångspunkt. Dataminimering är också en säkerhetsåtgärd: uppgifter som aldrig samlas in, skickas till en leverantör eller sparas för framtida modellträning kan inte läcka vid ett intrång.

Dataskyddsförordningen kräver att personuppgifter behandlas lagligt, korrekt och öppet, för bestämda ändamål och inte i större omfattning än vad som är nödvändigt. Barn ska enligt förordningen ha ett särskilt skydd, eftersom de kan ha svårare att förstå riskerna, konsekvenserna och sina rättigheter.

Det räcker därför inte att en leverantör skriver att data är anonymiserade eller inte används för träning. Europeiska dataskyddsstyrelsen har betonat att frågan om en AI-modell är anonymiserad måste bedömas från fall till fall. Pseudonymisering är dessutom inte samma sak som anonymisering: om en person kan identifieras med hjälp av ytterligare information handlar det normalt fortfarande om personuppgifter.

Skolan har redan fått en varning

År 2019 beslutade Integritetsskyddsmyndigheten om en sanktionsavgift på 200 000 kronor mot Skellefteå kommun efter ett försök med ansiktsigenkänning för närvarokontroll på en gymnasieskola. Myndigheten bedömde bland annat att behandlingen av biometriska uppgifter stred mot dataskyddsreglerna.

Fallet visar varför en praktisk ambition inte automatiskt motiverar en ingripande metod. Att registrera närvaro kan vara legitimt. Därav följer inte att elevers ansikten ska göras till biometriska kontrollinstrument.

EU:s AI-förordning går också längre än allmänna uppmaningar om försiktighet. Den förbjuder som huvudregel AI-baserad känsloigenkänning i utbildningsinstitutioner, med begränsade undantag för medicinska eller säkerhetsrelaterade skäl. Vissa system som avgör tillträde till utbildning eller utvärderar läranderesultat kan klassas som högrisk-AI.

Det betyder däremot inte att varje AI-verktyg i en skola automatiskt är ett högrisksystem. Ett hjälpmedel för att förenkla en allmän text har inte samma riskprofil som ett system som påverkar antagning eller bedömning. Regleringen måste vara riskbaserad, annars riskerar den att göra ofarliga verktyg onödigt svåra att använda samtidigt som de verkligt ingripande systemen försvinner i samma administrativa hög.

En människa i processen räcker inte

Det talas ofta om mänsklig kontroll som lösningen när AI påverkar myndighetsbeslut. Men en handläggare som saknar tid, kunskap, relevant information eller befogenhet att avvika från systemets rekommendation är inte en verklig kontroll. Då blir människan snarare en ansvarsmässig dekoration.

GDPR innehåller rättigheter när beslut grundas enbart på automatiserad behandling och får rättsliga eller på liknande sätt betydande konsekvenser. För högrisksystem kräver AI-förordningen bland annat riskhantering, dokumentation, loggning, mänsklig kontroll, robusthet och cybersäkerhet. AI-förordningen ersätter dock inte GDPR. Ett system kan klara vissa AI-rättsliga krav och ändå användas i strid med dataskyddsreglerna, exempelvis om myndigheten saknar rättslig grund eller behandlar fler uppgifter än vad som behövs.

När en planerad behandling sannolikt innebär hög risk för människors rättigheter och friheter ska den personuppgiftsansvariga också göra en konsekvensbedömning avseende dataskydd. Det är inte en blankett som ska fyllas i när upphandlingen redan är klar, utan ett underlag för att avgöra om systemet bör användas och i så fall hur.

Insyn utan att öppna dörren för angripare

Ett rimligt motargument är att full teknisk öppenhet kan skapa nya säkerhetsrisker. Det offentliga bör inte publicera detaljer om sårbarheter, behörigheter eller skyddsmekanismer som kan fungera som en manual för angrepp.

Men insyn behöver inte betyda att varje rad kod eller varje del av systemarkitekturen offentliggörs. Medborgare ska kunna få veta vilket system som används, för vilket ändamål, vilka uppgifter som behandlas, vem som ansvarar, hur länge uppgifterna sparas och hur ett beslut kan ifrågasättas. Oberoende granskare måste samtidigt kunna få den djupare tillgång som krävs för att kontrollera säkerhet, diskrimineringsrisker och leverantörernas påståenden.

En annan invändning är kostnaden. Små kommuner har inte samma tillgång till jurister, säkerhetsspecialister och tekniska granskare som stora myndigheter. Men slutsatsen bör inte vara lägre skydd för barn beroende på bostadsort. Sverige behöver i stället gemensamt upphandlingsstöd, granskningsmodeller och tydliga krav som mindre offentliga aktörer faktiskt kan använda.

Krav före lansering, inte efter skadan

Innan ett AI-verktyg får behandla verkliga personuppgifter bör den offentliga aktören kunna redovisa ändamål och rättslig grund, vilka uppgifter som verkligen behövs, leverantörer och underleverantörer, lagringsplats, eventuella överföringar utanför EU och EES samt om inmatade uppgifter används för att utveckla leverantörens modeller. Där det krävs ska konsekvensbedömningen vara färdig, säkerhetsanalysen dokumenterad och berörda barn, vårdnadshavare och anställda ha fått begriplig information.

Offentlig sektor behöver inte träna egna modeller på individuppgifter för varje tänkbart problem. Lokala lösningar, strikt avgränsade system, syntetiska data och pseudonymisering kan i vissa fall minska riskerna, även om pseudonymiserade uppgifter fortfarande omfattas av GDPR.

Min slutsats är därför varken ett teknikstopp eller ett frikort. Sverige bör använda AI där nyttan kan visas och riskerna kan hanteras. Men när barns uppgifter står på spel måste bevisbördan ligga på den offentliga aktör som vill införa systemet.

Effektivitet kan mätas i sparade minuter. Tillit byggs långsammare och kan raseras på ett ögonblick. Den offentliga sektorns AI-politik måste klara att skydda båda.

← Tillbaka till nyhetsarkivet