Hoppa till innehållet
← Sejfer Nyheter

Krönika

Öppen artikel

AI-integritet kan inte vara den enskildes heltidsjobb

När AI påverkar kreditbedömningar, offentliga stöd och andra viktiga beslut räcker det inte att hänvisa till villkor och formella rättigheter. Företag och myndigheter måste bära ett tydligare ansvar för begriplighet, proportionalitet och verklig möjlighet till omprövning.

Cirka 5 min läsningFler öppna artiklar
Bilden är AI-genererad och inspirerad av artikeltexten.

Integritet kan inte reduceras till ännu en ruta som den enskilde förväntas kryssa i. När AI påverkar beslut med betydelse för människors ekonomi och tillgång till samhällsservice måste ansvaret ligga hos den som väljer att använda systemet.

Det är lockande att beskriva dagens problem som att vi har byggt hela integritetsskyddet på samtycke. Så enkelt är det inte. GDPR tillåter behandling av personuppgifter på flera rättsliga grunder, däribland avtal, rättslig förpliktelse, uppgifter av allmänt intresse och berättigat intresse. Myndigheter behöver ofta inte, och ska inte alltid, luta sig mot ett ja från den enskilde.

Men den juridiska nyansen förändrar inte maktproblemet. Den som söker kredit, ansöker om ett offentligt stöd eller försöker förstå varför ett digitalt system har sorterat bort en ansökan befinner sig sällan i en jämbördig förhandling. Att rättigheter finns i en förordning betyder inte automatiskt att de går att använda i praktiken.

Ett skydd med tydliga gränser

GDPR ger som huvudregel en person rätt att inte bli föremål för ett beslut som enbart grundas på automatiserad behandling och som får rättsliga eller liknande betydande följder. Regeln har undantag, bland annat för vissa avtalsförhållanden, lagstöd och uttryckligt samtycke. När sådana beslut tillåts kan det finnas krav på skyddsåtgärder, däribland möjlighet till mänskligt ingripande, att framföra sin ståndpunkt och att bestrida beslutet.

Det är ett viktigt skydd, men det är avgränsat. Många system lämnar rekommendationer, riskvärden eller prioriteringar till en människa som formellt fattar beslutet. Om handläggaren i praktiken bara bekräftar systemets förslag kan den mänskliga kontrollen bli mer ceremoni än rättssäkerhet.

Inte heller finns det någon generell och obegränsad rätt till en fullständig förklaring av alla AI-system. Vid automatiserade beslut som omfattas av reglerna ska den berörda däremot kunna få meningsfull information om den bakomliggande logiken, behandlingens betydelse och dess förutsedda följder. Det behöver inte innebära att hela källkoden eller alla affärshemligheter offentliggörs. Men det bör innebära att en människa kan förstå beslutets huvudskäl, vilka uppgifter som spelat roll och hur ett fel kan rättas.

Ett poängvärde kan styra mer än det ser ut att göra

EU-domstolens dom i SCHUFA-målet visar varför det formella ansvaret inte alltid räcker. Domstolen slog fast att automatisk poängsättning av kreditvärdighet kan omfattas av GDPR:s regler om automatiserade individuella beslut när kreditgivaren i praktiken tillmäter poängen en avgörande roll.

Det är en avgörande insikt. Makt finns inte bara hos den aktör som skickar avslagsbrevet. Den kan också ligga hos företaget som producerar riskpoängen, hos leverantören som har byggt modellen eller i ett system vars rekommendation nästan aldrig ifrågasätts.

EU:s AI-förordning försöker möta delar av detta problem. Den trädde i kraft den 1 augusti 2024 och börjar tillämpas stegvis, med merparten av bestämmelserna från den 2 augusti 2026. Förordningen klassar bland annat vissa system för kreditvärdering och vissa beslut om väsentliga offentliga stöd och tjänster som högrisk. För sådana system ställs krav på exempelvis riskhantering, dokumentation, loggning, datastyrning, mänsklig kontroll, riktighet och cybersäkerhet.

Det är ett steg i rätt riktning, inte ett frikort att slå sig till ro. AI-förordningen ersätter inte GDPR, och välskrivna styrdokument hjälper föga om den berörda personen fortfarande möts av ett standardiserat besked utan användbar motivering.

Svenska erfarenheter borde ha lärt oss mer

Integritetsskyddsmyndighetens tillsyn visar att riskerna inte är hypotetiska. Polismyndigheten ålades 2021 att betala en sanktionsavgift på 2,5 miljoner kronor efter användning av ansiktsigenkänningstjänsten Clearview AI. IMY bedömde bland annat att behandlingen av biometriska personuppgifter saknade tillräckligt stöd.

I ett annat ärende fick Skellefteå kommun en sanktionsavgift efter att en gymnasieskola använt ansiktsigenkänning för närvarokontroll. Där ansågs samtycke inte vara en lämplig rättslig grund, eftersom elevernas beroendeställning till skolan gjorde det svårt att tala om ett verkligt frivilligt val.

De fallen visar varför ett formellt ja inte alltid är ett meningsfullt ja. De visar också att ansvaret måste finnas innan tekniken tas i bruk, inte bara efter att en tillsynsmyndighet hunnit ingripa.

Automatisering är inte alltid fienden

Det finns relevanta motargument. Automatisering kan ge mer konsekventa bedömningar, bättre loggar och större spårbarhet än beslut som fattas utan tydliga kriterier. Människor är inte immuna mot godtycke eller diskriminering. Banker måste göra kreditprövningar, myndigheter måste utföra lagstadgade uppgifter och system mot bedrägerier kan inte fungera om varje användare alltid har en ovillkorlig rätt att välja bort behandlingen.

Därför vore ett absolut krav på att alltid få säga nej till AI både trubbigt och ibland ogenomförbart. En chattbot för enkla kundfrågor bör inte behandlas som ett system som påverkar kredit, bidrag eller andra ingripande beslut. Kraven måste följa riskerna.

Men just därför behöver Sverige en tydligare ansvarsmodell. I beslut med stor betydelse bör den ansvariga organisationen kunna redovisa systemets syfte, vilka slags uppgifter som används, vem som ansvarar för resultatet och hur fel upptäcks. Den berörda ska få en begriplig motivering och en enkel väg till verklig mänsklig omprövning. Högrisksystem bör granskas oberoende, och ansvariga aktörer bör följa upp fel, diskrimineringsrisker och överklaganden.

Insyn behöver inte betyda att hela modellen läggs ut på nätet. Den måste däremot vara tillräcklig för att den enskilde ska kunna förstå och angripa ett beslut. Mänsklig kontroll behöver inte innebära att varje moment görs manuellt. Den måste däremot utföras av någon med tid, kompetens och befogenhet att ändra resultatet.

Den digitala staten och den digitala marknaden kommer inte att bli mindre automatiserade. Frågan är därför inte om vi ska använda AI, utan vem som får bära kostnaden när systemen har fel. Om svaret fortsätter att vara den enskilde har vi inte skapat effektivitet. Vi har bara flyttat makt och kallat det innovation.

← Tillbaka till nyhetsarkivet