Hoppa till innehållet
← Sejfer Nyheter

Krönika

Öppen artikel

AI är inte problemet – ansvarslösheten är det

Sverige behöver inte välja mellan teknisk utveckling och personlig integritet. Men när AI påverkar myndighetsbeslut, service och vardagstjänster måste det vara tydligt vem som ansvarar, vilka uppgifter som används och hur den enskilde kan få ett beslut granskat.

Cirka 5 min läsningFler öppna artiklar
Bilden är AI-genererad och inspirerad av artikeltexten.

Det farligaste med AI är inte att tekniken kan fatta snabba beslut. Det är att människorna bakom besluten kan börja skylla på tekniken. När en myndighet, bank eller arbetsgivare låter ett system sortera, profilera eller prioritera människor får ansvarskedjan inte sluta i en svart låda.

Integritet framställs ibland som priset vi måste betala för innovation. Jag köper inte den motsättningen. Sverige behöver inte välja mellan teknisk utveckling och skyddet för den enskilde. Däremot måste vi välja om utvecklingen ska styras av begripliga regler och demokratisk kontroll eller av leverantörsavtal som få medborgare någonsin får se.

Reglerna finns redan – åtminstone på papperet

GDPR gäller även när personuppgifter behandlas med AI. Reglerna är teknikneutrala: behandlingen måste ha rättslig grund, uppgifterna får inte samlas in för oklara ändamål och verksamheten ska begränsa mängden data, skydda den och kunna visa att reglerna följs.

Det räcker inte heller att plocka bort namn och personnummer och sedan kalla materialet anonymt. Pseudonymiserade uppgifter är normalt fortfarande personuppgifter. Kombinationer av exempelvis plats, tid, yrke och köpmönster kan göra en människa identifierbar igen.

EU:s AI-förordning trädde i kraft den 1 augusti 2024 och införs stegvis. Huvuddelen börjar tillämpas den 2 augusti 2026, medan vissa bestämmelser har tidigare eller senare startdatum. Förordningen ersätter inte GDPR utan lägger till krav som bland annat gäller riskhantering, dokumentation, loggning, mänsklig kontroll, transparens och säkerhet för vissa system, särskilt sådana som klassas som hög risk.

Det är alltså fel att tala som om Sverige stod helt utan regler. Den starkaste invändningen mot krav på ytterligare reglering är tvärtom att problemet ofta ligger i efterlevnaden: bristande kompetens, svag tillsyn och otydliga ansvarsförhållanden. Det är en rimlig invändning. Nya paragrafer hjälper föga om ingen kan granska systemen eller ingripa i tid.

Ansvaret får inte försvinna bland leverantörerna

En AI-tjänst kan omfatta en myndighet eller ett företag som använder systemet, en systemleverantör, en molnleverantör, flera underleverantörer och ibland en separat leverantör av en grundmodell. Men en lång teknisk kedja får inte bli en ursäkt för ett kort politiskt minne.

GDPR skiljer mellan den som bestämmer ändamål och medel för behandlingen, den personuppgiftsansvarige, och den som behandlar uppgifter på uppdrag av denne, personuppgiftsbiträdet. I vissa fall kan flera aktörer ha ett gemensamt ansvar. Poängen är enkel: ansvaret ska fördelas och dokumenteras, inte lösas upp.

Den enskilde måste kunna få veta vem som bestämde syftet, vilka uppgifter som användes, vilka aktörer som fick tillgång till dem och vart man vänder sig när något blev fel. Innan behandling som sannolikt medför hög risk inleds kräver GDPR dessutom en konsekvensbedömning avseende dataskydd. AI-förordningen ställer i vissa fall även krav på bedömning av hur hög-risk-system påverkar grundläggande rättigheter, bland annat för offentliga organ och vissa aktörer som tillhandahåller offentliga tjänster.

Ett beslut blir inte neutralt för att en maskin föreslår det

Historiska data kan bära på tidigare skevheter. Ett system som tränas på sådana data kan reproducera och skala upp skillnader inom exempelvis rekrytering, kreditgivning, utbildning eller offentlig service. Samtidigt ska vi inte låtsas att mänskliga beslut automatiskt är rättvisa. Människor kan vara inkonsekventa, fördomsfulla och dåliga på att dokumentera sina bedömningar.

Rätt använd kan AI bidra till mer enhetliga processer, bättre loggning och lättare upptäckt av avvikelser. Men då måste systemet vara testat och möjligt att granska, och den mänskliga kontrollen måste vara verklig. En handläggare som förväntas godkänna hundratals maskinella rekommendationer har knappast fått någon meningsfull kontroll.

GDPR begränsar beslut som enbart grundas på automatiserad behandling när de får rättsliga följder eller på liknande sätt påverkar en person betydande. Det finns undantag, men de åtföljs av krav på skyddsåtgärder. Det visar varför integritet inte bara handlar om huruvida uppgifter har läckt. Den handlar också om vem som blir hårdare granskad, får sämre service eller placeras i en riskkategori som är svår att förstå och bestrida.

Svenska varningsskyltar finns redan

År 2019 beslutade dåvarande Datainspektionen, numera Integritetsskyddsmyndigheten, att Skellefteå kommun skulle betala en sanktionsavgift på 200 000 kronor efter ett försök med ansiktsigenkänning för närvarokontroll i en skola. Myndigheten bedömde bland annat att behandlingen av elevernas biometriska uppgifter saknade tillräckligt stöd och att samtycke inte var en lämplig grund i den beroendeställning som rådde.

År 2022 beslutade IMY att Clearview AI skulle betala en administrativ sanktionsavgift på 35 miljoner kronor för behandling av biometriska personuppgifter i företagets ansiktsigenkänningstjänst. Fallen visar både att reglerna kan användas och att tillsyn ofta aktualiseras först efter att en problematisk behandling har påbörjats.

Det är särskilt viktigt när biometriska uppgifter används. Ett lösenord går att byta. Ett ansikte gör det inte.

Insyn betyder inte att allt kan offentliggöras

För myndigheter är AI-frågan demokratisk, inte bara teknisk. Medborgaren kan sällan välja bort kontakten med staten eller avstå från att lämna de uppgifter som krävs för ett ärende. Därför behövs begriplig information, fungerande klagomålsvägar, möjlighet till mänsklig prövning när konsekvenserna är betydande och extern granskning.

Offentlighetsprincipen kan ge insyn i myndigheters upphandlingar, handlingar och beslutsunderlag. Men den garanterar inte full tillgång till algoritmer, källkod, träningsdata eller leverantörers företagshemligheter. Sekretess, informationssäkerhet och skyddet för personuppgifter kan begränsa vad som lämnas ut. Just därför måste offentlig insyn kompletteras med kvalificerad och oberoende tillsyn.

Riskbaserat betyder inte kravlöst

Alla AI-system behandlar inte personuppgifter och alla innebär inte samma risk. Ett internt verktyg som arbetar med verkligt anonymiserade eller syntetiska data bör inte behandlas som ett system som påverkar människors rätt till arbete, kredit eller offentlig service. Överdrivna och otydliga krav kan dessutom bli särskilt kostsamma för små organisationer och stoppa legitima projekt.

Svaret är dock inte svagare skydd, utan proportionerliga krav, gemensamma standarder, tydlig vägledning och bättre offentlig beställarkompetens. Integritet genom design kan vara ett kvalitetskrav: verksamheten tvingas veta vilka data den använder, varför de behövs, hur länge de sparas och hur fel ska rättas.

Sveriges verkliga vägval står därför inte mellan AI och integritet. Det står mellan ansvarsfull och ansvarslös AI. Tekniken kan effektivisera samhället, men effektivitet är inget frikort från rättssäkerhet. Om ingen kan förklara ett system, granska dess användning eller bära kostnaden när en människa drabbas, då är problemet inte att lagen bromsar innovationen. Då är problemet att makten har automatiserats snabbare än ansvaret.

← Tillbaka till nyhetsarkivet