Krönika
Öppen artikelSverige behöver mer digitalt ansvar – inte mer slentrianmässig övervakning
AI och digitala system kan göra samhället både effektivare och säkrare. Men utan tydligt ledningsansvar, riskbedömningar och mänsklig kontroll riskerar tekniken att skala upp fel, beroenden och integritetsintrång.

Det går att köpa in ett AI-system på några månader. Det tar betydligt längre tid att bygga den kompetens, ansvarskedja och säkerhetskultur som krävs för att använda det klokt. Där finns en av den svenska digitaliseringens mest underskattade risker.
Problemet är inte att Sverige saknar teknik. Inte heller saknas regelverk. Problemet uppstår när införandet behandlas som ett teknikprojekt medan ansvaret för säkerhet, personuppgifter och konsekvenser blir allas fråga och därmed ingens.
Det är frestande att mäta digital framgång i hur många verksamheter som använder AI. Eurostats statistik visar att Sverige tillhör de EU-länder där en hög andel företag med minst tio anställda använder AI-teknik. Men den statistiken säger ingenting om systemen är säkra, lagenliga eller lämpliga för sina uppgifter. Användning är inte samma sak som ansvar.
Regler finns – men de måste få konsekvenser
Det vore fel att påstå att Sverige eller EU står utan skyddsräcken. GDPR kräver att personuppgifter behandlas lagligt, korrekt och öppet, för bestämda och berättigade ändamål. Uppgifterna ska begränsas till vad som behövs, och den ansvariga verksamheten ska kunna visa att reglerna följs.
GDPR kräver också inbyggt dataskydd och dataskydd som standard. Integriteten ska alltså inte läggas till i efterhand som en juridisk bilaga när systemet redan är upphandlat och driftsatt. När ny teknik sannolikt medför hög risk för människors fri- och rättigheter ska en konsekvensbedömning göras före behandlingen.
EU:s AI-förordning trädde i kraft den 1 augusti 2024 och börjar tillämpas stegvis. Förbud mot vissa AI-metoder och krav på AI-kunnighet började tillämpas den 2 februari 2025, medan andra delar följer senare. För AI-system som klassas som högrisk ställer förordningen krav på bland annat riskhantering, dokumentation, loggning, robusthet, cybersäkerhet och mänsklig översyn.
Även NIS2-direktivet visar vart ansvaret är på väg. För de verksamheter som omfattas handlar cybersäkerhet inte bara om IT-avdelningens brandväggar, utan om incidenthantering, kontinuitet, leveranskedjor, säker utveckling och ledningens ansvar att godkänna och övervaka åtgärderna. Exakt vilka svenska aktörer och skyldigheter som omfattas avgörs av den nationella regleringen och verksamhetens klassificering. Det är därför missvisande att skriva som om alla kommuner och företag träffas på samma sätt.
Regelbrist är alltså inte hela förklaringen. Den svårare frågan gäller efterlevnad, kompetens, tillsyn och praktiskt genomförande. En organisation kan ha en policy för ansvarsfull AI och ändå sakna någon som faktiskt kan stoppa ett olämpligt införande.
Mänsklig kontroll får inte bli en dekorativ knapp
När AI används för urval, bedömningar eller beslut som påverkar människor kan ett fel skalas upp snabbt. Bristfälliga data, olämpliga modeller eller otydliga instruktioner kan påverka många personer innan någon upptäcker mönstret.
Därför måste mänsklig kontroll betyda mer än att en handläggare formellt kan klicka på godkänn. Den ansvariga personen måste förstå systemets begränsningar, ha tillgång till relevant underlag och kunna ändra eller stoppa resultatet.
Detta är inte enbart en etisk önskan. AI-förordningen kräver mänsklig översyn för högrisk-AI. GDPR ger dessutom människor rätt att, med vissa undantag, inte bli föremål för beslut som enbart grundas på automatiserad behandling när beslutet får rättsliga följder eller på liknande sätt påverkar dem i betydande grad.
Ett system kan samtidigt vara tillåtet enligt AI-förordningen men strida mot GDPR eller andra regler. AI-förordningen ersätter inte dataskydd, förvaltningsrätt, diskrimineringsrätt eller offentlighets- och sekretessregler. Den som nöjer sig med att fråga om ett verktyg är godkänt enligt en enda förordning ställer därför en alltför liten fråga.
Cybersäkerhet är inte samma sak som massinsamling
När hotbilden skärps hörs ofta krav på mer loggning, fler kontroller och större tillgång till data. En del av detta kan vara motiverat. Men säkerhet får inte bli ett universalargument för att samla in så mycket information som möjligt.
Europakonventionen skyddar privat- och familjelivet. Offentliga ingrepp måste ha lagstöd och vara nödvändiga i ett demokratiskt samhälle för legitima ändamål. EU-stadgan skyddar både privatlivet och personuppgifterna. Det betyder inte att säkerhetsloggning är förbjuden, utan att insamlingen måste ha ett tydligt ändamål och vara proportionerlig.
Här behövs en viktig åtskillnad. Flerfaktorsautentisering, nätverkssegmentering, kryptering, säkerhetsuppdateringar och strikt behörighetsstyrning kan höja säkerheten utan att skapa generell personövervakning. Loggar kan också vara nödvändiga för att upptäcka och utreda incidenter, men åtkomsten, innehållet och lagringstiden måste begränsas.
AI-förordningen förbjuder dessutom vissa särskilt skadliga AI-användningar. Rättsvårdande myndigheters realtidsbaserade fjärrbiometriska identifiering i offentligt tillgängliga miljöer är i princip förbjuden, även om förordningen innehåller snäva och villkorade undantag. Det är en påminnelse om att teknisk möjlighet inte automatiskt innebär demokratisk legitimitet.
Tekniken kan också stärka försvaret
Motargumentet måste tas på allvar: fler krav kan skapa byråkrati, särskilt för små kommuner och mindre företag. Om varje AI-verktyg behandlas som ett högrisksystem kan resurser flyttas från faktisk säkerhet till dokumentation. AI kan dessutom användas för att upptäcka avvikande nätverkstrafik, prioritera larm, förbättra tillgänglighet och minska vissa manuella fel.
ENISA beskriver just denna dubbla verklighet. Generativ AI kan stärka försvarare men också underlätta social manipulation, innehållsproduktion och automatisering av angrepp. Slutsatsen bör därför inte vara att all AI ska bromsas, utan att kraven ska anpassas efter den verkliga risken.
Det är också den rimliga innebörden av en riskbaserad reglering. Ett hjälpmedel för intern textbearbetning ska inte automatiskt hanteras på samma sätt som ett system som påverkar människors tillgång till arbete, utbildning eller samhällstjänster. Men när konsekvenserna kan bli stora måste också kontrollen vara skarp.
Ansvar måste få ett namn
Varje offentlig och privat verksamhet som inför känsliga digitala system bör kunna besvara några enkla frågor: Vem äger risken? Vilka uppgifter får användas? Vad händer om leverantören drabbas av ett avbrott eller en incident? Hur upptäcks fel? Vem kan stoppa systemet? Hur informeras och hjälper man den som påverkas?
Ansvaret måste finnas på flera nivåer. Politiker ansvarar för lagar, resurser och tillsyn. Ledningar ansvarar för styrning, upphandling och riskacceptans. Den operativa verksamheten ansvarar för säker utveckling, drift, utbildning och incidenthantering. Ingen av nivåerna kan ersättas av ett avtal där leverantören lovar att tjänsten är säker.
Min slutsats är därför inte att Sverige behöver mindre digitalisering. Sverige behöver en mer vuxen digitalisering, där säkerhet, insyn och mänsklig kontroll byggs in före driftsättningen och där integriteten inte offras av gammal vana.
Det verkliga vägvalet står inte mellan innovation och säkerhet. Det står mellan teknik med tydligt ansvar och teknik vars konsekvenser någon annan förväntas reda ut senare.



