När världens ledare försöker reglera artificiell intelligens – handlar det om att skydda människor, eller om att skydda sin egen makt?

Föreställ dig att världens ledare samlas för att underteckna en ny internationell överenskommelse om artificiell intelligens. Kamerorna är på plats, formuleringarna är högtidliga och orden återkommer som ett mantra: ansvar, säkerhet, mänskliga rättigheter och framtid. Det låter betryggande. Nästan som om politiken äntligen har hunnit ikapp tekniken.

Men det är svårt att inte ställa den obekväma frågan: vem är det egentligen som ska skyddas när makthavare vill reglera AI? Är det människor som riskerar att förlora jobbet, få sina liv kartlagda eller bli felaktigt bedömda av en algoritm? Eller är det stater, myndigheter och etablerade företag som vill behålla kontrollen över en teknik de länge underskattade?

En teknik som springer snabbare än politiken

Artificiell intelligens har på kort tid gått från att vara ett ämne för teknikentusiaster till att bli en del av vardagen. Den skriver texter, sorterar jobbansökningar, tolkar röntgenbilder, väljer vilka nyheter vi ser och hjälper företag att förutsäga våra beteenden. I vissa fall gör den livet enklare. I andra fall fattar den beslut som kan få avgörande konsekvenser, utan att den som drabbas ens vet att en algoritm varit inblandad.

Politiken arbetar däremot i ett annat tempo. Utredningar ska tillsättas, remisser ska skickas ut, kompromisser ska förhandlas fram och lagtexter ska granskas. Det är ofta nödvändigt, eftersom dåliga lagar kan skapa nya problem. Men medan beslutsfattarna diskuterar definitioner har tekniken redan gått vidare till nästa version.

Det skapar en märklig situation. De som utvecklar AI kan förändra arbetsmarknaden, informationsflödet och relationen mellan medborgare och stat på några månader. De som ska sätta gränserna behöver ibland flera år för att ens enas om vilka frågor som bör ställas. Det är som att försöka reglera en flod med ett regelverk för pölar.

Skydd för människor eller kontroll över marknaden

Reglering behövs. Det är viktigt att säga tydligt. Ingen rimlig människa bör vilja ha ett samhälle där företag kan samla in obegränsade mängder data, träna system på upphovsrättsskyddat material utan insyn eller låta automatiserade beslut avgöra människors framtid utan möjlighet att överklaga.

Men reglering är inte automatiskt detsamma som rättvisa. Den kan också användas för att stärka dem som redan är mäktiga. Om kraven på säkerhet, dokumentation och juridisk expertis blir för dyra kan små aktörer stängas ute. Då blir resultatet inte en mer demokratisk AI-utveckling, utan en marknad där några få teknikjättar och statliga institutioner får ännu större inflytande.

Det finns en risk att stora företag välkomnar hårda regler, åtminstone i offentligheten. De har råd med jurister, compliance-avdelningar och tekniska resurser. Den lilla utvecklaren, forskargruppen eller ideella organisationen har sällan samma möjligheter. En överenskommelse som sägs skydda allmänheten kan därför, om den utformas fel, bli ett effektivt skydd för de största bolagens affärsmodeller.

Vem granskar granskarna?

Det är också värt att fundera över vilka verktyg stater vill använda i säkerhetens namn. Många regeringar varnar med rätta för desinformation, bedrägerier och automatiserade påverkanskampanjer. Samtidigt kan samma argument användas för att övervaka medborgare, filtrera kommunikation och begränsa obekväma röster.

Historien lär oss att teknik sällan är neutral när den hamnar i händerna på makten. Ett system som kan identifiera ansikten i en folksamling kan användas för att hitta efterlysta brottslingar. Det kan också användas för att kartlägga demonstranter. Ett verktyg som upptäcker misstänkta transaktioner kan stoppa ekonomisk brottslighet. Det kan också göra varje medborgare till ett potentiellt misstänkt objekt i ett automatiserat granskningssystem.

Därför räcker det inte att fråga om AI är säker. Vi måste fråga: säker för vem? Säker från vad? Och vem får definiera hotet? När stater talar om trygghet måste medborgare kräva tydliga svar, oberoende granskning och möjlighet att säga nej. Annars riskerar tryggheten att bli ett ord som döljer en ny form av lydnad.

Demokrati kräver mer än fina principer

En internationell överenskommelse om AI kan vara ett viktigt steg, men bara om den bygger på mer än vackra deklarationer. Det behövs konkreta krav på transparens, särskilt när algoritmer används inom vård, rättsväsende, skola och offentlig förvaltning. Människor måste kunna förstå när de bedöms av ett system, vilka uppgifter som används och hur ett beslut kan ifrågasättas.

Det behövs också regler som skyddar arbetstagare. AI kommer inte att ersätta alla jobb, men den kommer att förändra många. Problemet är inte bara att vissa arbetsuppgifter försvinner. Det är också att fler människor kan få sitt arbete övervakat, mätt och styrt av system som saknar förståelse för stress, erfarenhet och mänsklig värdighet.

Och kanske viktigast av allt: samtalet får inte begränsas till regeringar och teknikföretag. Lärare, vårdpersonal, konstnärer, fackföreningar, forskare och vanliga medborgare måste få vara med. AI är inte en fråga för en liten krets experter. Den handlar om hur vi vill leva, arbeta och bli behandlade i framtiden.

Framtiden får inte bli en sluten förhandling

När världens ledare försöker reglera artificiell intelligens bör vi alltså inte nöja oss med applåder och gruppbilder. Vi bör lyssna efter vad som saknas i formuleringarna. Finns det skydd mot massövervakning? Finns det rätt att överklaga automatiserade beslut? Finns det utrymme för innovation utanför de största företagen? Finns det verkliga konsekvenser för den som bryter mot reglerna?

AI kan bli ett verktyg för kunskap, tillgänglighet och bättre samhällsservice. Men den kan också förstärka ojämlikhet, koncentrera makt och göra övervakning vardaglig. Tekniken avgör inte själv vilken väg vi tar. Det gör människor, företag och politiska institutioner.

Frågan är därför inte om AI ska regleras. Frågan är om regleringen görs för att försvara människors frihet – eller för att göra framtiden lättare att kontrollera för dem som redan sitter vid makten.