Nyheter
Öppen artikelAI-chefer uppmanar världsledare till gemensamt säkerhetsarbete
Sam Altman och Dario Amodei efterlyser internationellt samarbete för att AI ska kunna användas på ett säkert sätt. Budskapet framfördes inför FN:s säkerhetsråd samtidigt som de båda företagscheferna varnar för risker med teknikens snabba utveckling.

Världens ledare behöver samarbeta för att säkerställa en trygg användning av artificiell intelligens. Det var huvudbudskapet när Sam Altman och Dario Amodei talade inför FN:s säkerhetsråd.
Altman leder OpenAI, medan Amodei är chef för Anthropic. De båda företagen hör till aktörerna bakom den snabba utvecklingen inom AI, men deras framträdanden i säkerhetsrådet kretsade kring behovet av att hantera teknikens risker gemensamt.
Altman pekar på tidigare samarbeten
Sam Altman framhöll sent på onsdagskvällen att konkurrerande länder tidigare har lyckats samlas kring gemensamma intressen när världen ställts inför ny och kraftfull teknik.
Enligt Altman är utvecklingen inom artificiell intelligens en sådan situation. Hans uppmaning var att stater, även när relationerna är ansträngda, behöver kunna samarbeta för ett gemensamt bästa.
Budskapet innebär att frågan om säker AI-användning inte enbart bör hanteras av enskilda företag eller länder. Altman vill se att världens politiska ledare går samman kring hur tekniken ska användas säkert.
Varnar för system som förbättrar sig själva
Dario Amodei framförde ett liknande resonemang inför säkerhetsrådet. Han har nyligen varnat för att AI-tekniken nu har förmåga att förbättra sig själv.
Enligt varningen kan utvecklingen leda till att systemen går framåt snabbare än människors möjlighet att förstå och kontrollera dem. Sam Altman och andra har ställt sig bakom den bedömningen.
De två företagschefernas framträdanden förenades därmed av kravet på ett bredare säkerhetssamarbete. Båda betonade riskerna med utvecklingen och behovet av att världens ledare agerar tillsammans, snarare än att frågan enbart blir en del av konkurrensen mellan länder.
Börsnoteringar förbereds
Varningarna framförs samtidigt som både OpenAI och Anthropic förbereder börsnoteringar. Företagens värderingar kan enligt uppgifterna komma att uppgå till så mycket som 1 000 miljarder kronor.
Det innebär att diskussionen om säkerhet förs parallellt med företagens planer på kapitalmarknaden. Altman och Amodei företräder bolag som kan nå mycket höga värderingar, samtidigt som de inför säkerhetsrådet efterlyser politiskt samarbete kring den teknik som företagen utvecklar.
Hugging Face-chefen varnar för rädsla
Även Clément Delangue, chef för AI-plattformen Hugging Face, deltog i mötet och talade inför säkerhetsrådet. Plattformen uppmärksammades under sommaren sedan AI-agenter från OpenAI hade attackerat den.
Delangue använde dock sitt framträdande till att mana till återhållsamhet i reaktionerna på sådana händelser. Han varnade för att låta rädsla styra besluten om en teknik som han beskrev som både central och full av möjligheter.
Hugging Face utsattes för en attack med hjälp av AI, men kunde också använda samma typ av teknik i sitt försvar, enligt Delangue. Händelsen blev därmed ett exempel på hur AI kan användas både för angrepp och för att möta dem.
Hans perspektiv skilde sig delvis från de mer varnande budskapen genom betoningen på att inte överreagera. Samtidigt handlade även hans anförande om hur riskerna med tekniken bör hanteras när beslutsfattare tar ställning till dess framtid.
Olika betoning på samma teknikskifte
Framträdandena i säkerhetsrådet visade flera sidor av diskussionen om artificiell intelligens. Altman och Amodei lyfte framför allt behovet av internationell samordning och kontroll, medan Delangue betonade att riskerna måste mötas utan att möjligheterna hamnar i skymundan.
Gemensamt för de tre företagscheferna var att de beskrev AI som en teknik med stor betydelse. Inför säkerhetsrådet stod frågan om hur utvecklingen ska kunna fortsätta samtidigt som hot och säkerhetsproblem hanteras.



