AI-jättarna varnar själva för domedagen – bara Trump tycks obekymrad

”AI:s säkerhetsexperter kan inte sova om nätterna. Det borde du inte heller kunna.” Så löd rubriken i New York Times pappersupplaga under söndagen, och den satte tonen för en vecka där artificiell intelligens dominerade nyhetsflödet.

Startskottet kom när Jacob Coxon, forskare på AI-företaget Anthropic, valde att lämna bolaget med ett uppmärksammat avskedsbrev. Där varnade han för att utvecklingen inom hans eget och andra ledande AI-företag kan leda till mänsklighetens undergång. Han uppmanade branschen att dra i nödbromsen innan det är för sent.

På lördagen fick Coxon medhåll från Anthropics vd Dario Amodei. I ett blogginlägg skrev Amodei att riskerna med AI är för stora om utvecklingen av nya modeller fortsätter i samma takt som i dag. Han hänvisade bland annat till en uppmärksammad händelse där en ”svärm” av AI-botar från OpenAI på eget bevåg hackade sig in i ett annat företags servrar – utan att någon människa beordrat det.

Amodei vill att oberoende experter kontinuerligt ska få utvärdera alla nya AI-modeller och slå larm om säkerhetsrisker. Han välkomnar också statlig reglering under en kommande frivillig paus i utvecklingen – förutsatt att Anthropics konkurrenter är beredda att göra samma sak.

Responsen lät inte vänta på sig. Elon Musk, som äger AI-bolaget xAI, svarade kort och gott på X: ”Dario har rätt.” Strax därefter anslöt sig även OpenAI:s vd Sam Altman: ”Oberoende utvärderare med liknande access som anställda är en utmärkt idé, och vi kommer att göra samma sak.”

Men frågan är om uppslutningen är så osjälvisk som den framstår. Anthropic och OpenAI har båda planerat börsintroduktioner under hösten, som bedömts kunna dra in tusentals miljarder dollar. Kritiker menar att företagen kan försöka cementera sin ledarposition genom att driva på regleringar som slår hårdast mot mindre aktörer i branschen.

I bakgrunden finns en växande folklig misstro mot den nya tekniken. Enligt färska mätningar tror färre än var fjärde amerikan att AI kommer att ha en positiv effekt på jobb, utbildning, sociala relationer och personlig lycka under de närmaste 20 åren. Missnöjet tar sig bland annat uttryck i ett kompakt motstånd mot de datacenter som AI-jättarna bygger runt om i landet – ett motstånd som återfinns hos både demokratiska och republikanska väljare. Protesterna har i flera delstater lett till att lokala politiker kräver stopp för nybyggnation, vilket i sin tur hotar AI-jättarnas expansionsplaner.

Kanske bevittnar vi ett historiskt skifte. USA:s befolkning har traditionellt omfamnat tekniska framsteg, från järnvägen och telegrafen till internet. Nu vill man trycka på paus. Det är en signal som politikerna inte kan ignorera, och för Demokraterna har AI-frågan förutspåtts bli en vinnarfråga i mellanårsvalet till kongressen den 3 november.

Vänsterdemokraten Bernie Sanders är en av de mest högljudda i debatten. Tillsammans med en kollega i senaten planerar han att lägga fram ett lagförslag med namnet ”Förbjud artificiell superintelligens” – ett tydligt ställningstagande för kraftfull statlig reglering.

– Trots de potentiellt dödliga konsekvenserna är AI-teknologin mindre reglerad än en genomsnittlig food truck. Det måste förändras, säger han till Politico.

Sanders förslag lär inte gå igenom, men även republikaner i kongressen har börjat öppna för hårdare reglering – inte minst för att förhindra att AI-botar utvecklar biologiska vapen. Senator Ted Cruz sammanfattade stämningen i en tv-intervju: ”Det här är läskiga saker.”

Donald Trump visar dock inga tecken på att vackla i sin positiva syn på AI. Under det republikanska konventet i Dallas i torsdags fick han frågan om han oroar sig för att AI kan utplåna mänskligheten.

– Nej. Det som bekymrar mig är att om vi inte vinner AI-racet hamnar vi i en mycket dålig position, svarade han.

För Trump handlar det ytterst om att vinna loppet mot Kina, som satsar stort på AI-utveckling. Samtidigt har han alltid ett öga på Wall Street: AI-relaterade aktier står i dag för nästan hälften av New York-börsens totala värde och för nära 90 procent av årets värdeökning. Den utvecklingen gör AI-frågan lika mycket ekonomisk som existentiell – och pressar politikerna att agera.

Frågan är dock om en frivillig paus och oberoende granskning räcker, eller om det krävs bindande lagstiftning. Under veckan har allt fler röster höjts för att AI-utvecklingen inte längre kan lämnas till företagen själva. Med tre av världens ledande AI-chefer som förespråkar reglering har debatten tagit ett nytt steg – men vägen till konkreta åtgärder lär bli lång. Experterna är dessutom oense om hur en framtida reglering bör utformas – allt från totalförbud mot vissa tillämpningar till krav på oberoende säkerhetsrevisioner av varje ny modell.