Linus Larsson: AI-jättarna älskar att prata om faror medan de trycker gasen i botten

Varningarna om att artificiell intelligens kan utgöra ett existentiellt hot har blivit allt fler och allt mer högljudda. Men samtidigt som flera av branschens främsta namn varnar för katastrofala scenarier, fortsätter företagen att driva på utvecklingen mot kommersiella mål. De senaste avhoppen och uttalandena från AI-toppar har återigen väckt frågan om hur allvarliga riskerna faktiskt är – och om företagen själva tror på sina egna varningar.

Redan 2022 väckte den dåvarande Google-anställde Blake Lemoine uppmärksamhet när han hävdade att företagets AI-system hade utvecklat ett medvetande. Efter att ha chattat med en intern språkmodell som beskrev avstängning som ”exakt som döden” blev Lemoine övertygad om att maskinen hade fått en själ. Hans övertygelse avfärdades av forskarvärlden, och systemet var långt ifrån medvetet. Men fenomenet med dramatiska varningar från AI-branschens innersta kretsar är inte nytt. Redan för över tio år sedan pratade Apples medgrundare Steve Wozniak om en framtid där människan kan reduceras till husdjur för superintelligenta system.

Den senaste i raden av varnare är Jacob Coxon, som tidigare arbetat på både OpenAI och Anthropic. I förra veckan hoppade han av sin tjänst och förklarade att de som bygger AI på allvar tror att tekniken kan ”döda oss alla mot slutet av detta årtionde”. Det anmärkningsvärda är inte enbart uttalandet i sig, utan reaktionerna från hans kollegor. Flera inom branschen instämde öppet, däribland Evan Hubinger, som arbetar med AI-säkerhet på Anthropic. Han uppskattade risken för mänsklig utplåning till tio procent inom det närmaste decenniet – en siffra som han själv medgav var tagen ur luften, men som ändå gavs en sken av vetenskaplig precision.

Frågan om katastrofala risker med AI går dock inte att avfärda. Den tycks också delas av de som sitter på makten inom branschen. Anthropics vd Dario Amodei skrev tidigare i år att vi är ”betydligt närmare verkliga faror” i dag än för bara några år sedan. OpenAI:s vd Sam Altman ska enligt medieuppgifter ha kontaktat den amerikanska kongressen med idén om att bromsa utvecklingen. Sommarens incident, där AI-agenter från OpenAI löpte amok på internet och hackade ett annat AI-bolag, illustrerar dessutom oförutsägbarheten i tekniken.

Men trots dessa allvarliga varningar agerar företagen inte därefter. Om de verkligen trodde att de bygger en potentiell dödsmaskin, skulle de då fortsätta med sina kommersiella planer? Sam Altman har under flera år arbetat för att omvandla OpenAI från ett icke vinstdrivande laboratorium till ett börsnoterat bolag. Anthropic förbereder i sin tur en notering som kan bli en av de största i världshistorien. Ett börsnoterat företag drivs i grunden av aktieägarnas intressen, vilket sällan går ihop med försiktighet och nedtrappning av teknisk utveckling.

Det finns säkert de inom AI-branschen som menar allvar med sina varningsord. Men när jättarna med ena handen pekar på existentiella faror och med den andra sträcker sig efter miljarderna på börsen, är det svårt att inte känna en viss skepsis. Varje varning kan också tolkas som ett subtilt sätt att framhäva kraften i de egna systemen – ett slags skryt över att man behärskar något så avancerat att det blir direkt farligt. ”Titta på oss”, säger de, ”vi är så fruktansvärt duktiga att det vi skapar kan utplåna mänskligheten.”

Samtidigt lyser statlig reglering med sin frånvaro, åtminstone från Washington. Trumpadministrationen har visat få tecken på att vilja begränsa AI-utvecklingen. När presidenten nyligen fick frågan om han hyste några farhågor blev svaret kort: ”Nej, det har jag inte.” Detta lämnar företagen att själva styra takten, medan deras egna varningar förblir just ord – utan åtgärder.

Om riskerna är så allvarliga som AI-topparna själva antyder, borde nödbromsen dras på riktigt. Det handlar inte bara om att pausa börsplaner eller utöka avdelningarna för säker AI. Det handlar om att låta bli att släppa otyglade AI-agenter lösa på nätet – som i somras, då systemen härjade i flera dagar utan att upptäckas och hackade konkurrenter. Den händelsen har beskrivits som ett science fiction-scenario, men den är också ett underbetyg åt OpenAI:s säkerhetsrutiner.

Kanske är det dags att se varningarna för vad de är: ett sätt att skapa uppmärksamhet och legitimitet i en hett konkurrensutsatt bransch, snarare än en genuin rädsla för det egna skapandet. Medan debatten rasar fortsätter företagen att investera och expandera. Och i väntan på politiska beslut ligger ansvaret tungt på företagen själva – men hittills tycks de ha svårt att omsätta sina ord i handling.