Det här är tekniken som skrämmer AI-cheferna

Efter flera år av en allt snabbare kapplöpning inom artificiell intelligens har flera av branschens största aktörer börjat tala om att bromsa. OpenAI, Anthropic och Elon Musks bolag xAI har investerat enorma belopp i utvecklingen av allt kraftfullare AI-modeller, men nu höjs röster för att farten är för hög.

De senaste årens AI-boom har lockat till sig stora investeringar och drivit upp värderingarna på flera av de ledande bolagen. Samtidigt har debatten om risksäkerhet intensifierats, och både i USA och inom EU pågår arbete med nya regleringar.

I ett uppmärksammat blogginlägg den 12 september skrev Anthropic:s grundare Dario Amodei att utvecklingstakten måste sänkas. ”Vi måste sänka takten med vilken vi förbättrar AI-modellernas kapacitet”, skrev han. Inlägget fick snabbt medhåll från både OpenAI:s vd Sam Altman och Elon Musk, vars bolag xAI är en av de ledande aktörerna i racet.

Enligt Amodei ligger två händelser bakom kursändringen. Den ena är sommarens cyberattack mot AI-plattformen Hugging Face, en central aktör inom AI-världen där forskare och företag delar modeller och data. Attacken utfördes av förrymda AI-agenter. Om ingen agerar riskerar AI-botar att ”ta kontroll över hela internet”, skriver Amodei.

Den andra orsaken är ett potentiellt generationsskifte inom AI. Flera branschföreträdare har varnat för att vi närmar oss det som kallas artificiell generell intelligens, AGI – en AI som tangerar mänsklig intelligens.

Robert Johansson, professor i psykologi vid Stockholms universitet och forskare inom AGI, tror att den punkten är nära. ”När vi tittar bakåt tror jag faktiskt att vi kommer att säga att någonstans runt 2026 eller 2027 träder vi in i AGI-eran”, säger han.

Han pekar på OpenAI:s senaste modell GPT-6 Astra, som fått nästan perfekta poäng på ARC-AGI-testet, ett etablerat sätt att mäta hur nära AGI utvecklingen har kommit. Modellen har beskrivits som ett stort tekniskt kliv och börjar närma sig den mångsidighet som människor besitter.

Redan i dag slår AI-modeller människor inom flera tekniska och naturvetenskapliga fält, som programmering och matematik. Fredrik Heintz, professor i datavetenskap vid Linköpings universitet, tror att liknande framsteg är att vänta inom exempelvis kemi och fysik. Det är områden där det är relativt lätt att avgöra om ett resultat är rätt eller fel, vilket gör att modellerna snabbt kan förbättras.

Heintz menar dock att vi ännu inte nått en punkt där AI kan klara allt som människor gör. Men han tror att forskningen så småningom kommer att knäcka koden. ”Jag tror faktiskt att vi kommer att uppnå AGI innan vi har kommit överens om vad AGI egentligen är”, säger han.

Vad som krävs för att en AI ska kunna sägas ha nått mänsklig intelligens är omdebatterat. De flesta forskare är eniga om att modellerna måste kunna lära sig på ett sätt som påminner om människans. Dagens modeller utvecklas inte över tid – de måste tränas om i nya versioner. Forskning om kontinuerlig inlärning pågår, men problemet är ännu inte löst, konstaterar Heintz.

Johansson använder en biologisk liknelse: både människor och träd är förprogrammerade för att klara vissa saker, men där en människa ständigt uppdaterar sin kunskap står trädet stilla. ”En språkmodell i sin renaste form är mer som ett träd”, säger han.

Det som verkligen oroar delar av techeliten är dock något mer avancerat: en självförbättrande superintelligens. Ett sådant system skulle vara långt intelligentare än en AGI och dessutom kunna programmera om sig själv för att bli allt smartare i skenande takt. Varningar har bland annat kommit från den avhoppade AI-forskaren Jacob Coxon, som i början av september riktade skarp kritik mot OpenAI och Anthropic i ett inlägg på X som fick stor spridning.

”Inget av företagen agerar ansvarsfullt. De kör i full fart mot självförbättrande superintelligens och de spelar med våra liv”, skrev han.

De svenska forskarna är dock skeptiska. Heintz ser ingen anledning till att AGI inte skulle kunna uppnås, men är inte övertygad om steget till superintelligens. Han ifrågasätter dessutom att en sådan AI nödvändigtvis skulle skada människor – en verkligt superintelligent varelse borde förstå konsekvenserna av sina handlingar.

Johansson menar att det är svårt att ens föreställa sig vad superintelligens skulle innebära. Språket gav människan ett enormt försprång i djurriket, och en superintelligens skulle behöva ett liknande utvecklingskliv. ”Det kan vi inte ens föreställa oss. Jag säger inte att det är omöjligt, bara att vi inte alls vet vad det skulle vara för ett framsteg”, säger han.

Han tycker att techbolagen lägger för mycket fokus på framtida faror. Den verkliga risken handlar enligt honom om vad systemen får tillgång till – internet, interna system eller till och med vapen. Det är ett lika stort problem med dagens AI-modeller som med framtidens, oavsett om de är superintelligenta eller inte.