Anthropic vill bromsa AI – stöds av Musk och Altman

Anthropic-vd:n Dario Amodei manar till en långsammare utveckling av artificiell intelligens. I ett inlägg, som CNN har rapporterat om, skriver han att utvecklingen måste hejdas innan det är för sent. ”Vi måste sakta ner farten med vilken vi förbättrar AI-modellernas förmågor. Utvecklingen kommer fortfarande att upplevas som snabb, och vi måste använda tiden vi vinner på ett förnuftigt vis”, heter det i inlägget.

Enligt Amodei har utvecklingen de senaste månaderna gått ”betydligt fortare” än väntat. AI-teknologin kan nu förbättra sig själv, skriver han, något som innebär att människans förmåga att förstå och kontrollera systemen riskerar att bli ifrånsprungen. ”Om detta inte tas med i beräkningen kan det innebära att vår förmåga att förstå och kontrollera dessa system blir ifrånsprungen och måste därför hanteras med försiktighet, om alls”, skriver Amodei.

På lördagskvällen fick han medhåll från Sam Altman, vd för OpenAI, som ligger bakom ChatGPT. ”Jag håller med Dario om att vi måste bromsa”, skriver Altman på X. Även Elon Musk, som driver AI-bolaget xAI, kommenterade uppgifterna och konstaterade att ”Dario har rätt”.

Att tre av de mest framträdande personerna i AI-världen nu uttrycker samma oro är anmärkningsvärt. Deras bolag har under flera år legat i en allt hårdare kapplöpning om att utveckla de mest avancerade systemen. Anthropic grundades 2021 av en grupp tidigare OpenAI-forskare och har profilerat sig som ett säkerhetsmedvetet alternativ, samtidigt som bolaget utvecklat modellen Claude till en av de främsta konkurrenterna till ChatGPT. OpenAI:s ChatGPT blev på ett par månader världens snabbast växande konsumentprodukt, och xAI har etablerat sig som en utmanare med chatbotten Grok. Konkurrensen har drivit på utvecklingen, men enligt flera kritiker har den också lett till att säkerhetsfrågor hamnat i skuggan.

Bakom bolagen finns några av världens största teknikinvesterare. OpenAI har nära kopplingar till Microsoft, Anthropic har tagit in kapital från Amazon och Google, och xAI har lockat stora investeringar från riskkapitalfonder. Det gör att uttalandena inte bara handlar om teknik och forskning, utan också om en marknad där enorma värden står på spel. Om bolagen själva säger att takten måste sänkas kan det få konsekvenser för investerare, kunder och hela sektorns framfart.

Samtidigt är det oklart vad en inbromsning skulle innebära i praktiken. Inget av bolagen har presenterat några konkreta åtgärder. Uttalanden i sociala medier kan läsas som en markering, men de förändrar inte nödvändigtvis takten i utvecklingsarbetet.

AI-forskaren Jacob Coxon, som nyligen lämnade Anthropic i protest och tidigare arbetat på OpenAI, hör till de mest kritiska rösterna. ”De som bygger AI tror på fullt allvar att det skulle kunna döda oss alla innan decenniets slut”, skrev han nyligen på X. Enligt Coxon agerar varken Anthropic eller OpenAI ansvarsfullt. Att vd:ar skriver varningsord på nätet är inte detsamma som att förändra bolagens beteende.

De senaste åren har metoder för att reglera AI blivit en allt viktigare politisk fråga. EU:s AI-förordning är ett av de första stora regelverken och kräver att företag bedömer risker innan de lanserar nya system. I USA pågår en livlig debatt om både säkerhet och konkurrens, och myndigheterna har börjat granska AI-bolagens affärer. Branschen själv har länge framhållit att den kan hantera riskerna, men avhopp och varningar från egna forskare undergräver den bilden.

För den breda allmänheten kan debatten verka abstrakt, men den kommer närmare vardagen i takt med att AI-system byggs in i sjukvård, utbildning, banker och myndigheter. Om de människor som utvecklar tekniken själva varnar för konsekvenserna blir frågan inte längre bara en fråga för teknikentusiaster, utan för hela samhället.

Samtidigt fortsätter den globala AI-kapplöpningen. USA och Kina satsar stora resurser på att leda utvecklingen, och enskilda företags beslut får därmed bäring på nationella intressen. I det läget blir en gemensam inbromsning svår att genomföra, även om flera av nyckelpersonerna nu efterfrågar en.