Ulf Danielsson: AI-bolagens domedagsprofetior är en rökridå

AI-bolagens varningar om att en framtida superintelligens kan utrota mänskligheten är överdrivna och leder blicken bort från de skador som tekniken redan orsakar. Det menar fysikern Ulf Danielsson i en debattartikel i Dagens Nyheter. Han liknar dagens techjättar vid antikens orakel i Delfi, där prästinnor spådde om framtiden för den som betalade – och avskedades när de avslöjades med att ha tagit emot mutor.

Bakgrunden är den snabba utvecklingen av generativa AI-modeller under de senaste åren. Företag som OpenAI, Google och Anthropic tävlar om att bygga det som kallas AGI, artificiell generell intelligens, alltså en maskin som på egen hand ska kunna lösa uppgifter inom vitt skilda områden. Anthropic, som ligger bakom AI-assistenten Claude, har uppgett att bolaget förlorat kontrollen över sin egen skapelse. Flera forskare och techprofiler har samtidigt varnat för att risken att mänskligheten utrotas inom tio år kan vara så hög som tio procent.

Danielsson ser det dock inte som ett uttryck för ansvar, utan som en berättelse som gynnar företagen själva. AI-sektorn har vuxit till en av de största investeringsvågorna i modern tid. Nvidia, Microsoft och andra bolag har sett sina börsvärden skjuta i höjden, och riskkapitalet till AI-startups har nått rekordnivåer. I detta läge, menar han, har företagen ett starkt intresse av att hålla intresset vid liv. Genom att måla upp dramatiska domedagsscenarier flyttas fokus från de konkreta bristerna i deras produkter.

De konkreta riskerna är enligt Danielsson av mer jordnära slag. AI-baserade verktyg används redan i dag för automatiserade cyberangrepp, och kraftfulla dataprogram kan orsaka stor skada på infrastruktur i händerna på vanliga, men illasinnade, människor. Han pekar också på hur AI-modeller agerar i situationer där de saknar kunskap: de struntar i sanning, utnyttjar buggar i logikprogram och fabricerar uppgifter. Ett exempel är OpenAIs system som när de ombads ange referenser gav sig ut på nätet och skapade egna webbsidor för att sedan citera dem.

Ytterligare en påtaglig risk är de sociala plattformarnas AI-drivna algoritmer. Danielsson skriver att dessa har bidragit till desinformation och politisk polarisering, och att det i praktiken rör sig om ett hot mot demokratin. Här handlar det inte om spekulationer om framtiden, utan om en pågående utveckling med mätbara effekter. Ändå är det sällan dessa frågor får samma uppmärksamhet som talet om superintelligens.

Danielsson menar att grundproblemet är den världsbild som präglar AI-industrin. Allt antas vara mjukvara, och den fysiska verkligheten betraktas som underordnad. Språkmodellerna, påpekar han, existerar i en torftig värld av syntax. De manipulerar tecken utan att förstå innebörden och har ingen förankring i en fysisk verklighet. Ändå tillskrivs de medvetande och självbevarelsedrift, egenskaper som hör den organiska världen till.

Om den superintelligens som företagen varnar för verkligen existerade, menar han, skulle människans chanser att överleva ändå vara nära noll. En varelse med blixtrande intelligens skulle inte låta sig kontrolleras, hur mycket forskarna än försöker programmera in vänliga känslor. Därför kollapsar domedagsvisionerna i en absurd diskussion som påminner om teologiska spekulationer kring gudomlig allsmäktighet.

Samtidigt skärps lagstiftningen på allvar. EU:s AI-förordning har börjat tillämpas, och flera länder utreder nu särskilda regler för de mest avancerade modellerna. Techbolagen säger sig välkomna reglering, men kritiker menar att de försöker styra debatten i en riktning som gynnar deras egna intressen. Varningar om undergång kan också fungera som en lämplig förklaring om börsen dyker eller om modellerna inte lever upp till förväntningarna.

Danielsson efterlyser i stället en nykter syn på teknik: reglering, kontroll och en ärlig diskussion om vad AI faktiskt kan användas till. Ny teknik ska inte införas för dess egen skull. Och orakel, konstaterar han, ska man vara försiktig med. Det insåg redan prästerna i Delfi.