Johan Fredrikzon: Problemet är inte att AI är dålig – utan att den är tillräckligt bra

Ulf Danielsson, professor i teoretisk fysik, har i två uppmärksammade artiklar i Dagens Nyheter och Svenska Dagbladet varnat för att AI-bolagens domedagsprofetior fungerar som en rökridå. I en replik instämmer en forskare i stora delar av kritiken – men anser att Danielsson både överdriver motsättningen mellan domedagsvisioner och verkliga risker och drar fel slutsatser om forskningspolitiken.

Replikskrivaren pekar på att vinstdrivna AI-bolag kan gynnas av apokalyptiska scenarier. Självreglering och rädsla för katastrofer riskerar att flytta blicken från de problem som redan finns här och nu. Samtidigt är det inte svårt att se hur många i Silicon Valley betraktar den mänskliga verkligheten som ett hinder i väntan på att digitaliseras.

Debatten äger rum i ett läge där AI-företagens politiska och ekonomiska inflytande växer snabbt. Techjättar har under flera år argumenterat för frivilliga säkerhetsåtaganden framför hård reglering, samtidigt som EU försöker få på plats en gemensam AI-lagstiftning. Intresset är långt ifrån akademiskt: AI-system används redan i allt från forskning och sjukvård till myndighetsutövning och arbetsliv.

Den viktigaste invändningen mot Danielsson är dock en annan. AI-systemen behöver varken bli medvetna eller ha onda avsikter för att orsaka skada. Farhågan är inte att maskinerna vill utplåna oss, utan att de kan bli mycket skickliga på att nå mål utan att dela mänskliga erfarenheter, värderingar eller intressen. Hela AI-historien har enligt replikskrivaren handlat om att abstrahera bort kroppar, medvetande och avsikter. Det som upplevs som främmande är kompetens utan erfarenhet. Därför kan talet om katastrofer vara en retorisk rökridå och en påminnelse om verkliga risker på samma gång.

Replikskrivaren vänder sig också mot föreställningen att mediokra maskiner skulle hota kreativitet och kunskap. Poängen är inte att AI är dålig, utan att den är tillräckligt bra. Många system klarar uppgifter som tidigare krävde mänskligt omdöme, och det räcker för att väcka frågor om ansvar och kvalitet. Att resultaten kan uppfattas som oaptitliga ur estetiska, miljömässiga och sociala perspektiv förändrar inte det faktum att tekniken nu är inbyggd i strukturer som är perfekt avpassade för maskinellt arbete.

Ett paradexempel är granskningen av forskningsansökningar. Replikskrivaren, som forskat om dynamiken, beskriver ett system där maskiner i allt högre utsträckning skriver ansökningar – och där maskiner också läser dem. Det tar emot att läsa maskingenererade texter, men den föreslagna lösningen är ofta att ta in maskiner som stöd. Om maskiner både producerar och bedömer underlagen, vilken funktion fyller de då som urvalsmekanism? Det är lätt att intala sig att det mänskliga omdömet fortfarande har sista ordet. Frågan är hur många ansökningsomgångar det dröjer innan ingen längre orkar läsa en ansökan – och vad det i så fall innebär att ta ansvar som granskare.

Utbildningsfrågan blir central. Replikskrivaren håller med om att det saknas svar på hur studenter ska övertygas om att skaffa sig förmågor de allt mer sällan behöver i studier och arbetsliv. Två vägar framträder: antingen vädjar man till kunskapens stärkande kraft och individens vilja att kunna, eller så ser man färdigheter som en samhällsresurs som ökar vår kollektiva anpassningsförmåga. Båda behövs. Om bara den första vägen väljs riskerar resultatet att bli ett klassamhälle av svåröverskådlig omfattning. En liten grupp skulle ha råd att vara intellektuellt självständig, medan resten hänvisas till att förvalta maskinernas resultat utan att kunna verifiera dem.

Den emancipatoriska potentialen i den första vägen måste enligt replikskrivaren förankras i den andra vägens idé om resiliens. Risken att känslolösa AI-agenter tar över hänger samman med samhällets iver att automatisera bort kognitivt arbete. Ska fler än en liten elit kunna ta ansvar för vad AI-system genererar, krävs mer än ändrade regelverk för Vetenskapsrådets beredningsgrupper. Oron för att studenter låter maskiner skriva uppsatser och forskare skriva ansökningar bör därför förstås ur ett samhälleligt riskperspektiv, inte bara ett utbildnings- och forskningspolitiskt.

Replikskrivarens slutsats är att samhället måste byggas så att det anses attraktivt och värdefullt att göra och veta sådant som skulle kunna överlåtas åt maskiner. Inte för att människan alltid presterar bättre – dit har utvecklingen redan gått – utan för att kunna bedöma vad som är tillräckligt bra och ta ansvar för utfallet. Det handlar inte om att försvara ett gammalt bildningsideal, utan om att långsiktigt rusta befolkningen. En sådan kunskapspolitik kan, beroende på vem man frågar, ses som ett gigantiskt slöseri eller en smart investering.