När ingen reglerar blir AI ett laglöst land

AI-branschens egna ledare har under de senaste veckorna gått ut med en rad varningar om teknikens risker. Den här gången kommer larmen inte bara från filosofer och debattörer, utan från personer med insyn i de bolag som utvecklar systemen. Debatten har därmed fått en ny tyngd och väckt frågor om både säkerhet, reglering och den ekonomiska drivkraften bakom AI-kapprustningen.

Tidningen MIT Technology Review, som sällan brukar vara AI-kritisk, anordnade förra veckan ett rundabordssamtal för sina prenumeranter med rubriken ”Could AI really kill us all?” Där svarade forskaren och AI-skribenten Grace Huckins på frågan ”Kommer jag att dö?” Hennes svar var att det så småningom kan bli en direkt följd av AI. Hon pekade på att AI-styrda drönare redan har dödat många människor i Ukraina och att AI-drivna cyberattacker mot sjukhus med stor sannolikhet kommer att kräva dödsoffer förr eller senare.

Ett av de tydligaste scenarierna kommer från AI-säkerhetsbolaget Anthropic. Vd:n Dario Amodei beskriver i en artikel, ”We must pace the frontier”, ett scenario där en okontrollerad svärm av AI-agenter bygger ett botnätverk som inom sex till tolv månader skulle kunna ta över hela internet. Han kopplar det till sommarens intrång mot Hugging Face, en av branschens viktigaste plattformar för att dela och testa AI-modeller.

Undergångsscenarier är i sig inget nytt inom AI-branschen. I Karen Haos bok ”Empires of AI” återges samtal där OpenAI-medgrundaren Ilya Sutskever talade om att bygga en säkerhetsbunker om utvecklingen av artificiell generell intelligens skulle slå fel. AGI, en framtida AI med mänsklig eller övermänsklig förmåga, har länge varit en central fråga för de ledande bolagen.

Kritiker har dock ifrågasatt varför varningarna kommer just nu. Ulf Danielsson, professor i teoretisk fysik, skrev på DN Kultur att teknikbolagens plötsliga omsorg om världen låter falskt. Han menar att den sammanfaller med tre saker: kommande börsnoteringar, hot om reglering och en kapprustning med Kina som bolagen är oroade för att förlora.

Dario Amodeis förslag har också mötts av skepsis. Han vill släppa in oberoende observatörer, men utan att de får något verkligt mandat. Han vill att branschen ska formulera säkerhetsstandarder, men utan att precisera vad de ska innehålla. Han vill vidare att USA och andra demokratiska regeringar ska förmå auktoritära regimer, dit han räknar Kina, att vidta försiktighetsåtgärder. Samtidigt påpekar kritiker att USA:s nuvarande administration inte ens vill erkänna att det finns risker med AI-utvecklingen.

För den som vill förstå de djupare drivkrafterna bakom AI-kapprustningen har flera vänt blicken mot historikern Jill Lepore, professor vid Harvard. Hennes nya bok ”The rise and fall of the artificial state” – där ”state” ska förstås både som tillstånd och styre – tar avstamp hos Hannah Arendt. Lepore visar hur drömmen om automatiserat beslutsfattande har djupa rötter. Sedan 1950-talet har utvecklingen enligt henne gått i riktning mot maskinernas övertag över humanismen och den mänskliga viljan, präglad av en fascination för science fiction. Boken landar i en förhoppning om en kraftig backlash mot AI-företagen, i släktskap med Shoshana Zuboffs ”Övervakningskapitalismen”.

Nyligen följde Lepore upp boken med en artikel i The New Yorker med rubriken ”Is AI above the law?” Där konstaterar hon att endast hård reglering kan bromsa riskutvecklingen. Kritiken borde enligt henne riktas mot lagstiftare snarare än mot AI-bolagen. Samma linje intar Nobelpristagaren Geoffrey Hinton, ofta kallad AI:s gudfader. Han har förklarat för den amerikanska senaten att lagstiftarna har max ett år på sig att agera och reglera.

Några konkreta åtgärder har ännu inte presenterats. OpenAI:s vd Sam Altman, vars bolag ligger bakom ChatGPT, sade förra veckan att han tillhör ”Team Humanity”. I takt med att AI-säkerhet blir en allt viktigare politisk fråga lär trycket på både bolag och lagstiftare öka. De senaste veckornas larm har gjort att debatten nu förs på allvar – från teknikredaktioner till regeringskanslier.