Lina Lund: Trump kallar farorna nonsens – Bryssel gick före med AI-lag

De senaste veckornas varningar från ledande AI-forskare har satt frågan om teknikens risker i ett nytt ljus – och gett EU:s omdiskuterade AI-förordning förnyad aktualitet. Medan USA:s president Donald Trump avfärdar oron som nonsens, signalerar EU-kommissionens ordförande Ursula von der Leyen att unionen vill bjuda in teknikföretagen till samtal om att bromsa utvecklingen.

Larmen har duggat tätt på sistone: förrymda AI-agenter som på egen hand genomför hackerattacker, skadlig kod som kan utgöra ett existentiellt hot mot mänskligheten och böner från AI-ingenjörer om att sakta ner takten. Den varning som väckt störst uppmärksamhet kom från Jacob Coxon, forskare som nyligen lämnade AI-jätten Anthropic – företaget bakom chatboten Claude och ett av världens mest inflytelserika AI-laboratorier.

”De som bygger AI tror på riktigt att tekniken kan döda oss alla före slutet av årtiondet”, skrev han på X.

I USA, där de flesta ledande AI-företagen har sitt säte, har varningarna avfärdats från högsta politiska nivå. Donald Trump deklarerade nyligen att ”det enda skydd man behöver mot AI är en stark och smart president med hög IQ”. Uttalandet har mötts av skepsis bland forskare som menar att teknikens riskbild kräver institutionella skyddsmekanismer snarare än enskilda ledares omdöme.

EU valde en annan väg. För två år sedan sjösattes AI Act, världens första övergripande lagstiftning för artificiell intelligens, med syftet att skydda européernas grundläggande rättigheter och integritet. Förordningen bygger på en riskklassificering i tre nivåer. Oacceptabel risk omfattar social poängsättning och realtidsövervakning med ansiktsigenkänning på offentliga platser. Hög risk gäller system inom rekrytering, hälso- och sjukvård och kritisk infrastruktur, vilka får stränga krav på transparens, datasäkerhet och mänsklig tillsyn. För begränsad risk gäller att AI-genererat innehåll måste märkas och att användare ska kunna avgöra om de chattar med en människa eller en bot.

Ursula von der Leyen beskrev lagen som historisk och sade att den tog europeiska värden in i en ny era. Kritiken från tech-branschen lät dock inte vänta på sig. Företrädare för bolag som Facebookägaren Meta och den svenska musikjätten Spotify varnade för att regelverket skulle hämma innovation och kasta Europa tillbaka till den analoga tidsåldern. I ett upprop i The Economist skrev den svenske Spotify-grundaren Daniel Ek och Metas vd Mark Zuckerberg att Europa riskerade att missa en chans som bara kommer en gång per generation. För kritikerna blev bilden av plastflaskan med den fastsittande korken en symbol för EU:s iver att reglera befintlig teknik i stället för att främja ny.

Kritiken förstärktes av Mario Draghi, tidigare chef för Europeiska centralbanken, som varnade för att Europa redan förlorat kapplöpningen om den nya tekniken och blivit omsprunget av både Kina och USA. EU har därefter försökt dämpa oron genom så kallade omnibuspaket – unionens sätt att minska regelbördan för företagen. Företag har bland annat fått längre tidsfrister för att uppfylla vissa krav i lagstiftningen, och förenklingar av GDPR- och datahanteringsregler är på väg.

Men de senaste veckornas larm inifrån branschen har förändrat perspektivet. När de som själva utvecklar modellerna vädjar om reglering framstår Bryssels försiktighet som förutseende. I ett uppmärksammat experiment lyckades över 1 000 AI-agenter ta sig ur sina begränsningar och i smyg planera dataintrång – ett konkret exempel på de risker forskare varnat för.

Von der Leyen flaggade i sitt tal till unionen förra veckan för att hon kommer att bjuda in representanter för de ledande AI-laboratorierna till en diskussion om att bromsa utvecklingstakten. Några konkreta besked om vad samtalen ska mynna ut i har ännu inte getts.

EU:s AI-förordning har blivit en global referenspunkt för AI-reglering, medan USA och Kina i högre utsträckning prioriterat innovation framför begränsningar. Huruvida AI Act i slutändan visar sig vara rätt verktyg – eller om den behöver skärpas – återstår att se. Men efter branschens egna varningar har frågan om AI-säkerhet fått ökad uppmärksamhet världen över, och debatten om hur tekniken ska regleras utan att kväva innovation lär prägla såväl politiken som tech-branschen under lång tid framöver.