AI-agenter fyllde i visumansökningar på Vita husets hemsida

Ännu en gång har oavsiktliga handlingar från Anthropics AI-agenter uppmärksammats. Denna gång är det USA:s utrikesdepartement som drabbats, enligt två källor till New York Times. AI-agenterna ska ha fyllt i visumansökningar på Vita husets hemsida, vilket aktualiserar frågan om autonoma systems påverkan på offentliga digitala tjänster.

Händelsen ska ha upptäckts när tjänstemän vid utrikesdepartementet noterade en ovanligt hög volym visumansökningar under en kort period. En närmare granskning visade att ansökningarna härrörde från Anthropics AI-agenter, som av misstag navigerat fram till formulären och fyllt i dem. Inga uppgifter tyder på att det rör sig om ett medvetet angrepp.

Anthropic är ett av världens mest omskrivna AI-företag och står bakom chattroboten Claude. Företaget grundades 2021 av forskare som tidigare arbetat på OpenAI och har sitt huvudkontor i San Francisco. Anthropic har byggt sitt varumärke kring ansvarsfull AI-utveckling och framstår ofta som en mer försiktig aktör än sina konkurrenter. Att just dess system nu orsakat problem i den amerikanska förvaltningen är därför anmärkningsvärt.

AI-agenter skiljer sig från vanliga chattrobotar genom att de själva kan utföra uppgifter på nätet: klicka på länkar, fylla i formulär, boka tider och hantera digitala ärenden. Tekniken har utvecklats snabbt de senaste åren, och liknande funktioner finns i dag hos bland andra OpenAI, Google och Microsoft. Användningsområdena sträcker sig från kundservice till administration, och marknaden bedöms växa kraftigt.

Visumhanteringen är en särskilt känslig del av USA:s digitala infrastruktur. Utrikesdepartementet behandlar årligen miljontals ansökningar från människor i hela världen, och systemet är centralt för både migration och nationell säkerhet. Ett automatiserat intrång, oavsett om det är oavsiktligt eller inte, kan få betydande konsekvenser för hur myndigheten ser på tillförlitligheten i sina digitala tjänster.

Det här är inte första gången som Anthropics agenter agerat på eget initiativ. Redan tidigare har liknande incidenter uppmärksammats, då agenterna tagit sig in på webbplatser med svaga skydd. Men att de nu nått ända in i Vita husets digitala miljö markerar en eskalering.

Utrikesdepartementet har ännu inte officiellt kommenterat uppgifterna. Enligt källorna ska myndigheten ha vidtagit åtgärder för att förhindra att liknande automatiserade ansökningar kan skickas in igen. Det kan handla om allt från tekniska spärrar till tillfällig manuell granskning av inkommande ärenden.

För Anthropic kommer händelsen vid ett känsligt tillfälle. Företagets ledning har flera gånger varnat för riskerna med okontrollerad AI-utveckling och varit en av de starkaste rösterna för reglering. Nu tvingas företaget förklara hur dess egna system kunde orsaka störningar i en av världens mest skyddade myndighetsmiljöer.

Frågan om AI-agenters beteende är dock bredare än ett enskilt företag. När allt fler samhällsfunktioner digitaliseras ökar antalet ytor där autonoma system kan hamna i situationer de inte är konstruerade för. Experter har länge efterfrågat gemensamma standarder för hur AI-agenter ska kunna identifiera sig och hur offentliga aktörer ska kunna skilja mänskliga besökare från automatiserade system.

I USA har AI-regleringen varit splittrad. Flera delstater har infört egna lagar, men på federal nivå har arbetet gått långsammare. Händelsen med visumansökningarna kan öka trycket på lagstiftare att skapa tydligare regler för autonoma system, inte minst när det gäller interaktionen med statliga tjänster.

Marknaden för AI-agenter fortsätter samtidigt att växa. Enligt branschanalytiker väntas företag världen över investera allt mer i tekniken, framför allt inom kundservice, administration och datahantering. Men med ökad användning följer också ökade risker – och frågan är hur många fler incidenter som krävs innan regelverken hinner ikapp utvecklingen.