AI-jätte stoppade misstänkta försök att skapa biologiska vapen

Artificiell intelligens har blivit ett allt viktigare verktyg inom forskning och säkerhet – men tekniken kan också missbrukas. Nu rapporterar AI-företaget Anthropic, som ligger bakom chattroboten Claude, att bolagets tjänster har använts i flera försök att utveckla biologiska vapen och genomföra cyberattacker.

I ett av fallen, som upptäcktes i maj i år, handlade det om att göra det myggburna chikungunyaviruset mer smittsamt och bättre på att ta sig förbi immunförsvaret. Försöket var maskerat som en ansökan om forskningsbidrag. Enligt Anthropic tycks användaren också ha dolt sin riktiga IP-adress för att inte avslöja vilket land hen kommer från.

Chikungunyaviruset sprids via myggbett och orsakar feber, utslag och ofta mycket smärtsamma ledbesvär som kan kvarstå i flera månader. Enligt Världshälsoorganisationen har sjukdomen rapporterats i över 100 länder, med stora utbrott i bland annat Afrika, Asien och Karibien. Ett vaccin har nyligen blivit tillgängligt på flera marknader, men viruset fortsätter att utgöra ett hälsoproblem i tropiska och subtropiska regioner. Forskning på viruset kan därför bidra till utvecklingen av bättre vaccin och behandlingar – men samma kunskap kan i fel händer användas för att göra smittan farligare.

”Sådan forskning kan användas för att utveckla bättre vaccin och behandlingar mot viruset, men det kan också användas för att göra det farligare”, skriver Anthropic.

Sammanlagt fem försök relaterade till biologiska vapen upptäcktes mellan december 2025 och augusti 2026. Rapporten bygger på Anthropics interna säkerhetsarbete, där AI-modellerna kontinuerligt övervakas för att upptäcka missbruk. Företaget betonar att det inte finns säkra bevis för att syftet faktiskt var skadligt, men att misstankarna var tillräckligt allvarliga för att stoppa försöken.

De biologiska hoten är dock inte de enda som uppmärksammas i rapporten. Vid flera tillfällen har AI-tjänsten använts i cyberattacker. Särskilt pekar Anthropic ut gruppen GTG-20006, som enligt företaget har troliga kopplingar till den ryska staten. Gruppen ska ha försökt använda AI-modellen i attacker riktade mot ukrainska och andra europeiska underrättelsetjänster. Enligt rapporten ska gruppen vid upprepade tillfällen ha försökt utnyttja AI-modellen för att effektivisera sina operationer, men försöken upptäcktes och blockerades.

Rysslands cyberoperationer mot Ukraina har pågått under lång tid, men har intensifierats under de senaste årens krig. Ukrainska myndigheter och delar av infrastrukturen har vid upprepade tillfällen utsatts för attacker från både statliga och icke-statliga aktörer. Att AI nu börjar dyka upp i dessa sammanhang bekräftar farhågor som länge funnits inom säkerhetsbranschen: att tekniken blir ett allt vanligare verktyg i hybridkrigföring.

Anthropic har också upptäckt ett försök att bygga ett nätverk av dejtingsajter fyllda med AI-genererade personer som framställdes som verkliga användare. Den typen av falska nätverk har tidigare använts för allt från romansbedrägerier till påverkansoperationer, där förövarna skapar trovärdiga profiler för att lura människor att dela känslig information eller skicka pengar.

Rapporten publiceras i en tid då frågor om AI-säkerhet står högt på agendan hos både politiker och myndigheter. EU:s AI-förordning har börjat tillämpas, och i USA har flera delstater infört egna regleringar. Flera av de stora AI-företagen har under det senaste året presenterat egna säkerhetsinitiativ, och debatten om ansvarsfull AI-utveckling har intensifierats. Samtidigt varnar allt fler forskare för att den snabba utvecklingen inom generativ AI skapar nya sårbarheter – inte minst inom bioteknik och cybersäkerhet.

Anthropic, som grundades 2021 och har sitt säte i San Francisco, är ett av de ledande företagen inom generativ AI. Bolaget har från starten profilerat sig med ett starkt säkerhetsfokus och har flera gånger uppmärksammats för sitt arbete med att begränsa riskerna med AI-modeller. Den nya rapporten visar dock att även företag med avancerade säkerhetssystem utsätts för sofistikerade och svårupptäckta försök till missbruk.

Anthropic uppger att samtliga försök har stoppats och att säkerhetssystemen kontinuerligt förbättras. Men rapporten illustrerar en bredare utmaning för hela techindustrin: AI-modellerna är nu så pass kraftfulla att de kan användas både för att skydda och hota samhällen. Som fallet med chikungunyaforskningen visar är gränsen mellan legitim vetenskap och skadlig verksamhet inte alltid glasklar – varken för människor eller för algoritmerna som ska upptäcka missbruket.