Den ”farliga” AI-modellen Mythos kan ha använts av obehöriga

De obehöriga fick tillgång till Anthropics avancerade AI-modell Mythos

Anthropic, utvecklaren av den avancerade AI-modellen Mythos, bekräftade på onsdagen att företaget utreder en incident där en grupp obehöriga personer fått åtkomst till modellen. Enligt Bloomberg skedde detta via ett chattforum där en person hade tillgång till Anthropics interna system genom en tredjepartsleverantör.

Enligt uppgifterna ska de obehöriga användarna inte ha testat Mythos kapacitet inom cybersäkerhet, utan snarare använt modellen för mindre allvarliga ändamål, beskrivna som att ”leka” med systemet. Trots detta väcker incidenten allvarliga frågor kring säkerheten hos en av branschens mest sofistikerade AI-modeller.

Tidigare denna månad tillkännagav Anthropic att Mythos besitter exceptionella färdigheter inom att identifiera säkerhetshål i IT-system – så avancerade att företaget bedömde det som riskfyllt att göra modellen allmänt tillgänglig. I stället valde Anthropic att ge selektiv åtkomst till etablerade techbolag som Microsoft, Google och Amazon, samt Linux Foundation, så att dessa organisationer skulle kunna upptäcka och åtgärda säkerhetsbrister innan de kunde utnyttjas av kriminella aktörer eller underrättelsetjänster.

Anthropics strategi har mött viss skepsis från branschexperter som menat att det kunde röra sig om ett PR-jippo för att skapa uppståndelse kring företagets AI-teknologi. Nya uppgifter tyder dock på att Mythos faktiskt levererar enligt löftet.

Mozilla, organisationen bakom webbläsaren Firefox, har med hjälp av Mythos identifierat 271 säkerhetshål i Firefox-koden. Samtliga dessa sårbarheter har nu åtgärdats i en nyligen utgiven version av webbläsaren, vilket bekräftar AI-modellens praktiska användbarhet inom cybersäkerhet.

Bobby Holley, teknikchef på Mozilla, beskriver i ett blogginlägg att Mythos förmågor är fullt jämförbara med vad världens främsta cybersäkerhetsexperter kan prestera. ”Datorer var helt oförmögna att klara sådant här för några månader sedan, men nu briljerar de på det,” skriver Holley i sitt inlägg.

Han förtydligar dock att de upptäckta säkerhetsbristerna inte representerar någon helt ny kategori av sårbarheter. Samtliga kunde teoretiskt ha identifierats av mänskliga experter, men Mythos effektivitet och hastighet i att lokalisera dem illustrerar den betydande utvecklingen inom AI-baserad säkerhetsanalys.

Denna incident belyser den komplexa balansgången som utvecklare av avancerad AI-teknologi står inför. Å ena sidan kan verktyg som Mythos bidra till att stärka cybersäkerheten genom att proaktivt identifiera sårbarheter. Å andra sidan medför teknologin i sig risker om den hamnar i fel händer.

Händelsen inträffar i en tid då AI-säkerhet står i fokus för både bransch och lagstiftare. Flera länder, inklusive USA och EU, arbetar med att ta fram regelverk för utveckling och användning av avancerade AI-system, där just säkerhetsaspekter är centrala.

För Anthropic, som grundades 2021 av tidigare OpenAI-anställda och har etablerat sig som en av de ledande utvecklarna av storskaliga språkmodeller, innebär incidenten ett potentiellt bakslag i företagets arbete med att bygga förtroende för sin teknologi. Företaget har profilerat sig genom sitt fokus på ”AI-säkerhet” och har antagit en mer försiktig hållning jämfört med flera konkurrenter.

Experter inom cybersäkerhet betonar att denna typ av händelser understryker behovet av robusta säkerhetsprotokoll kring åtkomst till avancerade AI-modeller, särskilt sådana med kapacitet att identifiera sårbarheter i kritisk infrastruktur. Samtidigt visar Mozillas erfarenheter med Mythos på den enorma potentialen i AI-verktyg för att förbättra digital säkerhet när de används på ett ansvarsfullt sätt.