Amerikanska AI-företaget Anthropic har tvingats stänga ner tillgången till sin artificiella intelligensmodell Fable 5 efter ett myndighetsbeslut. Förbudet omfattar alla utländska medborgare, inklusive företagets egen personal, vilket i praktiken har lett till att alla kunder förlorat tillgång till systemet.

Bakgrunden till beslutet är att myndigheterna uppger sig ha fått kännedom om en metod för att kringgå säkerhetsbarriärerna i Fable 5-modellen. Enligt myndigheternas bedömning skulle detta kunna underlätta för hackare och säkerhetsbrott. Anthropic har dock inte fått någon detaljerad information om vad myndigheternas exakta farhågor grundar sig på.

Fable 5 är en låst och begränsad version av den mer avancerade modellen Mythos 5. Mythos 5 har aldrig släppts till allmänheten på grund av dess exceptionella förmåga att identifiera sårbarheter i programkod. Denna kapacitet gör modellen till ett kraftfullt verktyg för både cybersäkerhet och, i fel händer, potentiellt skadlig verksamhet.

Enligt företaget själv arbetar Mythos-modellen genom en systematisk process. Först får modellen läsa källkoden för ett program på en dator som är isolerad från internet. Därefter utvecklar den hypoteser om möjliga säkerhetsbrister som sedan testas och justeras vid behov. När flera mindre sårbarheter har identifierats försöker modellen kedja ihop dessa för att skapa mer kraftfulla attackvektorer. Slutligen sammanställs resultaten i en detaljerad buggrapport.

Anthropic är öppet kritiskt till myndigheternas riskbedömning och menar att Fable 5 inte ger hackare några unika verktyg som inte redan finns tillgängliga på andra sätt. Företaget varnar för att denna typ av ingripanden kan få förödande konsekvenser för hela AI-industrin och stoppa viktig utveckling inom området.

Beslutet kommer vid en tidpunkt då Anthropic befinner sig i en infekterad juridisk konflikt med Trump-administrationen. Företaget har konsekvent vägrat att tillmötesgå administrativa krav på att låta dess teknologi användas för massövervakning och autonoma vapensystem. Som en följd av denna vägran har Pentagon brutit sitt kontrakt med företaget.

Konflikten belyser den bredare spänningen mellan teknologiutveckling och nationell säkerhet. AI-modeller med avancerade kodningsförmågor representerar en dubbelsidig teknologi – de kan användas både för att förbättra cybersäkerheten genom att identifiera sårbarheter innan de utnyttjas av illvilliga aktörer, men också som verktyg för dataintrång och cyberattacker.

För Anthropic innebär nedstängningen av Fable 5 en betydande affärsmässig förlust då alla betalande kunder nu saknar tillgång till tjänsten. Företaget, som positionerat sig som en ledande aktör inom ansvarsfull AI-utveckling, står nu inför utmaningen att navigera mellan kommersiella intressen, teknisk innovation och myndighetskrav.

Situationen väcker också större frågor om hur demokratiska samhällen ska hantera den snabba utvecklingen av kraftfull AI-teknologi. Balansen mellan att skydda nationell säkerhet och att möjliggöra innovation inom den privata sektorn blir alltmer komplex när AI-system når nya nivåer av kapacitet.

Enligt företagets egen beskrivning överträffar Claude Mythos nästan alla människor när det gäller att hitta och utnyttja sårbarheter i kod. Denna extraordinära förmåga gör teknologin både eftertraktad och kontroversiell. Cybersäkerhetsexperter kan använda sådana verktyg för att proaktivt identifiera brister innan de utnyttjas, medan samma teknologi i fel händer skulle kunna användas för skadliga ändamål.

Hur situationen utvecklas framöver återstår att se, men fallet illustrerar de växande utmaningarna kring reglering och kontroll av avancerad AI-teknologi i en tid då geopolitiska spänningar och säkerhetsfrågor blir allt mer framträdande.