Nya ”hackande” AI-modellen skrämmer bankvärlden

Efter att techbolaget Anthropic släppte information om sin nya AI-modell Mythos förra veckan har finansvärlden börjat reagera på de potentiella säkerhetsriskerna. Enligt Anthropic besitter Mythos exceptionell förmåga att identifiera säkerhetshål i IT-system, även sådana som många mänskliga experter inte upptäcker.

Med hänvisning till säkerhetsskäl har företaget valt att inte göra modellen tillgänglig för allmänheten. Istället får en utvald grupp stora techbolag som Google, Amazon, Microsoft och Nvidia först möjlighet att testa modellen mot sina egna system för att upptäcka eventuella sårbarheter innan dessa kan utnyttjas av andra aktörer.

Reaktionerna på detta beslut har varit blandade. Vissa menar att det bara är ett PR-trick för att skapa uppmärksamhet kring produkten, medan andra ser det som ett ansvarsfullt agerande i en tid när cyberhot blir allt mer sofistikerade.

Svenska Finansinspektionen bekräftar nu att hotet från denna nya AI-modell redan finns med på deras agenda.

”Finansinspektionen följer noga utvecklingen och har kontakt med bankerna i denna fråga,” säger Ellen Pileblad, pressekreterare på myndigheten.

För banker gäller särskilt stränga krav på IT-säkerhet eftersom cyberattacker mot dem skulle kunna destabilisera hela det finansiella systemet.

”Vi granskar att de följer kraven på motståndskraft mot den här typen av risker och hot. Utvecklingen går snabbt framåt,” tillägger Pileblad.

För att hantera riskerna har Anthropic lanserat något de kallar ”Project Glasswing”. Detta initiativ ger utvalda techbolag som Google, Microsoft och stiftelsen bakom Linux tillgång till modellen för att de ska kunna testa sina egna system och åtgärda eventuella sårbarheter innan potentiella angripare får samma möjlighet.

Internationellt har finansmyndigheter agerat på liknande sätt som Finansinspektionen. I Storbritannien har centralbanken, den brittiska motsvarigheten till Finansinspektionen och landets cybersäkerhetsmyndighet börjat analysera riskerna och planerar att inom kort utfärda varningar till landets banker, enligt uppgifter från Financial Times.

I USA har finansminister Scott Bessent och centralbankschefen Jerome Powell kallat amerikanska storbanker till möten för att diskutera Mythos och dess potentiella konsekvenser, rapporterar Reuters. David Solomon, vd på Goldman Sachs, har uttalat att hans bank är ”hypermedvetna om dessa nya modellers förmågor”, enligt The Guardian.

Svenska storbanker har varit betydligt mer återhållsamma i sina kommentarer. Handelsbanken avböjer helt att kommentera Mythos, och Swedbank vill inte heller uttala sig specifikt om denna AI-modell. Nordeas pressavdelning meddelar via mejl: ”Vi följer utvecklingen inom artificiell intelligens noggrant. Nya framsteg, inklusive Anthropics nya språkmodell Mythos, har inte kommit som någon överraskning för oss.”

Anthropic hävdar att Mythos redan har upptäckt hundratusentals säkerhetshål i allt från operativsystem till webbläsare. Ett särskilt anmärkningsvärt exempel är en bugg i ett operativsystem som hade legat dold i koden i 27 år innan AI-modellen identifierade den.

Det finns dock anledning att betrakta dessa påståenden med viss försiktighet. Anthropic befinner sig i en komplex situation efter att tidigare i år ha hamnat i konflikt med Trumpadministrationen. Företaget vägrade då att låta Pentagon använda dess AI-teknik för vissa militära ändamål, vilket ledde till att både presidenten och försvarsministern reagerade starkt och utestängde Anthropic från samarbete med USA:s militär. Pentagon vände sig istället till konkurrenten OpenAI, skaparen av ChatGPT.

Enligt medieuppgifter har Anthropic nyligen fört samtal med potentiella investerare om att ta in nytt kapital, vilket skulle värdera företaget till uppskattningsvis 800 miljarder dollar. I detta sammanhang kan den uppmärksamhet som Mythos genererar bidra till att stärka företagets position i förhandlingarna.

Oavsett de bakomliggande motiven kvarstår faktum att avancerad AI-teknik med förmåga att identifiera säkerhetssårbarheter innebär både möjligheter och risker för finanssektorn och andra branscher där datasäkerhet är kritiskt.