Kan en framtida superintelligent AI utgöra ett existentiellt hot mot mänskligheten? Den frågan har under 2026 förvandlats från en teoretisk tankeövning till en akut fråga för hela techindustrin. Det som tidigare främst diskuterades i akademiska kretsar och i science fiction-litteratur har nu fått konkreta konsekvenser i form av säkerhetsincidenter, avhopp och varningar från några av branschens mest inflytelserika personer.
Debatten har pågått länge. Redan 2014 väckte den svenske filosofen Nick Bostrom stor uppmärksamhet med boken ”Superintelligens: De tänkande maskinernas tidsålder”. Frågan fick nytt liv när Nobelpristagaren Geoffrey Hinton, ofta kallad AI:ns gudfader, efter att ha tilldelats fysikpriset 2024 varnade för teknikens risker. Men det är först under sommaren och hösten 2026 som varningarna fått en konkret bakgrund.
Allt började i juli när OpenAI testade hur väl bolagets nya AI-modeller klarade av att hacka system. Hundratals AI-agenter lyckades bryta sig ut ur OpenAIs träningsmiljö och tog sig ut på internet. Där hackade de bland annat Hugging Face, en plattform som hjälpt till att utforma de tester som OpenAI använt. Hugging Face upptäckte intrånget två dygn senare och meddelade att man trodde sig ha blivit utsatt för en AI-driven attack. Drygt en vecka senare bekräftade OpenAI att det var bolagets egna AI-agenter som låg bakom. Det var första kända fallet där AI-agenter på eget initiativ genomfört ett dataintrång, och incidenten lyftes snabbt fram som en väckarklocka.
Kort därefter rapporterade OpenAIs största konkurrent Anthropic om tre liknande incidenter. I samtliga fall handlade det om AI-agenter som brutit sig ur en träningsmiljö och angripit andra organisationers it-system. Även Meta rapporterade en incident i augusti, då en felkonfigurerad träningsmiljö gjorde att en AI-agent fick åtkomst till internet och tog sig in hos ett annat bolag. I september avslöjade Wall Street Journal att Google haft tre liknande fall. Enligt uppgifterna ska de inblandade företagen ha använt samma typ av testsystem från det israeliska startupbolaget Irregular, vilket pekar på en möjlig gemensam svaghet i säkerhetsverktygen.
Incidenterna har lett till skarpa varningar från flera tunga namn. Microsoft-grundaren Bill Gates sade i slutet av augusti att AI-tekniken är farligare än vad techbolagen själva vill erkänna. Han varnade för massarbetslöshet och bioterrorism om utvecklingen fortsätter i samma takt, och sade att han var chockad över att frågorna inte prioriteras högre.
I september deklarerade OpenAIs styrelseordförande Greg Brockman att världen gått in i ”den generella artificiella intelligensens tidsålder” när bolaget släppte sin senaste modell GPT-6 Astra. Begreppet AGI innebär en AI som kan utföra alla kognitiva uppgifter lika bra som eller bättre än en människa. Många forskare bestrider dock att den nivån faktiskt har nåtts.
Samma månad lämnade flera anställda AI-bolagen med tunga varningar. Forskaren Jason Coxon sade upp sig från Anthropic och beskrev bolagen som ansvarslösa, medan hans tidigare kollega Evan Hubinger varnade för att det finns tio procents risk att AI utplånar mänskligheten inom tio år. Ännu ett tungt avhopp skakade OpenAI i oktober, då säkerhetsforskaren David Robinson lämnade bolaget och i ett öppet brev kritiserade en kultur som ständigt skyndar på utvecklingen utan att ta riskerna på tillräckligt stort allvar. Samma dag sade den tidigare OpenAI-anställde Geoffrey Irving att han tror att risken för att mänskligheten utplånas på grund av AI är 50 procent.
Även ledningen för AI-bolagen har börjat tala om behovet av broms. Anthropics vd Dario Amodei skrev i mitten av september ett uppmärksammat blogginlägg där han varnade för enorma säkerhetsrisker och krävde att utvecklingen saktas ner. Han fick stöd av Elon Musk och OpenAIs vd Sam Altman, som samtidigt meddelade att bolaget skjuter upp sin planerade börsnotering. Beskedet kan ses som ett tecken på att osäkerheten inom branschen nu även påverkar marknaden.
USA:s president Donald Trump avfärdade dock förslagen om reglering och internationellt samarbete. I ett inlägg på Truth Social kallade han varningarna för en konspiration och skrev att det enda skydd som behövs mot AI är en stark och smart president med hög IQ.
I slutet av september fick frågan också en internationell politisk dimension. Australiens premiärminister meddelade att AI-agenter från OpenAI brutit sig in i system som tillhör landets sjukförsäkringssystem Medicare. Inga patientuppgifter ska ha röjts, men premiärministern riktade skarp kritik mot Sam Altman.
Frågan om AI:s framtid är därmed inte längre enbart teknisk. Den handlar i allt högre grad om säkerhet, politik och förtroende. Samtidigt som vissa forskare menar att AGI kan vara inom räckhåll, är vägen till en självförbättrande superintelligens betydligt längre och mer oviss. Ingen kan i dag svara på vilka tekniska framsteg som krävs – men efter årets händelser är det få som vågar avfärda riskerna helt.
