Lämnar Open AI: ”Inte tillräckligt försiktiga”

I veckan har David Robinson lämnat OpenAI. Nu går han ut och kritiserar det säkerhetsarbete som han själv har arbetat med på bolaget. I en artikel i tidskriften The Atlantic skriver han: ”Om inget förändras kommer branschens inställning till säkerhet att leda till fler misslyckanden.”

OpenAI är det San Francisco-baserade företag som ligger bakom ChatGPT och som på några år har gått från att vara en relativt okänd forskningsorganisation till en av världens mest inflytelserika aktörer inom artificiell intelligens. Bolaget grundades 2015 och har fått stort genomslag med sina språkmodeller, som används av miljontals människor och av en lång rad företag. Genom omfattande investeringar från bland annat Microsoft har OpenAI blivit en motor för hela AI-sektorn – och en av de mest värdefulla privata techbolagen i världen. Tekniken väcker samtidigt svåra frågor om allt från desinformation och integritet till de långsiktiga riskerna med system som kan överträffa mänsklig intelligens.

Att Robinson väljer The Atlantic för sina synpunkter är i sig värt att notera. Tidskriften, som grundades i mitten av 1800-talet, är en av USA:s mest ansedda publikationer för politik, kultur och samhällsfrågor. Artikeln ger därmed Robinsons kritik en bredare plattform än den interna debatten på OpenAI.

Säkerhetsarbete inom AI handlar om att se till att avancerade system agerar på ett förutsägbart och kontrollerat sätt. Det kan handla om allt från tekniska tester och mätmetoder till etiska riktlinjer och processer för hur modeller ska få användas. Kritiker har länge varnat för att säkerhetsfrågorna kommer i skymundan när företag tävlar om att lansera nya produkter och att komma först med nästa stora genombrott.

Robinson är inte den första som lämnat OpenAI och sedan uttryckt oro. Under de senaste åren har en rad forskare och anställda med ansvar för säkerhetsfrågor valt att gå vidare. En av de mest kända är Ilya Sutskever, en av bolagets grundare och tidigare chefsforskare. Även Jan Leike, som var med och ledde säkerhetsarbetet, lämnade 2024 och varnade då för att säkerhetsfrågorna fick för lite resurser. Flera andra har följt efter och berättat om liknande erfarenheter.

Robinsons kritik ska också förstås mot bakgrund av den turbulens som präglat OpenAI:s styrelsearbete. I november 2023 avskedades vd:n Sam Altman av styrelsen, för att några dagar senare återinsättas efter kraftiga påtryckningar från anställda och investerare. Enligt uppgifter i samband med händelsen var en av stridsfrågorna just tempot i bolagets utveckling och riskerna med att lansera allt mer avancerade system. Händelsen visade med tydlighet hur känsligt förhållandet mellan tillväxt, kommersiella intressen och säkerhet är i AI-branschen.

Robinsons kritik kommer i ett läge där hela AI-branschen står under ökad granskning. Regeringar och myndigheter i både USA och Europa försöker skapa tydligare regler för hur utvecklingen av AI ska gå till. EU:s AI-förordning är ett exempel på hur lagstiftare vill ställa krav på transparens och säkerhet. Samtidigt har investerare blivit allt mer medvetna om att företag med svaga säkerhetsrutiner kan vara en risk – både ur ett etiskt och ett finansiellt perspektiv.

För OpenAI handlar det om att försvara sin position. Bolaget har konkurrens från bland andra Google, Anthropic och Meta, och en av de viktigaste stridsfrågorna i branschen är just vem som kan utveckla kraftfulla AI-modeller på ett sätt som allmänheten litar på. Anthropic, som grundades av tidigare OpenAI-medarbetare, har gjort säkerhet till sin affärsidé. Robinsons utspel kan därmed spela in i en bredare berättelse om hur teknikföretag hanterar de risker som de själva skapar.

Robinson skriver att branschens inställning till säkerhet, om den inte förändras, kommer att leda till fler misslyckanden. Exakt vad dessa misslyckanden kan handla om framgår inte av texten, men utspelet är ytterligare ett tecken på att frågan om AI-säkerhet är långt ifrån löst. I takt med att utvecklingen av AI accelererar kan fler komma att följa efter med liknande frågor.