British Columbia stämmer OpenAI för misslyckad skolskjutningsrapport

Kanadensiska provinsen British Columbia har väckt talan mot OpenAI, företaget bakom ChatGPT, med anklagelsen att man underlåtit att rapportera en misstänkt gärningsman som i februari sköt ihjäl åtta personer vid en skola. Enligt stämningsansökan ska den misstänkte ha haft ett ChatGPT-konto som företaget valt att stänga av – utan att kontakta myndigheterna.

Dådet, som skakade provinsen och hela Kanada, inträffade på en skola i en ort som ännu inte namngivits i de rättsliga handlingarna. Offren uppges vara både elever och vuxna, och händelsen har lett till en intensiv debatt om hur teknikföretag hanterar misstänkta hot på sina plattformar. Fokus ligger nu på OpenAI:s ansvar – inte bara som tjänsteleverantör, utan som en aktör med potentiell kännedom om brottsplaner.

Kärnan i målet är att OpenAI, enligt provinsen, borde ha rapporterat det som framkommit i samband med kontot till polisen. Att kontot stängdes av visar att företaget uppmärksammat något avvikande, men man gick alltså inte vidare med informationen. British Columbia menar att detta strider mot skyldigheten att skydda allmänheten och att företaget därmed bär ett juridiskt ansvar.

OpenAI har ännu inte utfärdat något offentligt uttalande om stämningen. Företaget har tidigare betonat att ChatGPT har säkerhetsmekanismer för att identifiera och motverka skadligt innehåll, men fall som detta visar på en växande komplexitet när AI-modeller blir allt mer integrerade i vardagen. Experter på teknikjuridik påpekar att det är ovanligt att en hel provins stämmer ett AI-företag med hänvisning till underlåtenhet att rapportera brott. Målet kan därför bli vägledande för hur liknande fall behandlas i framtiden.

Frågan om teknikföretags ansvar har varit het under en längre tid, både i Kanada och internationellt. Sociala medier och chattplattformar har länge kritiserats för att inte göra tillräckligt för att stoppa hot och våldshandlingar. Med generativ AI har debatten intensifierats, eftersom verktygen kan generera både realistisk text och bilder som kan användas i skadligt syfte. Att en AI-chatt kan ha bidragit med information eller signaler som borde ha utretts, blir därmed en central punkt i den juridiska prövningen.

British Columbias beslut att stämma OpenAI markerar en skärpning av den inställning som kanadensiska myndigheter haft hittills. Tidigare har man i huvudsak uppmanat teknikjättar att frivilligt förbättra sina säkerhetsrutiner. Nu tar man alltså steget till rättsliga åtgärder, vilket kan få konsekvenser för hela den AI-branschen. Om domstolen ger provinsen rätt, kan det skapa ett prejudikat som tvingar AI-företag att aktivt samarbeta med brottsbekämpande myndigheter när de får kännedom om allvarliga hot.

Samtidigt väcker målet svåra avvägningsfrågor. Integritetsskydd, yttrandefrihet och tystnadsplikt är principer som står i konflikt med kravet att rapportera brott. Att OpenAI valde att stänga av kontot visar att företaget har någon form av policy för att hantera överträdelser, men frågan är var gränsen går för när en misstanke måste vidarebefordras. Jurister pekar på att det kan finnas en glidande skala mellan att blockera innehåll och att anmäla en användare.

För de drabbade familjerna och för allmänheten i British Columbia är rättsprocessen ett sätt att söka svar. De vill veta om tragedin kunnat förhindras ifall OpenAI agerat annorlunda. Även om en stämning inte kan återställa det som förlorats, kan den tvinga teknikföretag att ta ett större samhällsansvar.

Den pågående rättsprocessen lär följas noga av andra provinser och länder som brottas med samma frågor. Kanadas federala regering har redan signalerat att man ser över sina lagar kring AI och ansvarsskyldighet, och en fällande dom i detta mål skulle sannolikt påskynda arbetet med nya regelverk.

OpenAI å sin sida hävdar i tidigare dokument att man följer tillämpliga lagar och att man prioriterar säkerhet. Men med en stämning från en kanadensisk provins står företaget nu inför ett växande juridiskt tryck. Om målet går vidare och avgörs i domstol, kan det bli ett av de viktigaste rättsfallen inom AI-området hittills – med återverkningar långt utanför Kanadas gränser.