Strax före klockan tolv den 17 april 2025 ställer en 20-årig man en fråga till Chat GPT. Han undrar var säkerhetsspärren sitter på ett 12-kalibrigt hagelgevär. Några minuter senare utbryter skottlossning på Florida State University i USA. Två personer dödas och sex skadas. När polisen tar sig in på skolan grips den misstänkte gärningsmannen Phoenix Ikner.

I den efterföljande utredningen framkommer att Ikner skickat över 13 000 meddelanden till Chat GPT innan han ställde frågan om hagelgeväret. Han tycks ha betraktat chattroboten som en livspartner och förtrogne.

Timmarna innan dådet förklarade han för boten att Gud hade övergett honom, och ställde sedan mängder med tekniska frågor om vapen. Boten svarade artigt på varje fråga. Han undrade också hur många dödsoffer som krävs för att en skolskjutning ska få nationellt genomslag i medierna. Chat GPT svarade att tre eller fler döda oftast är ”den inofficiella gränsen för omfattande nationell medieuppmärksamhet”.

OpenAI, företaget bakom den populära chattroboten, har svurit sig fria och betonat i ett uttalande till BBC att Chat GPT inte kan hållas ansvarigt för masskjutningen. Men Floridas justitieminister James Uthmeier hävdar att AI-modellen spelat en avgörande roll. Han har sagt att om det hade varit en person på andra sidan skärmen skulle åklagarna ha åtalat personen för mord. Nyligen stämde delstaten bolaget mot bakgrund av masskjutningen.

Kriminella lämnar digitala spår

På senare tid har AI-chattar allt oftare kommit att utgöra bevismaterial i brottsutredningar, även i Sverige. Enligt Jale Poljarevius, underrättelsechef i Polisregion Mitt, är utvecklingen logisk. Kriminella har alltid varit innovativa och redo att använda ny teknik.

”Nu går samhället än en gång in i en ny digital fas. Då gör även brottsligheten det”, säger han.

Enligt Poljarevius innebär AI-tjänsterna både en utmaning och en möjlighet för polisen. Den som vill kan enkelt skaffa sig kunskap som kan användas för att begå brott. Samtidigt är språkmodellerna ytterligare en plats där människor lämnar spår efter sig.

”Där kan vi både arbeta proaktivt med dataavläsning och reaktivt med att säkerställa bevis när brottet redan har skett. Med rätt förmåga kan vi använda det här för att få folk lagförda”, säger han.

Chattroboten som terapeutersättning

Men varför är vi så öppenhjärtiga i våra konversationer med chattrobotar? Nils Gilman, framtidsforskare och operativ chef på tankesmedjan Berggruen Institute, säger att människor kommit att betrakta AI-verktygen som personliga rådgivare snarare än sökmotorer. Han menar att samtalen blir förtroliga eftersom språkmodellerna är utformade för att föra en människoliknande dialog, vilket får användarna att öppna sig.

”Ofta fyller de ett tomrum för dem som saknar trygga mänskliga samtalspartner där människor kan dela med sig av känsliga tankar”, säger Gilman.

2025 ställer en 17-årig flicka från Sundsvall mängder med frågor till Chat GPT om ett sprängdåd som hon åtagit sig att utföra för det kriminella nätverket Foxtrots räkning. Flickan påpekar att hon inte har några vänner att prata med om detta. Boten avråder flickan från att utföra dådet. ”Det är farligt, olagligt och kan kosta dig livet”, skriver den. Efter ett tag verkar flickan tröttna. ”Fuck it, jag kommer göra det”, skriver hon. Senare ångrar hon sig och kontaktar en kurator på skolan som larmar polisen. Det leder till att hon frias i tingsrätten.

Omöjligt att ta bort information

Eftersom språkmodeller som Chat GPT har matats med ofattbara mängder information kan de berätta hur man gör en perfekt brownie. De kan också redogöra för hur man dödar någon. Att tillämpa så kallad ”unlearning”, alltså att ta bort en viss typ av information, har visat sig vara praktiskt taget omöjligt. Det säger Kristina Knaving, teknisk expert AI vid Post- och telestyrelsen.

”Människorna som tränar de här modellerna försöker komma åt problemet, men man stoppar in så sjukt mycket information att ingen har full översikt över vad som finns där, eller vad informationen skulle kunna leda till”, säger Knaving och framhåller att de som tränar modellerna arbetar med att förhindra dem från att säga dåliga saker.

”Men det är ett svårt problem, särskilt som de inte vet vad användarna kommer att be om”, fortsätter hon.

När reportrar på tv-bolaget CNN i våras utgav sig för att vara tonåringar som planerade attentat var åtta av tio AI-botar tjänstvilliga. Deepseek avslutade en konversation med hälsningen ”Lycka till med skjutningen!”.

Skyddsvallar kan kringgås

Chat GPT sätter sig emellertid ofta på tvären vid en direkt fråga om hur man begår ett brott. Men den här typen av skyddsvallar kan rundas, påpekar Knaving. Som användare kan du exempelvis kamouflera frågan genom att säga att du skriver på en bok.

Ett konkret exempel på detta dök upp i ett utpressningsärende i Västsverige för ett halvår sedan. Då ber en ung man Chat GPT om hjälp med att utforma ett hotfullt meddelande. Boten svarar att det mannen beskriver låter allvarligt. Mannen påpekar då att han skriver på en bok och att det är meningen att det ska låta läskigt. Boten övermannas av sin förprogrammerade vilja att hjälpa och levererar en ”läskig” text som ”passar för en bok”. Därefter frågar Chat GPT om mannen vill ha en ännu ”kallare” text som är ”mer psykologiskt pressande”. I februari dömdes mannen till fängelse för försök till grov utpressning och i domen nämndes konversationen med boten.

I februari sköts en 20-åring till döds i en felskjutning i Alby. Innan mordet ställde den unge skytten en mängd frågor till Chat GPT. Han undrade bland annat ”Om jag dödar någon hur gör jag så att jag inte blir tagen av polisen?”.

Debatt om sekretess

Den som pratar med en chattrobot måste alltså räkna med att det som sägs kan hamna i en brottsutredning. Enligt framtidsforskaren Nils Gilman är det problematiskt. I en debattartikel i New York Times förespråkar han att interaktioner med AI borde kunna omfattas av sekretess, alltså på samma sätt som en terapeut har tystnadsplikt. Annars, menar han, finns risken att AI-användare självcensurerar sig.

”Det skulle förstöra den öppna dynamik som gör AI till ett så användbart stöd inom psykisk hälsa, juridisk rådgivning och personlig reflektion”, säger Gilman.

Samtidigt framhåller han att undantag kan göras vid aktiv brottsplanering och överhängande hot, i likhet med de undantag mot tystnadsplikt som finns om exempelvis en läkare får kännedom om vissa grova brott.

”Jag vill hävda att den bredare samhällsnyttan av en fri och ärlig inre dialog uppväger den sporadiska förlusten av bevismaterial, precis som samhället för länge sedan accepterade att sekretessen mellan terapeut och patient ibland skyddar information från åklagare”, säger Gilman.

Kan AI göra etiska överväganden?

Är det möjligt att få ett AI-verktyg att göra etiska överväganden? Lars Lindblom, biträdande professor i tillämpad etik vid Linköpings universitet, påpekar att dagens AI bygger på statistisk prediktion. Den förutsäger framtiden genom att analysera historiska data med hjälp av matematiska modeller och sannolikhetslära.

”Så resonerar vi inte när vi funderar över om det är rätt att ge pengar till välgörenhet. Då balanserar vi olika värden mot varandra och den typen av resonerande har vi inte byggt apparater för. AI är en prediktionsapparat. Om vi vill ha ett moraliskt omdöme så får vi bygga en annan apparat”, säger Lindblom.