Myra Åhbeck Öhrman: Kändisdramat visar att vi borde ta deepfake-porren på allvar

Under de senaste två åren har spridningen av AI-genererade nakenbilder vuxit explosionsartat, men den juridiska utvecklingen har inte hållit jämna steg med tekniken. Förra veckans uppmärksammade debatt på internet illustrerar tydligt de svårigheter som uppstår när ny teknik utmanar befintliga lagar och etiska normer. Det skriver Myra Åhbeck Öhrman i en analys.

Det digitala landskapet har förändrats i grunden sedan verktyg för bildgenerering blev allmänt tillgängliga. Vad som tidigare krävde avancerad mjukvara och teknisk kunskap kan nu utföras av vem som helst med en dator och internetuppkoppling. Konsekvensen är att allt fler människor, i synnerhet unga kvinnor och offentliga personer, utsätts för integritetskränkande material som skapats utan deras vetskap eller samtycke.

Det senaste internetbråket, som fick stor spridning i sociala medier, har därför satt fingret på en akut samhällsfråga. Debatten handlade inte bara om enskilda fall, utan om de strukturella brister som gör att offren ofta saknar rättslig vägledning. Den nuvarande lagstiftningen, som i många fall är utformad före den senaste AI-vågen, ger inte tillräckligt skydd mot den nya typen av övergrepp.

Enligt flera jurister befinner sig Sverige i en gråzon. Medan traditionell bildmanipulation redan omfattas av lagar om förtal och olaga integritetsintrång, är det oklart hur lagstiftningen ska tillämpas när bilden är helt eller delvis digitalt skapad. Den tekniska utvecklingen har sprungit ifrån lagboken, vilket skapar en osäkerhet som i praktiken gynnar förövarna snarare än offren.

Detta är inte ett isolerat svenskt problem. I hela Europa och USA har lagstiftare under det senaste året tvingats ta ställning till hur AI-genererat innehåll ska regleras. EU:s AI-förordning, som antogs 2024, innehåller vissa krav på transparens för AI-genererat material, men den behandlar inte specifikt frågan om nakenbilder utan samtycke. Flera medlemsländer har därför börjat se över sina nationella lagar för att täcka de luckor som kvarstår.

En av svårigheterna ligger i att tekniken är global och gränslös, medan lagstiftningen är nationell. En bild som skapats i ett land kan spridas via servrar i ett annat, vilket försvårar både utredning och lagföring. För offren innebär det ofta en lång och krävande process för att få materialet borttaget, och i praktiken är det vanligt att bilderna fortsätter cirkulera på olika plattformar trots anmälningar.

Kritiker menar att sociala medieplattformar har ett stort ansvar i frågan. Många plattformar har sedan tidigare policyer mot hämndporr och icke-samtyckesbaserat innehåll, men efterlevnaden varierar kraftigt. Automatiska modereringssystem har svårt att skilja mellan äkta och AI-genererade bilder, vilket gör att en stor del av det skadliga materialet aldrig upptäcks.

Trots problemens omfattning finns det tecken på förändring. Politiska initiativ har tagits på flera håll, och bland unga människor pågår en allt öppenare diskussion om digital integritet och samtycke. Förra veckans debatt kan i det sammanhanget ses som ett viktigt steg, eftersom den flyttat fokus från enskilda offer till systemfel.

Myra Åhbeck Öhrman understryker att den tekniska utvecklingen inte går att stoppa, men att samhället måste anpassa sig. Hon lyfter fram behovet av både juridisk skärpning och utbildningsinsatser, särskilt bland unga. Frågan handlar i grunden om vem som har rätt till sin egen bild i en tid där gränsen mellan verklighet och konstruktion alltmer suddas ut.