Ledare: AI-porren är ett växande hot – och den är inte ens olaglig

I veckan avslutades en uppmärksammad rättegång mot en man som anklagas för omfattande stalkning och trakasserier av sportjournalisten och programledaren Karin Frisk. Enligt åtalet hade mannen samlat in nästan 27 000 filer om Frisk och hennes närstående. Han skapade och distribuerade AI-genererat pornografiskt material föreställande Frisk, som skickades till hennes bekanta, sportprofiler och andra offentliga personer. Syftet verkar ha varit att skada hennes rykte.

Paradoxalt nog har detta faktiskt gynnat Frisk ur ett rättsligt perspektiv, eftersom spridningen av dessa förfalskade bilder kan klassas som förtal. I Sverige saknas nämligen specifik lagstiftning som förbjuder skapande eller distribution av AI-genererat pornografiskt material utan samtycke.

År 2018 infördes lagen om olaga integritetsintrång som förbjuder spridning av verkliga nakna eller sexuella bilder utan samtycke, så kallad hämndporr. Denna lag omfattar dock inte AI-genererat material. I vissa fall kan förtalslagstiftningen tillämpas, men det förutsätter att bilderna framställer personen som klandervärd. Om någon däremot skapar en AI-genererad film där en kvinna utsätts för sexuellt våld kan det faktiskt vara lagligt, eftersom våldtäktsoffer generellt inte betraktas som klandervärda i juridisk mening.

Våldsamt och förnedrande innehåll är vanligt förekommande i AI-genererad pornografi. Ett tydligt exempel var när Elon Musks AI-tjänst Grok under några veckor i januari blev ett verktyg för massproduktion av icke samtyckta pornografiska bilder. Under endast elva dagar skapades tre miljoner sexualiserade bilder utan samtycke, varav 23 000 föreställde barn.

AI-genererad pornografi har utvecklats till en enorm industri. De 40 största specialiserade webbplatserna för denna typ av material innehåller över 270 000 filmer med mer än fyra miljarder visningar. Utvecklingen har skett explosionsartat – från endast ett fåtal ”avklädningsappar” 2023 till omkring 300 i dagsläget, många tillgängliga via vanliga appbutiker som Apple Store och Google Play.

Bakom denna ekonomiska infrastruktur finns inte bara app- och webbplatsutvecklare utan även teknikjättar och globala betalningssystem som Visa och Mastercard. Trots att dessa företag tidigare hävdat att de motarbetar barnpornografi och har restriktioner mot frivilligt sexarbete, har de inte agerat mot tjänster som Grok, som fortfarande erbjuder möjligheten att ”klä av” personer med AI-teknik.

I den politiska debatten om deepfake-teknologins risker har fokus främst legat på desinformation. Men statistiken visar att 98 procent av alla deepfake-bilder är pornografiska och att offren nästan uteslutande är kvinnor. Detta visar hur misogyni fortfarande manifesteras i praktiken genom ny teknologi.

Hittills har de mest utsatta grupperna varit skolflickor, eftersom unga män generellt känner till dessa appar, samt kvinnor i offentligheten. Författaren Laura Bates beskriver i ”The new age of sexism” hur det finns AI-genererat pornografiskt material på de flesta kvinnliga kändisar och framstående kvinnliga politiker. Material som föreställer politiker sprids ibland i syfte att påverka val och ibland främst för att kränka och förnedra. Oavsett motiv utgör detta ett demokratiskt hot.

Ett EU-direktiv från 2024 kräver att medlemsländerna senast 2027 inför förbud mot AI-genererad pornografi utan samtycke. Efter Grok-skandalen i januari har EU ökat pressen och ett förbud i hela unionen kan träda i kraft redan i sommar – något som många bedömare anser är en välbehövlig och brådskande åtgärd.

Utvecklingen av AI-teknologi har långt överskridit lagstiftningens förmåga att skydda individer, särskilt kvinnor, från allvarliga integritetskränkningar. När tekniken utvecklas i denna hastighet blir bristen på tydlig lagstiftning ett akut samhällsproblem som kräver snabba åtgärder för att skydda grundläggande rättigheter i den digitala eran.