Isobel Hadley-Kamptz: Varför hänger svenska politiker på en sajt som producerar barnporr på beställning?

Artificiell intelligens används för att skapa förnedrande bilder – kvinnor drabbas varje sekund

Ungefär varannan sekund publiceras en ny AI-genererad bild på plattformen X där en flicka eller kvinna ofrivilligt framställs avklädd eller i sexuellt utmanande poser. Bland de drabbade finns såväl småflickor som framstående politiker, däribland Sveriges vice statsminister Ebba Busch.

Fenomenet med AI-genererad pornografi utan samtycke är inte nytt, men har eskalerat kraftigt på senare tid. Under flera år har både kändisar, tonåringar och vanliga skolelever utsatts för denna typ av kränkningar. Det finns idag flera specialiserade applikationer som enbart fokuserar på att skapa falska avklädningsbilder. Användarna behöver bara ladda upp bilder från sociala medier föreställande exempelvis en kollega eller klasskamrat för att kunna producera förfalskad pornografi.

Det som nu sker på Elon Musks plattform X är dock särskilt alarmerande eftersom bilderna inte kommer från obskyra källor utan direkt från Musks egen AI-tjänst Grok. Tjänsten skapar dessa bilder på begäran av användare och publicerar dem i det öppna flödet där de snabbt kan spridas vidare. Till skillnad från specialiserade tjänster är AI-bilderna på X dessutom kostnadsfria, vilket ytterligare ökar tillgängligheten och spridningsrisken.

Det är viktigt att understryka att detta inte handlar om moralpanik kring personer som frivilligt väljer att dela avklädda bilder av sig själva. I dessa AI-genererade bilder är tvärtom det bristande samtycket en central del av själva syftet. Budskapet som förmedlas till flickor och kvinnor är tydligt: oavsett dina tankar, åsikter eller prestationer reduceras du till en kropp som kan manipuleras efter andras önskemål. Hatet manifesteras särskilt tydligt i många beställningar där användare specifikt efterfrågar att kvinnorna ska ha synliga blåmärken, se skrämda ut eller uppvisa brännskador från cigaretter.

När Elon Musk förvärvade plattformen, som då hette Twitter, avvecklade han det råd som tidigare ansvarat för att motverka utnyttjande av barn på plattformen. Han avskedade även majoriteten av ingenjörerna som arbetade med dessa säkerhetsfrågor. Han har marknadsföring sin AI-tjänst Grok med argumentet att den skulle vara friare och mindre begränsad av politisk korrekthet än konkurrenterna.

Musk har hittills främst avfärdat kritiken som riktats mot att Grok tillhandahåller sexualiserade bilder av barn och vuxna utan deras samtycke. X:s officiella svar till nyhetsmedier som sökt kommentar har varit att ”mainstreammedia ljuger”.

Denna strategi kan möjligen fungera för Musk eftersom lagstiftningen kring deepfake-pornografi är otydlig i de flesta länder, inklusive Sverige. Detta väcker dock ytterligare frågor: Varför väljer så många politiska makthavare att fortsätta använda Musks plattform för sin kommunikation? Är det rimligt att svenska politiker är aktiva på en sajt som producerar barnpornografiskt material på beställning?

Problematiken med AI-genererat material utan samtycke ökar i takt med att tekniken blir allt mer sofistikerad och tillgänglig. Utan tydlig lagstiftning och ansvarstagande från plattformsägare riskerar kränkningarna att fortsätta öka. För de drabbade kan konsekvenserna vara förödande – från psykologiskt lidande till skador på rykte och karriär.

Expertorganisationer efterlyser nu både tekniska skyddsmekanismer som kan identifiera och blockera manipulerade bilder, samt uppdaterad lagstiftning som tydligt kriminaliserar skapande och spridning av deepfake-pornografi. Samtidigt betonar förespråkare för internetsäkerhet vikten av att användare överväger vilka plattformar de stödjer genom sin närvaro.

Medan debatten fortsätter utsätts dagligen tusentals kvinnor och flickor för denna form av digitalt övergrepp – en sekund i taget.