Svenska politiker reagerar svagt på AI-genererade övergrepp på X-plattformen

I slutet av december uppdagades att Elon Musks AI-tjänst Grok, integrerad på plattformen X (tidigare Twitter), hade modifierats för att tillåta alla användare att skapa sexualiserade eller våldsamma bilder av i princip vem som helst. De genererade bilderna publicerades öppet på plattformen, där användare snabbt började utmana varandra att beställa allt mer explicita och förnedrande motiv.

Enligt en rapport från Center for Countering Digital Hate, en ideell organisation som arbetar mot nätkränkningar, genererades omkring 3 miljoner sexualiserade bilder under endast 11 dagar efter förändringen. Av dessa bilder identifierades 23 000 som föreställande barn.

Till skillnad från andra appar för digital manipulation av bilder eller dolda forum för hämndporr, skedde dessa övergrepp helt öppet på en plattform som används flitigt av bland annat politiker och opinionsbildare för att kommunicera med allmänheten. Detta väcker allvarliga frågor om ansvar, både för plattformarnas ägare och för deras användare.

En av de drabbade var Sveriges vice statsminister Ebba Busch, något som väckt särskild uppmärksamhet i den svenska debatten. Trots detta har de politiska reaktionerna varit förhållandevis återhållsamma. Statsminister Ulf Kristersson har visserligen kallat bilderna för sexualiserat våld, medan Liberalernas partiledare Simona Mohamsson och KDU:s ordförande Louise Hammargren uttryckt stark kritik. Det paradoxala är att samtliga valde att framföra sin kritik just på X – samma plattform som möjliggjorde övergreppen.

Denna ambivalenta hållning står i stark kontrast till reaktionerna i Storbritannien, där regeringen gått betydligt längre. Den brittiska digitaliseringsministern har meddelat att man förbereder ett förbud mot digitala avklädningstjänster, och myndigheterna har till och med hotat med att förbjuda X i landet. Dessa åtgärder har lett till att Elon Musk vidtagit vissa begränsande åtgärder, men kritiker påpekar att det fortfarande är möjligt att kringgå restriktionerna genom att använda den separata Grok-appen och sedan dela innehållet på X.

EU-kommissionen har nyligen inlett en formell utredning av huruvida X har brutit mot EU:s lag om digitala tjänster (Digital Services Act). Ett möjligt resultat av denna utredning är att X kan tvingas stänga av Grok-tjänsten inom EU:s gränser.

Både Elon Musk och personer inom Donald Trumps tidigare administration har kritiserat dessa åtgärder och beskrivit dem som censur. Samtidigt finns en bred konsensus bland de flesta att vissa former av innehåll, såsom barnpornografi och bilder av övergrepp, bör begränsas oavsett om det tekniskt sett innebär censur.

Händelsen väcker fundamentala frågor om sociala mediers roll och ansvar i samhället. Framför allt synliggörs spänningen mellan yttrandefrihet och skydd mot kränkningar i en digital miljö där AI-verktyg kan skapa realistiska bilder utan samtycke från de avbildade. I en tid när politiker och offentliga personer i allt högre grad förlitar sig på plattformar som X för att nå ut med sitt budskap, blir frågan särskilt känslig.

För svenska politiker återstår en svår avvägning: Ska de fortsätta använda en plattform som möjliggör övergrepp i industriell skala, eller finns det andra kommunikationskanaler som kan användas utan att indirekt stödja en infrastruktur för trakasserier och kränkningar? Hittills tycks de flesta ha valt att stanna kvar, trots incidenterna.

Medan debatten fortsätter arbetar både lagstiftare och teknikföretag med att hitta balansen mellan innovation och skydd mot övergrepp i den nya AI-eran.