Svenska kändisar utnyttjas i politisk AI-propaganda: ”Det är förjävligt”

Den 14 augusti presenterade Tiktok en ambitiös plan för att stoppa desinformation inför det svenska riksdagsvalet. I ett uttalande lovade plattformen att stänga av konton som försöker vilseleda användare genom att utge sig för att vara politiker eller nyhetsredaktioner. Särskilt fokus riktades mot AI-genererat material, där företaget deklarerade att allt realistiskt sådant innehåll måste märkas tydligt.

Men en granskning genomförd av Dagens Nyheter tillsammans med it-säkerhetsexperten Karl Emil Nikka visar nu att verkligheten ser annorlunda ut. Åtta videor som tydligt bryter mot Tiktoks egna policyer har anmälts via plattformens modereringssystem – samtliga fick godkänt. Klippen saknar AI-märkning och innehåller material som Tiktok uttryckligen förbjudit, däribland fejkade nyhetsinslag och propagandafilmer för det högerextrema partiet Alternativ för Sverige.

I filmerna förekommer ett 70-tal kända svenskar – artister, idrottsmän, politiker, journalister och till och med medlemmar av kungahuset – som genom AI-manipulation ser ut att bära partieträjor med Alternativ för Sveriges logotyp och göra ett handtecken som kopplas till vit makt-ideologi. Det mest populära klippet har visats över 80 000 gånger, och sammanlagt har videorna genererat hundratusentals visningar.

Alternativ för Sveriges partiledare Gustav Kasselstrand skriver i ett mejl till DN att partiet inte har något samröre med de anonyma kontona.

Reaktionerna från de drabbade är starka. Artisten Marko Lehtosalo, mer känd som Markoolio, är en av dem som utnyttjats i filmerna. Han kräver nu att Tiktok tar större ansvar och hotar med svenska myndighetsåtgärder om plattformen inte skärper sig. Även kung Carl XVI Gustaf förekommer i materialet, och hovets informationschef Margareta Thorgren bekräftar att man vidtar åtgärder när kända personer används i propagandasyfte.

Sångerskan Sanna Nielsen beskriver filmerna som ”obehagliga” i ett mejl till DN, och programledaren Carina Berg säger att hon inte kan förstå varför Tiktok inte plockar bort materialet omedelbart. Bianca Ingrosso, Pernilla Wahlgren och Mia Skäringer är andra kända namn som syns i klippen.

DN har även identifierat ett konto som sprider fabricerade nyhetsinslag med högerpopulistiska budskap. Inslagen använder AI-genererade nyhetsuppläsare och intervjupersoner, men saknar den obligatoriska AI-märkningen. Materialet strider mot Tiktoks regelverk som förbjuder desinformation och videor som utger sig för att komma från nyhetsmedia.

Först när DN kontaktade Tiktoks pressavdelning försvann kontona från plattformen – inom bara några timmar. Däremot har ingen svarat på frågor om hur kontona kunnat ligga kvar, varken från Tiktoks svenska kontor eller den internationella presstjänsten.

Karl Emil Nikka, som hjälpt DN med granskningen, menar att fallet visar på allvarliga brister i Tiktoks modereringssystem. ”Det är ett tragiskt bevis för att Tiktok inte tar användaranmälningarna på allvar”, säger han.

Granskningen kommer i en tid då AI-genererat innehåll blivit allt svårare att skilja från äkta material. Verktygen för att skapa realistiska filmer har utvecklats explosionsartat de senaste åren – från att ha varit i sin linda till att idag kunna producera nästintill fotorealistiska videor där personer sätts i nya sammanhang och utför handlingar de aldrig gjort.

Tiktoks riktlinjer, som publicerades den 14 augusti, innehåller bland annat information från Valmyndigheten och tips om hur användare kan identifiera falska nyheter. Plattformen uppger att vilseledande AI-genererat innehåll ska tas bort även om det är märkt, och att konton som utger sig för att företräda politiker eller nyhetsredaktioner kommer att stängas av. Sedan tidigare är all betald politisk annonsering förbjuden på plattformen.

Frågan om plattformarnas ansvar har blivit allt mer aktuell i takt med att AI-tekniken utvecklas. EU:s nya regler för digitala tjänster, Digital Services Act, syftar till att minska spridningen av skadligt innehåll, men experter har pekat på att Tiktok kan komma att omfattas av undantag i regelverket. Det återstår att se om den svenska valrörelsen – med AI-genererad desinformation som sprider sig via sociala medier – leder till skarpare krav på plattformarna framöver.