Disneykaraktärer sprider våld och rasism

I kulisser av barnfilmer sprids extrema budskap

Det ser ut som trailrar för animerade barnfilmer. Med karaktärer, berättarröster och typsnitt i Pixars välkända stil lockar videorna tittare på sociala medier. Disneys och Pixars logotyper pryder titlarna till de påhittade filmerna. Men bakom den oskyldiga fasaden döljer sig något helt annat.

”Skolskjutning” står det med stora bulliga bokstäver tillsammans med texten ”Från skaparna av Hitta Nemo”. I klippet hörs en barnröst hotfullt fråga: ”Tror ni att ni kan gömma er från mig?”, följt av ljudet av skott och skrik från barn.

I en annan video visas rasistiska nidbilder av svarta personer i Pixars animerade stil. De stjäl varor från en affär och flyr från polisen som kommenterar: ”De stjäl allt som inte är fastbultat.”

Dessa videor är möjliga att skapa tack vare ett kontroversiellt samarbete mellan Disney och AI-företaget Open AI. I december tillkännagavs en affär värd över nio miljarder svenska kronor, som ger användare rätt att efterlikna 200 karaktärer från Disney, Marvel, Pixar och Star Wars i Open AI:s videogenerator Sora.

”Fantasi och kreativitet placeras nu direkt i händerna på Disneyälskare på ett sätt vi aldrig sett förut”, sade Disneys vd Bob Iger i samband med avtalet, enligt The Guardian.

Trots att Open AI:s riktlinjer uttryckligen förbjuder skapande av våldsuppmaningar, propaganda och hatiskt, kränkande och extremistiskt innehåll, har mängder av filmer som bryter mot reglerna upptäckts. I ett klipp görs referenser till Förintelsen i en video om en judisk man. En annan video med titeln ”Köket” visar en kvinna som leds till vad som framställs som ”hennes riktiga plats”. I ytterligare en video med homofoba budskap tar en pappa livet av sig när hans son kommer ut som homosexuell.

Andra ”trailrar” baseras på motbevisade konspirationsteorier som att Covid-19-pandemin var orkestrerad av politiker, att USA-valet 2020 vanns med hjälp av valfusk eller att värktabletter orsakar autism. Videorna har sammantaget miljontals visningar.

– Det är definitivt en form av propaganda. Ett försök till kulturell normalisering, säger Anton Törnberg, docent i sociologi som forskar på radikalisering på sociala medier.

Törnberg förklarar att formatet av en tecknad barnfilm ger rasistiskt och konspirationsteoretiskt innehåll en lättsam och ofta humoristisk ton, vilket är en effektiv strategi för att sprida extrema budskap.

– Du paketerar väldigt grova budskap i det här lekfulla, varma och familjära formatet. Estetiken är också speciell eftersom den signalerar nostalgi och barnslighet, säger han.

Användningen av humor och ironi är en etablerad teknik för att avvärja kritik och flytta fokus från själva budskapet. Målet är att successivt förflytta gränserna för vad som anses normalt och acceptabelt i det offentliga samtalet.

– Ingen kommer radikaliseras av en enda video, men det blir en stegvis förflyttning, förklarar Törnberg.

Videorna har publicerats av allt från anonyma konton med få inlägg till verkliga personer och tydligt politiska sidor. Många videor har lagts upp av olika användare, tillskrivs olika skapare och har producerats i flera snarlika versioner, vilket gör det svårt att identifiera den ursprungliga källan.

Anton Törnberg menar att professionella aktörer ofta ligger bakom denna typ av påverkansförsök.

– Det går inte för mig att säga vem som ligger bakom de här. Men en väldigt stor del av den politiska desinformationen idag drivs av aktörer med makt, både ekonomisk och på andra sätt. Jag har svårt att tro att något annat gäller här, säger han.

Synen på moderering av sociala medier har förändrats de senaste åren, delvis pådrivet av USA:s tidigare president Donald Trump och hans anhängare som har beskrivit techbolagens tidigare riktlinjer som inskränkningar av yttrandefriheten.

– Moderering har blivit extremt politiskt laddat och plattformarna riskerar kritik. Modereringsfrågan tolkas som en del av kulturkriget, särskilt i USA. Sedan finns en ekonomisk aspekt också. Vi vet att polariserande budskap genererar engagemang och de här plattformarna lever på det, avslutar Törnberg.

Avtalet mellan Open AI och Walt Disney innebär även att Disney har option på ytterligare aktier i Open AI, att AI-företagets teknologi börjar användas i filmbolagets produktion och att utvalda Disneyliknande videor skapade i Sora ska visas på strömningstjänsten Disney+.