Lisa Magnusson: Hur får man barnvakten att sluta bjuda ungarna på cigg?

Flera nya rapporter visar att TikTok fortfarande låter extrema hyllningar till våld och massmördare flöda fritt till unga svenska användare. Klipp som hånar överlevande skolbarn och upphöjer gärningsmän har återigen satt fokus på plattformens algoritmer och dess oförmåga att hantera skadligt innehåll.

Enligt P1 Morgon har elever som överlevde skolattacken i Fagersta fått videor i sina TikTok-flöden som hånar dem och hyllar den person som genomförde dådet. Svenska Dagbladet har i sin tur dokumenterat hur ett fiktivt konto för en 13-åring räckte med en enda sökning på skolmördarens namn för att inom några dagar få ett flöde där ungefär en tredjedel av videorna utgjordes av hyllningar till massmördare. P3 Nyheter har dessutom rapporterat att nio av tio anmälda extrema våldsklipp ligger kvar på plattformen, även efter att de anmälts.

TikTok ägs av det kinesiska företaget ByteDance och har under senare år vuxit till en av världens största sociala medieplattformar. Appen är särskilt dominerande bland barn och ungdomar, och dess rekommendationsalgoritm anses vara en av de mest avancerade i branschen. Till skillnad från plattformar där användarna själva väljer vilka konton de följer bygger TikTok i hög grad på automatiserade flöden. Algoritmen analyserar användarens beteende i realtid och lär sig snabbt vilka ämnen som skapar starkast engagemang.

Det är just den mekanismen som har blivit föremål för allt hårdare kritik. Extrema känslor, som ilska, rädsla eller fascination för död och våld, tenderar att hålla kvar tittaren längre än lugnt och nyanserat innehåll. Kritiker menar att detta gör att plattformen systematiskt kan förstärka skadliga budskap, särskilt bland unga användare som ännu inte utvecklat ett kritiskt förhållningssätt till det de ser.

Den kritiken har under senare tid fått stöd från forskare och debattörer. I en artikel i The Atlantic har bland annat oro väckts kring de korta, snabba klippens påverkan på barns minne, impulskontroll och koncentrationsförmåga. Frågan har också lyfts i svensk politik, där flera partier velat se skarpare reglering av sociala medier. Föräldrar, skolor och myndigheter har i dag begränsade verktyg för att skydda barn från det som algoritmerna matar dem med.

Även på EU-nivå har trycket ökat. Digital Services Act, DSA, ställer krav på plattformar att snabbt ta bort olagligt innehåll och att bedöma de samhällsrisker deras tjänster kan innebära. EU-kommissionen har inlett flera utredningar av TikToks efterlevnad av regelverket, bland annat med fokus på skydd av minderåriga. I USA har frågan dessutom blivit en säkerhetspolitisk stridsfråga, där lagstiftare under flera år försökt tvinga ByteDance att sälja den amerikanska verksamheten eller förbjuda appen.

Trots de växande kraven på reglering menar flera forskare att problemet sitter djupare än så. Carl Heath, senior forskare och ledare för digital resiliens på statliga forskningsinstitutet Rise, sammanfattade situationen i en intervju med Svenska Dagbladet: ”Man kan inte städa upp ett rum som är designat för att bli fyllt med skit.” Uttalandet fångar en allt vanligare uppfattning: att enbart ta bort enskilda klipp, eller införa partiella begränsningar, inte räcker så länge själva plattformen bygger på att maximera användarens tid framför skärmen.

TikTok har försvarat sig med att man investerar i mänskliga granskare, introducerar föräldrakontroller och samarbetar med oberoende organisationer. Men debatten visar att förtroendet för dessa åtgärder är svagt. Inte minst har jämförelser med tobaksindustrin blivit vanliga. För några decennier sedan var det i stort sett okontroversiellt att unga kunde köpa cigaretter och att rökrutor fanns på skolgårdar. I dag ses det som ett historiskt misslyckande. Flera debattörer menar att synen på TikTok kan komma att betraktas på liknande sätt om några år.

Det gör att frågan nu inte bara handlar om enskilda videor, utan om hur samhället ser på en affärsmodell som bygger på att fånga och behålla unga människors uppmärksamhet. Så länge den modellen får styra vad barn exponeras för, menar kritikerna, kommer problemen att fortsätta – oavsett hur många klipp som plockas bort.