TikTok riskerar EU-böter för algoritmiska ”kaninhål” i For You-flödet

EU-kommissionen har inlett ett nytt ärende mot videotjänsten TikTok, som misstänks för att bryta mot unionens regler för digitala tjänster. Myndigheterna riktar skarp kritik mot hur plattformens rekommendationssystem kan locka användare djupare in i innehåll som förstärker negativa känslor och beroendeframkallande beteenden.

Det är inte första gången som den kinesiskägda appen hamnar i blåsväder inom EU. Den här gången handlar det om så kallade kaninhål, det vill säga algoritmer som kontinuerligt föreslår allt mer extremt eller ensidigt innehåll baserat på vad användaren tidigare tittat på. Enligt EU-kommissionen kan denna typ av mekanismer få allvarliga konsekvenser för användarnas psykiska hälsa, särskilt bland yngre personer.

Utredningen grundar sig på den omfattande rättsakten om digitala tjänster, DSA, som infördes för att skapa en säkrare och mer transparent digital miljö inom unionen. Enligt regelverket har plattformar som TikTok en skyldighet att noggrant bedöma och minska systemrisker, däribland risker som kan kopplas till beroendeframkallande design. Kommissionen menar att bolaget inte i tillräcklig utsträckning har kunnat visa hur man arbetar för att motverka dessa risker.

TikTok har nu fått en formell begäran om att lämna ytterligare dokumentation kring hur rekommendationsalgoritmerna är uppbyggda och vilka åtgärder som vidtagits för att skydda användarna. Företaget har tidigare försvarat sina system och hävdat att man kontinuerligt förbättrar plattformen för att undvika skadligt innehåll. Bolaget har också pekat på att man infört verktyg som gör det möjligt för användare att begränsa vissa typer av rekommendationer.

Trots det anser EU-kommissionen att det finns tillräckligt med indikationer för att gå vidare med ett formellt förfarande. Om bolaget befinns skyldigt till överträdelser kan det leda till böter på upp till sex procent av den globala årsomsättningen. För ett företag med TikToks storlek skulle det innebära miljardbelopp. Utöver böterna kan kommissionen också kräva konkreta förändringar i hur plattformen fungerar.

Det här är en del av en bredare trend där EU allt oftare använder DSA som ett verktyg för att stävja maktmissbruk bland de stora techbolagen. Flera andra plattformar har under det senaste året granskats för liknande frågor, däribland hur deras tjänster påverkar unga användare och hur de hanterar spridning av skadligt innehåll. Samtidigt har flera medlemsländer, däribland Sverige, intensifierat sitt arbete med att skydda barn och unga i digitala miljöer.

För TikToks del kommer den nya utredningen vid ett känsligt tillfälle. Bolaget har under en längre tid arbetat för att stärka sitt rykte i västvärlden, bland annat genom att utöka sitt innehållsmodereringsteam och investera i teknik som ska fånga upp olämpligt material. Man har även lanserat särskilda funktioner för föräldrakontroll och begränsningar av skärmtid för att bemöta den växande kritiken från politiker och experter.

Trots dessa åtgärder fortsätter oron för algoritmernas effekter att växa. Forskare har under flera år varnat för hur kortvideor kan skapa intensiva känslomässiga reaktioner och bidra till en upplevelse av att förlora kontrollen över sin egen användning. Det finns även studier som kopplar samman långvarigt användande av sociala medier med försämrad sömn, minskad koncentration och ökad ångest.

Inom EU ses därför den här typen av regleringar som en nödvändighet snarare än ett hot mot innovation. Genom att ställa krav på transparens och ansvarsskyldighet vill lagstiftarna skapa en digital marknad där användarnas välbefinnande inte underordnas kommersiella intressen. Kommissionens beslut att granska TikTok är därmed ett tydligt ställningstagande i en bredare politisk debatt.

Om utredningen leder till ett formellt beslut om överträdelse skulle det bli ett av de första stora testfallen för DSA:s faktiska genomslag. Rättsprocessen kan komma att ta lång tid, och det är ännu oklart hur företaget kommer att agera. Men beskedet från Bryssel är tydligt: plattformar som når en stor del av Europas befolkning måste ta ansvar för de system de bygger och de effekter de får.