Simon Campanello: Kan Tiktok stoppa riktig desinformation?

En granskning från Dagens Nyheter visar att TikTok låtit hundratals AI-genererade bluffvideor ligga kvar på plattformen, trots att de anmälts och tydligt bryter mot bolagets egna riktlinjer. Klippen, som bland annat föreställer en flicka med Downs syndrom, en enögd krigsveteran och en mobbad flicka, är utformade för att väcka empati hos tittarna för att sedan sälja handgjorda väskor och skärbrädor. Personerna i videorna existerar inte – de är helt fabricerade av AI.

Först efter att DN kontaktade företaget plockades klippen bort. Att TikTok inte själva förmår upptäcka så pass uppenbara manipulationer väcker frågor om plattformens förmåga att hantera betydligt allvarligare hot: vilseledande AI-genererad desinformation och påverkanskampanjer från statliga aktörer – något bolaget enligt EU-lagstiftning är skyldigt att motverka.

Problemet är långt ifrån hypotetiskt. Forskning och underrättelserapporter har under flera år visat att statliga aktörer systematiskt använder sociala medier för att påverka opinionen i andra länder. Debatten om techbolagens ansvar intensifierades efter Brexit-omröstningen 2016, då indikationer framkom på externa påverkansoperationer. Den fick ytterligare bränsle när rapporter visade att ryska aktörer stöttat Donald Trumps första presidentkampanj genom koordinerade insatser i sociala medier.

Redan då varnade många forskare för att AI-utvecklingen riskerade att eskalera situationen. Året därpå myntades begreppet deepfakes, när AI-manipulerade bilder och videor nådde en nivå av realism som gjorde dem svåra att skilja från äkta material. Experter förutspådde en flodvåg av AI-genererad desinformation som skulle skölja över nätet, och krav ställdes på plattformarna att utveckla motståndskraft.

Ett drygt decennium senare har utvecklingen överträffat farhågorna. Att framställa deepfakes i dag är både billigt och enkelt. Antalet tjänster som för några kronor och några klick genererar mer eller mindre realistiska fejkvideor har exploderat. Många av dem är betydligt mer övertygande än de uppenbart fejkade klipp som DN:s granskning identifierat.

Frågan är varför TikToks säkerhetssystem missar sådana uppenbara överträdelser. Om bolaget inte kan stoppa enkla bluffar med kommersiella syften, hur ska det då kunna hantera sofistikerad desinformation och påverkanskampanjer? Något som blir allt mer akut i samband med valrörelser. Den europeiska digitaltjänstakten (DSA) ställer tydliga krav på plattformar att agera mot olagligt innehåll och systematiska risker, inklusive desinformation. Underlåtenhet kan leda till kännbara böter.

Att TikTok tillåter den här typen av innehåll att ligga kvar – även efter anmälningar – tyder på att de interna kontrollmekanismerna brister på en grundläggande nivå. Oavsett om det handlar om bristande resurser, tekniska begränsningar eller prioriteringar, är konsekvensen densamma: användare utsätts för manipulerande innehåll som är konstruerat för att lura dem.

För annonsörer och företag som marknadsför sig på plattformen innebär detta också en risk. Varumärken som exponeras i anslutning till bedrägligt innehåll kan skadas av associationen, och förtroendet för digitala plattformar som reklamkanal urholkas när användare inte kan lita på det de ser.

Samtidigt är problemet inte unikt för TikTok. Hela den sociala medie-branschen brottas med liknande utmaningar, och AI-utvecklingen gör det svårare att skilja äkta från fejk. Men när plattformar som marknadsför sig med avancerade algoritmer och säkerhetssystem missar så uppenbara fall, aktualiseras frågan om teknikjättarnas förmåga att leva upp till sina åtaganden – och om lagstiftare behöver skärpa kraven ytterligare.

DN:s granskning är ett konkret exempel på ett systemfel som sannolikt är betydligt mer utbrett än vad som hittills dokumenterats. För användare som navigerar i ett allt mer komplext informationslandskap blir konsekvensen att ingen kan vara säker på vad som är äkta. För samhället i stort innebär det att förtroendet för information – en grundpelare i demokratin – fortsätter att urholkas.