Tiktok pausar kritiserat AI-verktyg: ”Obehagligt”

Tiktok pausar AI-funktion efter kreatörers oro över integritet

I april införde Tiktok utan större fanfar en ny AI-baserad funktion kallad ”Meme remixer”, vilket möjliggjorde för användare att skapa AI-genererade bilder utifrån befintliga videoklipp. Funktionen aktiverades automatiskt på användarnas konton, något som nu lett till stark kritik från innehållsskapare på plattformen.

Lizette Johnsson, en etablerad svensk Tiktok-kreatör med hundratals videor på sitt konto, blev en av de första i Sverige som upptäckte och uppmärksammade funktionen. Hon snubblade över informationen via en brittisk innehållsskapare som diskuterade verktyget.

”Jag trodde först att det inte var tillgängligt i Sverige, men sen kollade jag på mitt eget konto. Jag tycker inte alls om det och blev upprörd över att jag inte hade informerats om det”, säger Johnsson till DN.

När hon undersökte sekretessinställningarna till sina egna inlägg fann hon att alternativet ”Tillåt AI att remixa” var förvalt och automatiskt aktiverat. Detta tvingade henne att manuellt gå igenom alla sina videor för att stänga av funktionen.

”När jag började inse att AI har tillgång till alla mina klipp kändes det väldigt obehagligt och jag var tvungen att berätta om det”, förklarar Johnsson.

Hennes video om upptäckten fick snabbt spridning med över hundra tusen visningar och hundratals kommentarer från andra användare som delade hennes oro. Den främsta kritiken handlade om bristen på transparens och information från Tiktoks sida om vad funktionen innebar och hur den skulle användas.

”Ingen hade fått någon information om vad den här funktionen gjorde. Det känns obekvämt att AI ska ha tillgång till hela ens Tiktok-konto”, säger Johnsson.

Hon drar paralleller till tidigare kontroverser kring AI-verktyg på sociala medier, särskilt när plattformen X (tidigare Twitter) lanserade AI-tjänsten Grok. Det verktyget missbrukades snabbt för att skapa manipulerade bilder av verkliga personer, inklusive minderåriga.

Oron kring hur AI-genererade bilder kan missbrukas har ökat markant det senaste året. Teknologin har utvecklats i snabb takt och gjort det enklare att skapa realistiska bilder baserade på befintligt material, något som väckt allvarliga frågor om samtycke, upphovsrätt och personlig integritet.

Efter den växande kritiken har Tiktok nu beslutat att tillfälligt pausa funktionen. I ett skriftligt uttalande till DN bekräftar Tiktok Nordics att man avbryter testet av ”Meme Remixer” och den tillhörande inställningen.

”Vi testar löpande nya funktioner för att förstå vad som fungerar för vårt community och hur vi kan göra upplevelsen på Tiktok mer intuitiv och kreativ. Som en del av den processen har vi valt att pausa testet av Meme Remixer och den tillhörande inställningen ’Allow AI to remix content’ medan vi utvärderar feedback från användare och kreatörer”, skriver företaget.

Tiktok framhåller att funktioner som testas ofta vidareutvecklas baserat på användarnas reaktioner och kan förändras innan en eventuell bredare lansering. Det är dock oklart om och när funktionen kan komma att återintroduceras, eller vilka förändringar som i så fall skulle genomföras.

Händelsen belyser en växande spänning mellan sociala medieplattformar som snabbt vill implementera nya AI-funktioner och användarnas förväntningar på transparens och kontroll över sitt eget innehåll. För innehållsskapare som Lizette Johnsson handlar det i grunden om rätten att bestämma hur deras material används.

Flera experter inom digital integritet har i andra sammanhang påpekat vikten av att nya AI-funktioner introduceras med tydlig information och med användarnas aktiva samtycke, snarare än genom automatiskt aktiverade inställningar som måste stängas av manuellt.