Här hyllar ”Jake Paul” SVT – skrämmande likt med Sora 2

I februari 2024 skedde ett avgörande genombrott inom text-till-video-teknologin när Open AI lanserade videogeneratorn Sora. För första gången kunde allmänheten skapa videoklipp med nästan fotorealistiska resultat genom att bara skriva några kreativa textrader. Detta teknologiska framsteg markerade början på en ny era inom digital innehållsskapande.

Nu har företaget presenterat nästa steg i utvecklingen – Sora 2. Den uppdaterade versionen ska enligt uppgift kunna hantera mer komplexa instruktioner och producera videomaterial med ännu högre grad av verklighetstrogen återgivning. Förbättringarna innebär att skillnaden mellan professionellt filmat material och AI-genererat innehåll blir allt svårare att upptäcka för det otränade ögat.

Utvecklingen väcker dock allvarliga frågor bland experter som varnar för potentiella konsekvenser av tekniken. En ”tsunami av desinformation” är att vänta, menar kritiker, med risker för ökad misstro i samhället när det blir svårare att skilja verkligt från fabricerat innehåll.

”Den största risken är att vi suddar ut gränsen mellan verklighet och vad som är AI-genererat,” säger Sveriges radios techreporter Evelina Galli i en kommentar om lanseringen.

Hon manar dock till besinning i diskussionen och påpekar att tekniken inte är helt ny: ”Varje nytt släpp blir jätteuppmärksammat – men det finns redan verktyg som kan göra det här. Tekniken har i viss mån funnits länge och det har alltid funnits de som använder den för egen vinning.”

Sora 2 lanseras med vissa inbyggda begränsningar för att kontrollera hur verktyget kan användas och hur det genererade materialet får spridas. Dessa restriktioner är ett försök från Open AI:s sida att hantera de etiska utmaningar som tekniken medför. Åtgärderna har dock kritiserats av vissa som menar att de är otillräckliga mot bakgrund av teknologins potential för missbruk.

AI-genererade videoklipp får störst spridning på sociala medier, vilket aktualiserar frågan om plattformarnas ansvar för att hantera potentiellt vilseledande innehåll. De stora tech-företagen befinner sig i en balansgång mellan att upprätthålla engagemang och förhindra negativa konsekvenser av AI-innehåll.

”Rent krasst genererar sådana här videoklipp enormt med engagemang. Samtidigt märker techföretagen att fler lämnar plattformarna när det svämmar över med för mycket AI, och försöker parera den utvecklingen,” förklarar Galli.

Ett exempel på hur sociala medieföretag anpassar sig till den nya verkligheten är Metas tjänst ”Meta vibes”, ett särskilt videoflöde för användare som specifikt vill ta del av AI-skapade videoklipp. Denna typ av segregering av innehåll kan ses som ett försök att både tillgodose intresset för AI-material och samtidigt säkerställa transparens kring innehållets ursprung.

Trots riskerna ser Evelina Galli en potentiellt positiv bieffekt av den ökade uppmärksamheten kring AI-genererade videor. Hon hoppas att publiciteten kring Open AI:s lansering kan leda till ökad medvetenhet och bättre källkritik bland användare.

”När vi ser virala klipp på kändisar som gör eller säger skumma saker förstår vi snabbt att det är AI och då blir också den breda massan medveten om vad AI kan göra i dag,” säger hon.

Lanseringen av Sora 2 representerar ytterligare ett steg i den accelererande utvecklingen av AI-teknologi som förändrar hur vi skapar, konsumerar och tolkar digitalt innehåll. Medan tekniken erbjuder kreativa möjligheter för filmskapare, marknadsförare och andra innehållsproducenter, väcker den också fundamentala frågor om autenticitet, tillit och ansvar i vårt alltmer digitaliserade informationslandskap.

De kommande månaderna förväntas bli avgörande för hur branschen, lagstiftare och användare hanterar de utmaningar som Sora 2 och liknande teknologier medför i ett globalt kommunikationslandskap där gränsen mellan det verkliga och det artificiella blir allt mer diffus.