Open AI lägger ner videogenerator – samarbete med Disney avslutas

I en överraskande vändning meddelade techbolaget Open AI under tisdagen att man lägger ner sin AI-videogenerator Sora. Beskedet kommer bara ett halvår efter lanseringen av Sora 2, en app som gav allmänheten möjlighet att skapa och dela hyperrealistiska videor.

”Till alla som skapat med Sora, delat det och byggt en gemenskap kring det: Tack. Det ni skapade med Sora var viktigt, och vi vet att nyheten är en besvikelse”, skrev företaget i ett uttalande på X.

Enligt BBC motiverar Open AI nedläggningen med att de vill fokusera på andra utvecklingsområden, däribland robotteknik ”som kommer att hjälpa människor att lösa verkliga, fysiska uppgifter”. Detta markerar en tydlig strategiförändring för företaget som tidigare satsat stort på generativ AI för visuellt innehåll.

Sora lanserades ursprungligen 2024 som ett verktyg för att skapa realistiska videor baserat på textbeskrivningar. Tekniken väckte stor uppmärksamhet för sin förmåga att producera visuellt övertygande material utan behov av traditionell filmproduktion. När Sora 2 lanserades för allmänheten beskrev Open AI:s vd Sam Altman den som ”ett ChatGPT för kreativitet”.

Appliktationen mötte dock snabbt hård kritik för innehållet som användare skapade. Enligt The Guardian genererade användare rasistiska, våldsamma och sexuellt explicita videor. Särskilt problematiskt var klipp som föreställde masskjutningar med skrikande personer och fabricerade scener från Gaza-konflikten, där AI-genererade barn berättade om hur deras hem förstörts.

Ett annat etiskt problem var att användare kunde skapa videor av avlidna personer som Martin Luther King Jr, John F Kennedy och Stephen Hawking, vilket väckte frågor om digitalt samtycke och respekt för de avlidnas minne.

I samband med Soras nedläggning avslutas även Open AI:s samarbete med Disney. Det var så sent som i december förra året som underhållningsjätten meddelade en investering på 1 miljard dollar i Open AI. Avtalet, som skulle löpa över tre år, innebar att Disney tillhandahöll cirka 200 av sina karaktärer för användning i AI-genererade material.

Samarbetet ledde dock till kontroverser när Disneys ikoniska karaktärer började dyka upp i AI-genererade klipp med rasistiskt och våldsamt innehåll. Dagens Nyheter uppmärksammade hur Disneys miljardavtal med Open AI möjliggjorde denna typ av missbruk.

En talesperson för Disney kommenterar nu till BBC att företaget kommer att utforska samarbeten med andra AI-plattformar för att hitta nya sätt att använda tekniken utan att inkräkta på immateriella rättigheter.

Nedläggningen av Sora speglar en växande insikt i techindustrin om de etiska utmaningarna med generativa AI-verktyg. När tekniken blir alltmer sofistikerad ökar också riskerna för missbruk, särskilt när den görs tillgänglig för en bred allmänhet utan tillräckliga säkerhetsåtgärder.

Beslutet kan också ses som ett tecken på att Open AI omvärderar sin position på marknaden. Företaget, som är mest känt för sin textbaserade chattrobot ChatGPT, tycks nu vilja fokusera på områden där de har större konkurrensfördel eller där de etiska riskerna är mer hanterbara.

För AI-branschen som helhet är detta ett viktigt ögonblick som belyser spänningen mellan innovation och ansvar. Medan tekniken fortsätter att utvecklas i snabb takt, måste företagen balansera kommersiella intressen mot samhällsansvar och etiska hänsyn.

Soras korta livstid demonstrerar tydligt utmaningarna med att demokratisera kraftfull AI-teknik i en tid när regelverk och etiska ramverk fortfarande utvecklas.