EU inleder utredning om Grok

EU-kommissionen inleder utredning om Grok efter AI-manipulerade sexbilder

EU-kommissionen har påbörjat en ny utredning av AI-tjänsten Grok, ett verktyg som ägs av Elon Musks bolag XAI. Utredningen kommer att granska hur företaget bedömde och hanterade olika risker innan lanseringen av tjänsten inom EU.

Grok har hamnat i blåsväder sedan lanseringen på grund av dess förmåga att skapa så kallade ”deepfakes” – manipulerade bilder och videor där verkliga personer, inklusive minderåriga, framställs i sexuella sammanhang. Denna typ av manipulerad media har drabbat flera personer, däribland Sveriges energi- och näringsminister Ebba Busch (KD), som blivit utsatt för förfalskade bilder.

Den nya utredningen kommer att genomföras parallellt med en redan pågående granskning av plattformen X (tidigare Twitter), som också ägs av Elon Musk. EU-kommissionen vill specifikt undersöka om X har brutit mot EU:s digitala tjänstelag, DSA (Digital Services Act), som ställer höga krav på hur digitala plattformar ska hantera innehåll och användardata.

Henna Virkkunen, EU:s digitalansvariga kommissionär, uttryckte stark oro över situationen i ett pressmeddelande: ”Sexuella deepfakes av kvinnor och barn utan samtycke är en våldsam, oacceptabel form av förnedring”.

För drygt en vecka sedan meddelade XAI via plattformen X att företaget har implementerat tekniska åtgärder för att förhindra skapandet av manipulerade bilder och filmer som visar verkliga personer i sexuella situationer. I uttalandet betonade företaget att: ”Denna begränsning gäller alla användare, inklusive betalande prenumeranter”.

Utvecklingen av avancerade AI-verktyg som Grok har väckt allvarlig oro bland lagstiftare och myndigheter globalt. Teknologin kan nu skapa extremt realistiska förfalskningar som är svåra att skilja från äkta material. Detta har lett till ökade krav på reglering och ansvarstagande från teknikföretagen som utvecklar dessa tjänster.

EU har positionerat sig i framkanten när det gäller reglering av digitala tjänster och AI genom bland annat DSA och den kommande AI-förordningen. Dessa regelverk syftar till att säkerställa att digitala plattformar och AI-system utvecklas och används på ett sätt som respekterar grundläggande rättigheter och skyddar användare från skada.

För Elon Musks företagsimperium innebär den nya utredningen ytterligare granskning från europeiska myndigheter. Musk, som förvärvade Twitter (numera X) 2022 och därefter lanserat flera AI-initiativ genom XAI, har ofta hamnat i konflikt med regulatoriska myndigheter både i Europa och USA.

Problemet med AI-genererade deepfakes är inte begränsat till Grok, utan har blivit ett växande samhällsproblem i takt med att AI-tekniken blir allt mer avancerad och tillgänglig. Expertgrupper varnar för att sådan teknik kan användas för att sprida desinformation, skada personers rykte eller bedriva utpressning.

Samtidigt som EU-kommissionen nu granskar Grok, pågår även diskussioner om hur man på ett effektivt sätt kan bekämpa spridningen av manipulerade medier utan att hämma teknologisk innovation eller inskränka yttrandefriheten. Balansen mellan dessa intressen kommer sannolikt att forma framtida regleringar inom området.

Kommissionens utredning av Grok kan få långtgående konsekvenser, inte bara för XAI utan för hela AI-branschen, då resultatet kan komma att påverka hur framtida AI-system utvecklas och regleras inom EU. Om X och XAI befinns ha brutit mot DSA kan det leda till omfattande böter på upp till 6 procent av företagets globala årsomsättning.