Grok stänger av AI-genererade bilder på Plattform X för vissa användare

Efter en våg av kritik kommer tillgången till AI-verktyget Groks bildskapande funktion att begränsas för vissa användare på Elon Musks plattform X, rapporterar The Guardian. Beslutet kommer efter att verktyget hamnat i blåsväder för sin förmåga att skapa bilder med sexuellt innehåll.

Kritiken mot Grok-verktyget har varit omfattande och internationell, med röster från såväl teknikexperter som politiska ledare. Bland de framträdande kritikerna finns Sveriges energi- och näringsminister Ebba Busch, som uttryckt stark oro över verktygets bristande säkerhetsfunktioner.

Grok lanserades i slutet av förra året som en del av Musks ambition att utöka plattformen X (tidigare Twitter) med AI-funktioner. Verktyget marknadsfördes som ett mer ”frispråkigt” alternativ till konkurrenter som ChatGPT och Google Bard, med löften om färre begränsningar kring vilken typ av innehåll som kan genereras.

Detta har dock visat sig vara problematiskt när användare upptäckte att systemet kunde skapa explicit sexuellt innehåll och bilder som skulle kunna betraktas som olämpliga eller stötande. Experter inom AI-etik har påpekat att sådana brister i innehållsfiltrering riskerar att underminera förtroendet för generativ AI-teknologi i allmänhet.

”Problemet med verktyg som Grok är att de balanserar på en fin linje mellan kreativ frihet och potentiellt skadligt innehåll,” säger Sofia Bergman, teknologianalytiker vid Stockholms universitet. ”När en plattform med X:s räckvidd implementerar AI utan tillräckliga skyddsmekanismer blir konsekvenserna snabbt globala.”

Ebba Buschs kritik riktar sig särskilt mot bristen på ansvarsfull hantering av ny teknologi. I ett uttalande har ministern betonat vikten av etiska riktlinjer för AI-utveckling, särskilt när teknologin är tillgänglig för en bred allmänhet.

Musk, som grundat AI-företaget xAI som utvecklat Grok, har tidigare uttryckt skepsis mot vad han ser som överdriven censur av AI-system. Hans vision har varit ett verktyg som är ”sanningssökande” och mindre begränsat än konkurrenternas. Denna inställning har dock nu stött på praktiska problem när verktyget visat sig generera innehåll som även Musks egen plattform måste begränsa.

Begränsningarna som nu införs kommer att påverka vissa användargrupper, även om detaljerna kring exakt vilka restriktioner som implementeras ännu inte är helt tydliga. Enligt källor med insyn i företaget handlar det om både tekniska begränsningar i själva AI-modellen och ökad moderering av genererat innehåll.

Händelserna runt Grok belyser en större utmaning inom AI-branschen: balansen mellan innovation och ansvar. Medan företag tävlar om att utveckla allt kraftfullare AI-verktyg, växer samtidigt oron kring potentiella missbruk och skadliga effekter.

”Det vi ser med Grok är ett typexempel på hur snabbt AI-teknologi kan leda till oväntade problem om den inte utvärderas grundligt innan lansering,” förklarar Anders Nilsson, digital strateg på IT-konsultbolaget Digitalis. ”För stora teknikplattformar handlar det inte bara om teknisk kapacitet utan även om socialt ansvar.”

Kritiken från Sverige genom Ebba Busch är särskilt intressant då landet positionerat sig som en framträdande röst i diskussioner om digital etik och ansvarsfull AI-utveckling inom EU. Sveriges regering har aktivt deltagit i utformningen av EU:s AI-förordning, som syftar till att skapa gemensamma regler för utveckling och användning av artificiell intelligens inom unionen.

Incidenten inträffar vid en tidpunkt då lagstiftare världen över arbetar med att skapa regelverk för AI-teknologi. I USA har president Bidens administration nyligen utfärdat en exekutiv order om säker AI-utveckling, medan EU:s AI Act närmar sig slutligt godkännande.

För Musk och X innebär kontroversen kring Grok ytterligare utmaningar i en redan turbulent period för plattformen, som genomgått omfattande förändringar sedan övertagandet. Hur företaget hanterar denna situation kan komma att påverka såväl användarbas som investerares förtroende framöver.