Ledare: En partiledare som vill ”förgöra” Sverige är bara början

I den digitala kampanjens skugga: AI-genererad desinformation hotar demokratin

Den politiska arenan har fått en ny och farlig aktör: artificiell intelligens som kan skapa förvillande äkta videomaterial. Ett oroande exempel utspelade sig inför EU-valet 2024, då ”deepfakes” föreställande Socialdemokraternas partiledare Magdalena Andersson cirkulerade på sociala medier. Dessa manipulerade videoklipp, som visade Andersson uttala sig om att ”förgöra” Sverige och försvara gängkriminalitet, visade sig ha skapats och spridits av Sverigedemokraternas kommunikationsavdelning, enligt TV4:s avslöjande.

När SD konfronterades med materialet försvarade de sig med att det var satir. Videornas kvalitet var dessutom inte högre än att uppmärksamma tittare kunde upptäcka förfalskningen. Men incidenten fungerar som en illavarslande försmak av vad som väntar i framtiden när AI-tekniken blir allt mer sofistikerad.

Under 2024 rapporterade OpenAI, företaget bakom Chat GPT och videogeneratorn Sora, att de avvärjt påverkansoperationer riktade mot flera länder och organisationer, däribland Rwanda, USA, Indien, Ghana och Europeiska unionen. I samband med det tyska valet 2025 avslöjades att Ryssland använt OpenAI för att producera och sprida budskap som främjade extremhögerpartiet AFD.

AI-genererade videoklipp har nu nått en utvecklingsnivå där det ofta är närmast omöjligt att urskilja dem från autentiskt material. Detta gäller inte bara för den genomsnittlige sociala medieanvändaren utan även för etablerade nyhetsmedier. Ett talande exempel är när SVT:s ”Agenda” i slutet av 2025 oavsiktligt använde ett AI-genererat klipp som om det vore verkliga bilder från USA.

Även om många AI-filmer är relativt harmlösa – som fabricerade söta djur eller fiktiva personer som marknadsför produkter – finns det en växande oro för material med politiska undertoner. Falska uttalanden från politiker, förfalskade krigsscener från Ukraina eller iscensatta gängkonflikter i svenska förorter förväntas bli allt vanligare inslag i det digitala informationslandskapet.

En fungerande demokrati förutsätter en offentlig debatt som utgår från en gemensam verklighetsuppfattning. Denna grundläggande förutsättning utmanas nu allvarligt av den snabba AI-utvecklingen och dess missbrukspotential.

EU försöker sedan förra året reglera området genom att kräva tydlig märkning av AI-genererat material. Dessa åtgärder riskerar dock att bli verkningslösa mot påverkansoperationer från aktörer som Iran och Ryssland, som knappast kommer att respektera europeisk lagstiftning. Ett alternativt angreppssätt är att ställa striktare krav på plattformar för sociala medier att identifiera och flagga AI-genererat innehåll.

En undersökning genomförd av Washington Post hösten 2025 visade att endast en av åtta sociala medieplattformar lyckades upptäcka att uppladdade Sora-klipp var AI-genererade. Med tanke på att miljontals videoklipp laddas upp dagligen på varje större plattform framstår utmaningen som närmast oöverstiglig – att försöka stoppa falska klipp ett och ett liknas vid att hugga huvudena av en hydra.

Med tanke på den tekniska utvecklingens framfart är det osannolikt att perfekta regleringar kommer att kunna implementeras. Detsamma gäller utvecklingen av pålitliga verktyg för att upptäcka AI-genererat material. En förhoppning som återstår är att användare gradvis kommer att överge algoritmstyrda medier som översvämmas av datorgenererat och potentiellt manipulativt innehåll, till förmån för mer tillförlitliga informationskällor.

Oavsett vilka lösningar som utvecklas står det klart att demokratiska samhällen måste ta hotet från AI-genererad desinformation på största allvar. När tekniken gör det allt svårare att skilja fakta från fiktion utmanas själva grundvalarna för vår gemensamma verklighetsuppfattning – och därmed också för den demokratiska processen.