Simon Campanello: Så kan AI och algoritmer påverka det svenska valet

Efter att ha granskat nya vetenskapliga rön finns det nu starkare bevis för att digital teknologi kan påverka demokratiska processer på djupgående sätt. Tre nyligen publicerade studier pekar på allvarliga risker med både AI-baserade språkmodeller och sociala mediers algoritmer när det gäller deras förmåga att manipulera väljarbeteenden.

Forskningsresultaten kommer vid en kritisk tidpunkt då många länder förbereder sig inför viktiga val, och debatten kring teknologins roll i demokratiska processer intensifieras. Studierna visar att både språkmodeller som kan producera vilseledande information och de algoritmer som styr vårt innehåll på sociala medier har potential att påverka opinionsbildning på sätt som tidigare underskattats.

Den första studien fokuserar på storskaliga språkmodeller, liknande de som driver ChatGPT och liknande tjänster. Forskarna fann att dessa system kan generera övertygande felaktigheter som är svåra att skilja från faktabaserad information. När testpersoner exponerades för sådan AI-genererad desinformation, visade de en benägenhet att ändra sina politiska uppfattningar, särskilt i frågor där de inte hade starka förkunskaper.

”Det oroande är hur naturligt och trovärdigt dessa modeller kan producera vilseledande information. De flesta användare saknar verktyg för att identifiera när en språkmodell ’blåljuger’,” förklarar en av forskarna bakom studien.

Den andra studien undersökte hur sociala mediers rekommendationsalgoritmer kan forma användarnas världsbild över tid. Genom att analysera data från flera plattformar kunde forskarna dokumentera hur användare gradvis exponeras för allt mer polariserat innehåll, vilket skapar så kallade filterbubblor där motstridiga åsikter filtreras bort.

Särskilt oroande var upptäckten att algoritmerna snabbt anpassar sig till användarens engagemang. Detta kan leda till att personer som visar minsta intresse för ett kontroversiellt ämne får sitt flöde dominerat av allt mer extrema versioner av samma innehåll.

”Algoritmerna optimeras för att maximera användarengagemang, inte för att presentera en balanserad bild av verkligheten. Detta skapar en försåtlig situation där användare tror att de får objektiv information, medan de i själva verket gradvis styrs mot mer extrema positioner,” säger en ledande forskare inom digital demokrati som granskade studiernas resultat.

Den tredje studien fokuserade specifikt på hur kombinationen av AI-genererat innehåll och riktade algoritmiska rekommendationer kan förstärka varandra inför valkampanjer. Forskningsteamet simulerade en digital kampanjmiljö och fann att skräddarsydda budskap genererade av AI kunde öka polariseringen bland testdeltagarna med upp till 27 procent jämfört med kontrollgruppen.

För teknikföretagen innebär dessa forskningsresultat ökade påtryckningar att utveckla mer transparenta system. Flera ledande plattformar har redan meddelat initiativ för att märka AI-genererat innehåll och erbjuda användare större insyn i hur deras flöden personaliseras, men kritiker menar att dessa åtgärder är otillräckliga.

På EU-nivå diskuteras nu strängare regleringar som en del av den digitala lagstiftningspaketet DSA (Digital Services Act), som specifikt adresserar algoritmisk transparens och hantering av desinformation.

Forskarna bakom studierna betonar att teknologin i sig inte är problemet, utan hur den implementeras och regleras. De förespråkar en kombination av tekniska lösningar, utbildningsinsatser för att öka digital läskunnighet och lagstiftning som ställer krav på öppenhet kring hur digitala plattformar fungerar.

”Vi står inför ett avgörande ögonblick där vi måste bestämma hur dessa kraftfulla teknologier ska samexistera med demokratiska processer,” säger en av de ledande forskarna. ”Våra fynd är varningssignaler, men också vägvisare för hur vi kan säkerställa att teknisk innovation stärker snarare än underminerar demokratin.”

För väljare understryker studierna vikten av kritiskt tänkande och medvetenhet kring digitala informationskällor. Experter rekommenderar att variera sina nyhetskällor, vara uppmärksam på känslomässiga reaktioner på politiskt innehåll och aktivt söka information som utmanar ens befintliga åsikter.

Medan debatten fortsätter är en sak tydlig: gränssnittet mellan digital teknologi och demokratiska processer kommer att vara en central fråga för samhället under överskådlig framtid.