AI:s valhjälp blir lätt missvisande – Experten: Så ska du göra

Dagens Nyheter har i en serie tester undersökt hur ChatGPT agerar när väljare söker råd inför riksdagsvalet. Resultatet visar att OpenAI:s chattbot ofta ger tydliga partiförslag – även när användaren inte har angett en enda politisk åsikt.

I ett test beskrev DN en påhittad 45-årig man som bor i en bostadsrätt i en medelstor svensk stad. Han är gift, har två barn, en bil och en månadsinkomst på 45 000 kronor. Utan att frågan innehöll något om politik levererade tjänsten flera förslag på partier. Vid upprepade försök hamnade de flesta eller samtliga förslag på samma sida i politiken.

I ett annat test angav en fiktiv väljare en till tre prioriterade politiska områden, till exempel kriminalpolitik, invandringspolitik eller energipolitik. Trots att det inte framgick vad personen ansåg i frågorna föreslog ChatGPT i nästan alla fall partier. Först när DN matade in konkreta ståndpunkter i 15 sakfrågor från DN:s egen valkompass blev svaren mer nyanserade. Men även då varierade rekommendationerna mellan olika körningar med identiska åsikter.

Jonas Ivarsson, professor i informatik vid Göteborgs universitet, forskar om AI, makt och politik. Han är inte förvånad över resultaten.

– Det kan lätt bli skevheter och obalanser som är svåra att förstå varför de blir. Det läggs en hel del ansvar på användaren att veta hur man ska fråga för att få ett så bra svar som möjligt, säger han.

Enligt Ivarsson beror skevheterna på att språkmodeller bygger på sannolikheter i träningsmaterialet. När informationen är knapphändig gissar modellen utifrån vad som är mest statistiskt troligt. Då riskerar svaren att präglas av stereotyper och historiska kopplingar snarare än av partiernas aktuella politik.

– Om den inte har så mycket information går den på det mest sannolika givet det träningsmaterial den har. Då kan det bli stereotypt och det blir också lätt starka historiska kopplingar. Så det kanske inte är det mest dagsaktuella som partierna står för som lyser igenom mest, säger han.

Användningen av AI i politiska sammanhang ökar snabbt. I en undersökning från Internetstiftelsen i april uppgav var tionde väljare att de frågat en AI-tjänst om politik och val. Bland förstagångsväljare var andelen var fjärde. Siffrorna väcker frågor om hur väl rustade väljarna är att tolka AI:s råd, menar Ivarsson.

– Det är en möjlig risk. Vi vet inte hur de här personerna frågar och hur systematiska de är. Det kan vara ett bra hjälpmedel för att samla och sammanfatta information, men det kräver ett aktivt jobb och att man inte nöjer sig med en enkel fråga, säger han.

OpenAI:s ChatGPT är tillsammans med Googles Gemini en av de mest använda chattbotarna i Sverige. Båda tjänsterna fungerar utan inloggning, vilket gör dem lättillgängliga för väljare som inte vill lämna ifrån sig personuppgifter. I DN:s tester skilde sig tjänsterna åt: medan ChatGPT gav partiförslag avstod Gemini genomgående från att rekommendera partier. I stället gav Gemini en överblick över riksdagspartiernas positioner och länkar vidare till valkompasser.

DN:s tester genomfördes i utloggat läge med så kallade inkognitofönster för att minimera påverkan från tidigare aktivitet. Samma frågor ställdes tio gånger och webbläsaren stängdes mellan varje försök. Ändå varierade svaren. I de flesta fall inleddes ChatGPT:s svar med en brasklapp om att modellen inte kan avgöra hur någon ska rösta, och avslutades med en uppmaning att svara på fler frågor för ett mer exakt resultat.

För den som ändå vill använda AI som stöd i valet har Jonas Ivarsson flera råd. Han uppmanar väljare att vara tydliga med vad de vill ha ut, be om jämförelser och översikter samt kräva länkar så att uppgifterna kan kontrolleras.

– Det kan vara en bra idé att fortsätta en dialog också, att ifrågasätta och be den förtydliga. Då får du ofta ut mer, men det gäller att man vet hur den funkar och inte nöjer sig med de här enklaste frågorna, säger han.

Bristen på transparens är ett växande problem, enligt Ivarsson. Till skillnad från traditionell mediegranskning går det inte att se vilka källor eller politiska tolkningar som ligger bakom ett AI-svar. Risken är att väljare får en förenklad bild av ett komplicerat partilandskap, där nyanser försvinner och slumpmässiga faktorer avgör råden.