Professor: Går inte att lita på Chat GPT

De artificiella intelligensernas tidsålder ställer nya krav på vår förmåga till källkritik. ChatGPT, som under det senaste året blivit ett allt vanligare verktyg för informationssökning, väcker frågor om hur vi ska förhålla oss till de svar vi får.

Olof Sundin, professor i informationsvetenskap, varnar för att det är lätt att bli lurad av AI-verktygets sätt att presentera information.

”Man kan lätt bli lurad och tro att det är en allvetande expert som sitter där och svarar på frågor,” förklarar han. ”Men i själva verket handlar det om ett system som bygger på statistiska sannolikheter för vilka ord som brukar följa på varandra.”

Till skillnad från traditionella sökmotorer som Google, där vi får en lista med länkar och själva måste värdera källornas trovärdighet, levererar ChatGPT svar i en sammanhängande text som kan ge sken av att vara objektiv kunskap.

Detta har skapat en ny utmaning för vår källkritiska förmåga. Sundin menar att många användare tenderar att ha en övertro på AI-verktygets kapacitet och tillförlitlighet.

”Språkmodellerna ger ofta svar med hög självförtroende även när informationen är felaktig eller ofullständig. Det är problematiskt eftersom användaren inte kan se vilka källor som ligger bakom påståendena,” påpekar professorn.

En annan aspekt är att ChatGPT och liknande system kan fabricera information, något som i forskningsvärlden kallas för ”hallucination”. Modellen kan presentera påhittade fakta, citat eller statistik på ett övertygande sätt, vilket gör det svårt för användaren att skilja mellan fakta och fiktion.

Forskare vid Uppsala universitet har nyligen genomfört en studie där de testade ChatGPT:s förmåga att svara korrekt på faktafrågor inom olika ämnesområden. Resultatet visade att språkmodellen hade en betydande felmarginal, särskilt när det gällde specifika fakta inom specialistområden.

”Det är viktigt att komma ihåg att dessa system är tränade på enorma mängder data från internet, inklusive felaktig information, konspirationsteorier och partiska åsikter,” säger Sundin.

Utbildningsväsendet har särskilt uppmärksammat dessa utmaningar. Flera svenska högskolor och universitet har tagit fram riktlinjer för hur studenter bör förhålla sig till AI-verktyg i sina studier. Skolverket arbetar också med att ta fram rekommendationer för hur grundskolor och gymnasier kan hantera den nya tekniken.

”Vi behöver utveckla en ny typ av digital kompetens som innefattar förståelse för hur dessa AI-system fungerar och vilka begränsningar de har,” menar Sundin.

Samtidigt som det finns anledning till vaksamhet, påpekar många experter att AI-verktyg som ChatGPT kan vara användbara i många sammanhang – så länge användaren är medveten om begränsningarna och dubbelkollar information från mer tillförlitliga källor.

Medievetaren Lisa Olsson vid Stockholms universitet framhåller att det är skillnad på olika typer av information.

”Om du använder ChatGPT för att få idéer eller för att sammanfatta allmänt kända fakta är risken för problem mindre än om du förlitar dig på systemet för att få specifik eller specialiserad kunskap,” säger hon.

För journalister och forskare utgör AI-verktygens framväxt en särskild utmaning, eftersom yrkesgruppernas trovärdighet bygger på tillförlitlig faktahantering.

Sveriges största medieföretag har därför infört policyer som reglerar användningen av AI i journalistiskt arbete. På liknande sätt har vetenskapliga tidskrifter börjat ställa krav på att forskare redovisar hur AI har använts i forskningsprocessen.

”Det handlar om transparens,” menar Olof Sundin. ”Användaren måste veta varifrån informationen kommer och hur den har tagits fram.”

I en tid där desinformation sprids allt snabbare blir källkritik och mediekompetens allt viktigare färdigheter. Experter betonar att skolorna har en nyckelroll i att lära ut dessa förmågor.

”Vi behöver lära oss att ställa frågor som ’Hur vet ChatGPT detta?’ och ’Vilka källor bygger svaret på?'” avslutar Sundin.