Forskare skulle granska vetenskapliga artiklar – visade sig vara AI-versioner av hans egna studier

Det var under ett rådjurspass i skogen som Johannes Larson fick ett mejl som skulle visa sig vara allt annat än rutin. I inkorgen fanns en förfrågan från tidskriften Forest Ecology and Management – kunde han tänka sig att vara vetenskaplig granskare av en inkommen artikel?

Sådana förfrågningar är vanliga för en forskare. Seriösa vetenskapliga tidskrifter använder sig av så kallad peer review, där andra forskare läser och bedömer artiklar innan de publiceras, för att säkra kvalitet och vetenskaplig trovärdighet. Johannes Larson forskar om skogsskötsel och markvetenskap vid institutionen för skogens ekologi och skötsel på Sveriges Lantbruksuniversitet, SLU, i Umeå.

– Oftast tänker man: Kan jag det här ämnet tillräckligt bra för att kunna granska det? säger han.

Den här gången var svaret ja. Titeln på det inskickade manuskriptet handlade precis om hans eget forskningsområde. Men när han läste sammanfattningen kände han igen nästan allt – alltför väl. Det var en tydlig kopia av en studie som han själv publicerat i tidskriften Scientific Reports några år tidigare.

– Det var inte min text rakt av. Men det var ett lika stort landskap, samma provpunkter och väldigt lika. Det var en Chat GPT-version av min egen artikel, säger Johannes Larson.

Alla figurer i det nya manuskriptet var tagna direkt från hans publicerade forskning. Texten hade skrivits om, men andemeningen i varje stycke var densamma.

– Hade jag gett texten till en kollega är jag inte säker på att de hade upptäckt det. De kanske hade reagerat på att texten var lite konstig, men inte att det var ett plagiat, säger han.

Han kontaktade redaktören för tidskriften och fick snabbt svar.

– ”Jag kan inte tro att det är sant, men det kan jag faktiskt”, skrev hon, och tillade att de får allt fler liknande artiklar inskickade.

Mindre än tre veckor senare var det dags igen. Johannes Larson fick ytterligare en förfrågan från samma tidskrift, av en annan redaktör. Även den här gången var det ett plagiat av en av hans studier – men något sämre gjort. I en tabell där han gjort en trädinventering, på engelska en forest survey, hade den AI-genererade versionen översatt fel. Där stod i stället forest questionnaire.

– Det var som att de hade gått runt och frågat träden hur stora de var, säger han med ett skratt.

Fenomenet med falska, massproducerade och AI-genererade forskningsartiklar blir en allt större utmaning för forskarvärlden. Förra året presenterade en grupp forskare Stockholmsdeklarationen, en åtgärdslista för att komma åt problemet som de kallar ”den största vetenskapliga krisen någonsin”.

Bakgrunden är tydlig. För forskare som söker nya tjänster eller forskningsanslag är det avgörande att kunna visa upp publikationer i vetenskapliga tidskrifter. Att skicka in fabricerade artiklar kan vara ett sätt att bygga en bättre meritlista på falska grunder. Företag som kallas artikelfabriker, eller paper mills, producerar påhittade studier och säljer möjligheten att stå som författare. Det finns också så kallade rovtidskrifter som mot betalning publicerar material utan seriös granskning.

Enligt förlaget Elsevier, som ger ut Forest Ecology and Management och nästan 3 000 andra vetenskapliga tidskrifter, har antalet artiklar från oseriösa aktörer ökat. Förlaget uppger att man investerat i ny teknik och inrättat ett team med fler än 100 specialister på forskningsintegritet och publiceringsetik.

”Våra undersökningar visar att oansvarig användning av generativ AI ofta förekommer tillsammans med andra underliggande problem rörande forskningens integritet”, skriver en representant för Elsevier och tillägger att peer review-systemet fortfarande är ändamålsenligt, men att det måste utvecklas i takt med att publiceringsmiljön förändras.

Båda de artiklar Johannes Larson erbjöds att granska hade en ensam författare och uppgav koppling till Northeast Forestry University, ett av Kinas äldsta universitet med skogsforskning och skogsbruksutbildning.

– Det är många frågor som dyker upp kopplat till avsändare och syfte. Är det någon som drar vinning av att de publiceras, eller är man ute efter att fylla tidskriften med skräp? Och oroväckande nog kommer det genom första filtret hos journalen. Otur för avsändaren att just jag valdes som reviewer – mina egna artiklar har jag bra koll på, säger Johannes Larson.

Fallet belyser en växande sårbarhet i det vetenskapliga publiceringssystemet, där AI gör det både billigt och enkelt att massproducera trovärdiga men falska studier. För forskare, förlag och tidskriftsredaktörer handlar det nu om att värna förtroendet för forskningen i en tid där gränsen mellan äkta och fabricerat blir allt svårare att dra.