I slutet av maj tillkännagav företaget OpenAI att deras AI-modell hade lyckats lösa ett välkänt matematiskt problem som legat olöst i 80 år. Genombrott markerar en ny era där artificiell intelligens inte bara kan utföra beräkningar, utan även resonera logiskt och behärska avancerad matematik på en nivå som tidigare ansetts vara exklusiv för mänskliga forskare.

Som ett direkt svar på den accelererande utvecklingen publicerade 16 matematikforskare på tisdagen den så kallade Leidendeklarationen om artificiell intelligens och matematik. Dokumentet, som har backning från kollegor och ämnesorganisationer, varnar för de utmaningar som AI-användningen medför för matematikforskningen. Under de första 48 timmarna hade deklarationen samlat över 1 200 underskrifter från forskare världen över, vilket vittnar om ett växande engagemang och oro inom den akademiska världen.

Martin Trapp, biträdande professor i maskininlärning inom AI-programmet WASP, Wallenberg AI, Autonomous Systems and Software Program, vid Kungliga tekniska högskolan i Stockholm, är en av undertecknarna. Som forskare inom grundläggande AI-forskning beskriver han sig själv som både entusiastisk över de möjligheter som tekniken erbjuder och samtidigt orolig för konsekvenserna av missbruk.

”Eftersom jag själv bedriver grundforskning inom AI är jag både entusiastisk över de möjligheter som AI kan ge och oroad över hur missbruk av AI påverkar samhället och forskarsamhället”, förklarar Trapp. Han ser Leidendeklarationen som ett viktigt första steg för att säkerställa att AI-verktyg används med eftertanke och ansvarstagande.

Deklarationen har sina rötter i en konferens som hölls vid universitetet i Leiden i Nederländerna i september förra året. Det elva sidor långa dokumentet identifierar flera potentiella hot mot matematikforskningens grundläggande värderingar. Ett centralt bekymmer är att AI-modeller kan generera argument som vid en första anblick verkar trovärdiga och övertygande, men som i själva verket kan vara opålitliga eller direkt felaktiga. Problemet förvärras av att dessa AI-genererade bevis kan vara svåra att skilja från genuina matematiska bevis framtagna av människor.

”Språkmodeller och AI-agenter kan snabba upp delar av forskningsprocessen. Men de medför också lätt att man tappar kontrollen, och att man får fram triviala, ointressanta eller felaktiga resultat”, påpekar Martin Trapp.

Deklarationen innehåller detaljerade rekommendationer riktade till olika aktörer inom det akademiska ekosystemet. För enskilda matematiker betonas vikten av transparens kring vilka verktyg som använts, att underlätta granskning av resultat, och att som forskare ta fullt ansvar för korrektheten i det material man presenterar. Matematiker uppmanas också att behålla det mänskliga elementet i sitt skrivande och att aktivt delta i den offentliga debatten om AI:s roll i forskningen.

Till makthavare riktas uppmaningar om att inte okritiskt tro på överdrivna rapporter om teknikens kapacitet, samt att införa regleringar för AI-industrin. Forskningsorganisationer och finansiärer uppmanas att skapa ramverk som säkerställer ansvarsfull användning av AI i akademisk forskning.

David Sumpter, professor i tillämpad matematik vid Uppsala universitet, leder en informell grupp som undersöker hur AI kommer att påverka både forskning och undervisning. I januari i år genomförde han ett experiment där han bad en AI-modell lösa en uppgift avsedd för hans studenter. Resultatet blev en väckarklocka.

”Den svarade med en perfekt lösning, bättre än en student skulle göra. Det blev något av en väckarklocka för mig”, berättar Sumpter. Som en direkt konsekvens kommer han nu att införa muntliga tentor för sina 500 studenter, trots den logistiska utmaningen. ”Men vi måste, för det går inte längre att lita på att de själva har kommit fram till det de skickar in till oss”, förklarar han.

Själv väljer Sumpter att inte skriva under deklarationen, trots att han håller med om flera av punkterna. Han menar att dokumentet fokuserar för mycket på att bevara det befintliga systemet där forskare bedömer varandra och bygger karriärer genom publikationer. ”Vi har länge behövt ändra hur vi gör den typen av bedömningar. De har länge haft mycket stora begränsningar. Som jag ser det har AI bara satt ljuset på problemet”, säger han.

Sumpter ifrågasätter grundläggande frågor om forskningens syfte i AI-eran. ”Något som för fem år sedan skulle ha bedömts som en bra artikel kan en AI nu skriva ihop på en halvtimme. Vad ska vi då hålla på med?” Han menar att forskning inte kan handla om att bygga en egen karriär, utan måste ha ett djupare syfte.

Även om Sumpter är skeptisk till om ett manifest i sig kan lösa de komplexa frågor som AI väcker, ser han det som ett värdefullt sätt att initiera en nödvändig diskussion. Diskussionen om AI:s roll i matematikforskningen har bara börjat, och Leidendeklarationen representerar ett första steg mot att navigera denna nya verklighet där gränsen mellan mänsklig och artificiell intelligens blir allt mer suddig.