Experten: Därför når AI så sällan patienterna

Artificiell intelligens har på kort tid blivit en av de hetaste frågorna inom svensk hälso- och sjukvård. Men enligt Magnus Boman, professor i artificiell intelligens inom hälsa vid Karolinska Institutet (KI), finns det en oroande klyfta mellan löftena och det som faktiskt når patienterna. Många projekt fungerar i testmiljö men fastnar i byråkrati och saknar förankring i klinikernas vardag.

Boman har sedan han kom till KI i januari 2020 kartlagt hur AI används inom vården. Bilden är splittrad. Vissa forskare och kliniker är långt framme, medan andra fortfarande är osäkra på vad tekniken kan göra. Intresset växer snabbt, men behoven av stöd ser väldigt olika ut. Det är just där som KI:s nya Centrum för AI-innovation och initiativet AI@KI ska kliva in. Tanken är att samla kompetens som i dag är utspridd över hela universitetet och ge forskare en gemensam ingång till metodik, juridik och etiska frågor.

Det största hindret, enligt Boman, är inte tekniken i sig utan vägen från prototyp till verklig användning. Många lösningar fungerar bra i tester och upplevs som lovande, men när de ska införas i vården krävs tillstånd, certifiering och långa kliniska processer. Risken är att tekniken hinner bli omodern innan den över huvud taget har kommit i bruk. Boman använder begreppet pilotkyrkogården för att beskriva projekt som har testats och validerats men som ändå aldrig börjar användas kliniskt.

– Det är ganska tragiskt. Vården går miste om bra idéer för att sista steget inte blir av, säger han.

En av orsakerna är att införandet inte är tillräckligt förankrat i verksamheten. Det räcker inte att tekniken fungerar. Kliniken måste ha tid, resurser och ett tydligt behov. Annars fastnar projektet precis innan det skulle kunna göra nytta.

Boman varnar också för så kallad skugg-AI. Det handlar om att anställda använder AI-verktyg i arbetet utan att de är godkända av arbetsgivaren. Det kan röra sig om allt från journaltexter till patientuppgifter och medicinska bilder. Enligt Boman är problemet troligen större än många tror. För ledningar och jurister innebär det en huvudvärk, eftersom användningen kan bryta mot sekretess och gällande regelverk.

Samtidigt är potentialen för AI inom vården mycket stor. Tekniken används redan i dag inom bilddiagnostik som röntgen, magnetresonans och datortomografi. AI kan ge skarpare bilder och fungera som beslutsstöd för läkare. Den globala marknaden för AI i vården växer kraftigt, och Sverige har goda förutsättningar med en högt digitaliserad sjukvård och stark medicinsk forskning. Men Boman understryker att det också handlar om kontroll: hur mycket av tekniken som ska köpas färdig och hur mycket som ska utvecklas utifrån vårdens egna behov.

Det finns också risker med ett alltför okritiskt införande. Boman pekar på att personalen kan bli för beroende av systemen. Om en AI-tjänst slutar fungera måste klinikern ändå kunna utföra sitt jobb. Forskning visar att förmågor som inte används regelbundet försvagas. Inom vården kan det bli ett direkt patientsäkerhetsproblem.

För att komma vidare krävs ett annat sätt att tänka kring AI, menar Boman. Det handlar inte längre om en rad isolerade teknikprojekt utan om att bygga en säker infrastruktur för hälsodata, öka kunskapen hos både kliniker och beslutsfattare och skapa ett närmare samarbete mellan teknikutvecklare och vårdpersonal. Utan det kommer vi enligt honom att fortsätta se pilotprojekt som aldrig når fram.

Karolinska Institutet är Sveriges ledande medicinska universitet och en av de viktigaste aktörerna när det gäller att forma framtidens vård. Genom att samla forskning, juridisk kompetens och klinisk verklighet under ett tak hoppas man nu kunna bryta det mönster som gör att lovande lösningar blir liggande i byrålådan. Frågan är om resten av vårdsystemet hänger med i tempot.