Användningen av artificiell intelligens ökar inom diagnostik, triagering, journalföring och uppföljning. Samtidigt är det fortfarande oklart hur systemen ska styras och följas upp på ett säkert och enhetligt sätt.
Det konstaterar Socialstyrelsen i en förstudie om ansvarsfull användning av AI i hälso- och sjukvården. Studien har genomförts tillsammans med AI Sweden och Region Örebro län, med bröstcancerscreening som exempel.
Enligt rapporten saknas det i dag en nationell översikt över vilka AI-system som används i klinisk verksamhet, hur de används och vilka resultat de ger. Det finns inte heller några gemensamma indikatorer för att följa hur systemen påverkar vårdens kvalitet och patientsäkerhet.
Samma AI-system används på olika sätt
AI används redan inom bröstcancerscreeningen i flera regioner. Tekniken kan bland annat hjälpa till att granska mammografibilder och prioritera undersökningar.
Men Socialstyrelsens kartläggning visar att samma AI-produkt kan användas på olika sätt i olika regioner. Det kan handla om skilda tröskelvärden, olika kombinationer av enkel- och dubbelgranskning samt skillnader i hur AI-systemets bedömning presenteras för radiologen.
De lokala skillnaderna kan påverka både vårdens kvalitet och möjligheten att använda resultat från forskningsstudier. Ett system som har studerats med ett visst arbetssätt och i en viss patientgrupp ger inte nödvändigtvis samma resultat när det används på ett annat sätt.
En CE-märkning är enligt rapporten inte heller någon garanti för att ett AI-system fungerar korrekt i den lokala vårdmiljön. Det krävs även lokal validering och löpande kontroll av systemets prestanda.
Svårt att upptäcka försämringar
Socialstyrelsen pekar ut bristen på gemensam uppföljning som en av de allvarligaste systembristerna. Det saknas bland annat en nationell standard för hur AI-system ska övervakas och kvalitetssäkras efter att de har tagits i bruk.
Regionerna har dessutom olika möjligheter att ta fram och analysera data. I vissa fall krävs manuell bearbetning för att följa resultaten, medan det i andra fall kan vara svårt att få ut data ur AI-systemen.
Det kan göra det svårt att upptäcka om ett system börjar prestera sämre, exempelvis efter en uppdatering eller en förändring i arbetsflödet. Bristande uppföljning kan även försvåra upptäckten av om tekniken fungerar olika väl för olika patientgrupper.
Skillnaderna mellan regionernas resurser, kompetens och arbetssätt riskerar därför att förstärka skillnader i vården, enligt rapporten.
Regionerna beroende av leverantörerna
För att införa och använda AI behövs inte bara medicinsk och teknisk kompetens. Socialstyrelsen lyfter även behovet av juridisk, medicinteknisk och dataanalytisk kompetens samt kunskap om patientsäkerhet och förändringsledning.
När den egna kompetensen saknas vänder sig regionerna i hög grad till leverantörerna för stöd. Rapporten beskriver hur regioner förlitar sig på leverantörernas tekniska och juridiska kunskap och kan ha svårt att själva bedöma exempelvis förändringar i AI-modellerna.
Det skapar ett beroende och kan försvaga vårdens förmåga att ställa krav, följa upp systemen och ifrågasätta leverantörernas bedömningar.
Ingen av de personer som intervjuats i förstudien uppger att de har använt Läkemedelsverkets vägledning om AI i svensk hälso- och sjukvård.
Oklart ansvar när läkaren och AI är oense
AI förändrar även radiologens arbete. Enligt rapporten finns en risk för att läkarens uppmärksamhet styrs mot det som systemet markerar och bort från sådant som AI inte uppmärksammar. Risken för ett alltför stort beroende av AI bedömning bedöms vara särskilt relevant för mindre erfarna läkare.
Nya ansvarssituationer uppstår också när radiologen och AI-systemet gör olika bedömningar. Ett lågt riskvärde som senare visar sig vara cancer kan innebära att läkaren känner sig mer ensam med ansvaret än vid traditionell dubbelgranskning.
Socialstyrelsen efterlyser därför rutiner för hur motstridiga bedömningar ska hanteras, dokumenteras och följas upp. Rapporten framhåller också principen ”titta själv först, AI sedan” som ett möjligt sätt att skydda det kliniska omdömet.
Vill ta en tydligare roll
Socialstyrelsen anser att myndigheten bör ta en tydligare normerande, samordnande och stödjande roll. Bland förslagen finns nationella kvalitetsindikatorer, tydligare krav på lokal validering och uppföljning samt en ansvarskarta som visar vem som ansvarar när något går fel.
Myndigheten föreslår också ett nationellt stöd för patientinformation. I dag informeras patienter i liten utsträckning om när AI används, hur deras uppgifter hanteras och vem som bär ansvaret för bedömningen.
Förstudien bygger bland annat på en genomgång av 159 källor och intervjuer med 15 personer i åtta regioner. Resultaten är därför inte en fullständig kartläggning av all AI-användning i svensk hälso- och sjukvård. Enligt Socialstyrelsen visar de ändå på behovet av ett samlat nationellt grepp.
Myndighetens slutsats är att AI i första hand måste hanteras som en vårdfråga, inte som en teknisk fråga. Hur tekniken påverkar patienterna avgörs inte bara av algoritmens prestanda, utan också av hur systemen införs, används och följs upp i den kliniska verksamheten.
Läs också:
