Sygehusmaskinmestrene og læger oppe på beatet med AI, men patienterne er utrygge

Der er ingen berøringsangst ved AI i sygehusenes tekniske afdelinger overhovedet, forsikrer formanden for sygehusmaskinmestrene i FSTA, koordinator Kaj Hyldgaard, Aalborg Universitetshospital og melder hus forbi på sit felt efter at eksperter har påpeget at regioner og hospitaler generelt mangler mod og kompetencer til at arbejde med og udnytte potentialet ved den kunstige intelligens.

”Kunstig intelligens møder vi overalt i verden, så vi har vi det med inde i vores brede, tekniske arbejdsområde, hvor vi også benytter os af big data,” siger Kaj Hyldgaard, som ser teknologien som en naturlig videreudvikling af sygehusmaskinmestrenes arbejdsfelter. ”Med teknologien opsamler vi data og analyserer på dem. Vi arbejder med kunstig intelligens eksempelvis inden for nogle af verdens mest moderne elevatorsystemer, hvor avancerede algoritmer styrer elevatorernes drift.

Der benytter vi os af big data, samler informationer og analyserer på det for at opnå en høj oppetid på udstyret. Fx vil vi gerne notificeres dagen før en elevatordør begynder at drille, så vi kan tilse den før der sker et nedbrud.

Teknologien kommer ind over os som en naturlig hjælp på linje med de mange andre funktioner som sygehusmaskinmestrene arbejder med i en travl dagligdag,” siger Kaj Hyldgaard og påpeger, at FSTA på årsmøder over en lang årrække har sat fokus på brugen af big data og algoritmer på hospitalerne.

Kunstig intelligens er stærkt på vej i sundhedsvæsnet til alt fra styring af elevatorer og ventilation til systemer, der kan stille diagnoser og foreslå behandling. De bedst præsterende neurale netværk og deep learning-systemer er træfsikre og snart lige så dygtige som lægerne til at stille diagnoser, foreslå behandling og er langt hurtigere.

Mens en AI-styret elevator accepteres uden betænkeligheder og opleves som en lettelse, fordi algoritmerne reducerer ventetiden og sikrer at flest muligt transporteres mellem hospitalernes etager, er holdningen en anden på områder som diagnosticering og behandling.

Lynhurtig detektering aflaster lægerne

Lægeforeningen ser ligesom Kaj Hyldgaard positivt på digitaliseringen, når den bruges som et hjælpeværktøj, der sikrer hurtigere og bedre diagnoser og behandlingsforslag, men der skal altid sidde en læge med for bordenden som øverst ansvarlig, fastslår foreningen.

Søren Niemi Helsø, der er formand for Lægeforeningens digitaliseringsudvalg, uddyber: ”I nogle tilfælde kan AI være med til kvalificere visse diagnoser. Et AI-program kan detektere alvorlig lidelser væsentligt hurtigere og bedre end et menneske, men det er vigtigt, at det altid er en læge som tager det endelige ansvar.

Vi kan se, at der er et forbedret outcome for patienterne. Kunstig intelligens fungerer virkeligt godt og er langt hurtigere, når man tager vævsprøver og skal detektere cancer og inden for billeddiagnostik kan AI være en stor hjælp og sikre en meget hurtig detektering.

Kunstig intelligens kan derfor give en kæmpe frigørelse af lægernes tid og kræfter og være en beslutningsstøtte til, hvad der videre skal ske i et forløb. AI giver os en bedre og mere effektiv udnyttelse af ressourcerne og sikrer behandlingen,” siger han.

Søren Niemi Hels fremhæver professor og overlæge Ismail Gögenurs pilotprojekt på Sjællands Universitetshospital, som udnytter data fra 50.000 patienter ved at lade en computer granske dem for at sammensætte den bedste, samlede behandling, så man hverken behandler den enkelte tarmkræftpatient for meget eller lidt og sikrer færrest komplikationer bagefter. ”Så vi er egentligt ikke så nervøse for AI forudsat at lægen altid er til stede og er den endelige beslutningstager.” Det er først, når man overlader beslutningerne helt til algoritmerne, at der kan opstå alvorlige problemer juridisk og etisk, understreger han.

Professor på Aalborg Universitet Thomas Ploug mener der er god grund til at overveje patientrettigheder i takt med, at den kunstige intelligens buldrer ind i sundhedsvæsnets teknik og især når det bruges for at støtte diagnostik og behandlingsforslag.

Befolkningen ønsker en ansvarlig læge

Professor Thomas Ploug fra Aalborg Universitet har forsket i befolkningens syn på AI på sundhedsområdet og den viser, at det absolut vigtigste for patienterne er, at ansvaret for diagnoser og behandling kan

Kaj Hyldgaard – sygehusmaskinmestrene arbejder allerede med kunstig intelligens i deres dagligdag og er helt åbne for den nye teknologis mange muligheder.

placeres hos lægerne, der kan uddybe deres beslutninger modsat et AI-system, der blindt spytter resultater ud.

Selv om kunstig intelligens kan være bedre end specialæger til at stille hurtige, sikre diagnoser og foreslå en behandling, foretrækker patienter en ansvarlig læge. Ansvarsplaceringen vægter med knap 50 pct. og er vigtigere end alt andet. Thomas Ploug tror at prioriteringen af ansvaret hænger sammen med, at dét, at give ansvar til menneske, har en regulerende effekt: ”Hvis vi kigger lægen dybt i øjnene og siger: Du har ansvaret, så ved vi, at det kan påvirke lægens adfærd. Det kan vi ikke gøre med et AI-system og tro, det har en effekt på, hvor godt AI-systemet fungerer. Det er nok en god forklaring på, at lægernes ansvarlighed er så vigtig.

At det betyder lidt for folk at AI-systemet er bedre, hænger nok sammen med, at de synes læger egentlig træffer meget gode beslutninger og stiller gode diagnoser, så det, et ideelt AI-system kan forbedre, i udgangspunktet er marginalt,” påpeger han. ”Har man en høj tillid til sundhedssystemet, er påstanden om, at AI kan rykke noget væsentligt, mindre troværdig. Når det kommer til meget alvorlige diagnoser i sundhedsvæsnet, tror folk, at det har en effekt at ansvarliggøre lægen. Er lægen ved at give dig en kræftdiagnose, vil du nok spørge flere gange, om det nu også er sikkert.

Vi tror, at vi kan forbedre præcisionen ved at ansvarliggøre de enkelte læger, når vi møder dem personligt i sundhedsvæsnet. En forklaring er også, at op mod 50 pct. har en høj tillid til læger, mens kun 30 pct. har høj tillid til teknologien. Når man synes lægen skal være ansvarlig og det er vigtigere end at systemet performer bedre, kan det hænge sammen med vores fundamentale tillid til læger og teknologi.

Det betyder mere, at lægen har ansvaret og kan forklare beslutningen, at det er diskriminationstestet, så det ikke forskelsbehandler på køn, alder m.m. end at det giver væsentligt bedre diagnoser. De fleste adspurgte tillægger systemer der performer bedre end læger en lille vægt,” siger han.

Idealet en afbalanceret kombination

Et review publiceret i Science viste, at AI systemer gennemsnitligt præsterer på niveau med læger på billeddiagnostik, men på enkelte områder gør AI det bedre, så den rigtige kombination af læger og system giver de bedste resultater. Det opnås, når AI giver input til en læge, der forholder sig kritisk og nøje overvejer situationen, påpeger Thomas Ploug.

Læger kan have for stor tillid til AI som et beslutningsstøtte-værktøj, så de bliver for afhængige af systemerne og tilsidesætter deres egen dømmekraft. Over tid betyder det, at lægerne bliver mindre skarpe og mister evnen til at præstere på samme høje niveau som tidligere.

Det kan diskuteres, om AI er en teknologi, som skal behandles anderledes, men den har været i sundhedsvæsnet i mange år til at annotere EKG-diagrammer, så lægerne hurtigt kunne se, om der var noget de skulle være særligt opmærksomme på. Sundhedsvæsnet er fuld af teknologi som stetoskoper, puls- og blodtryksmålere og andre redskaber, påpeger professoren. ”Det er måske nyt, at AI får en ret stor indflydelse og bruges mere og mere som beslutningsstøtte til diagnostiske beslutninger og behandlingsforslag. Spørgsmålet er, om der skal stilles særlige krav til AI der bruges til beslutningsstøtte. EU er i gang med at lave lovgivning på dette område.

Der er argumenter for, at AI måske er en lidt særlig teknologi, som vi skal behandle anderledes end stetoskopet, pacemakeren og kanylen, men spørgsmålet er, hvordan det skal ske,” siger Thomas Ploug og spørger, om borgeren skal sikres ret til at afvise, at AI overhovedet er med til træffe beslutninger og at det alene er læger. ”En sådan ret kan ikke betyde, at der ikke er noget som helst AI med i behandling og beslutninger i sundhedsvæsnet, men det kunne godt være en ret til – når det kommer til at træffe beslutning om en diagnose og behandling – at patienten kan afvise, at AI er involveret.

Man kan også forestille sig, at når AI er med i beslutninger, har patienten altid ret til en second opinion. Anerkender man at AI som noget særligt, er der mange måder at håndtere det på. Det kan være borgerne skal sikres særlige rettigheder. Jeg har argumenteret for at man burde introducere de to nævnte rettigheder for skabe tryghed.”

Måske ekstra patientrettigheder

Juridisk, objektivt ansvar kan placeres hos producenten, udvikleren, lægen, sygehusdirektøren m.m. og bruges primært til at få erstatning, så vi ved, hvor vi skal søge, men det adfærdsregulerende, moralske ansvar er det meningsfulde og absolut mest interessante.

Vi skal placere ansvaret, hvor vi tror det har en adfærdsregulerende effekt. Man kan også give udvikleren ansvaret for at systemet fungerer og lægen ansvaret for diagnosen, så lægen kan godt bruge systemet, men har i sidste ende selv ansvaret.

Jeg tror mange hospitaler og læger med god ret kan se potentialet i AI og er glade for, at der er en vis tillid til det, når det er på vej i sundhedsvæsnet. Der er ingen tvivl om, at indførelse af AI også er bestemt af økonomi. Kan vi spare tid og ressourcer samtidig med, at diagnoser og behandling forbedres, er der gode grunde til at få det hurtigt ind i sundhedsvæsnet.

Etikere som mig mener det er fint, men det må omvendt ikke gå hurtigere end, at vi husker at få taget alle væsentlige etiske hensyn i betragtning og sikret patienternes rettigheder”, advarer Thomas Ploug.

Waterlogic drikkevandskølere

Skræddersyet til hospitaler

Aktiv kulfilter

Filtrerer vandet for dårlig smag, lugte, klor og cyster.

Firewall™

Reducerer sygdomsfremkaldende mikroorganismer med 99,9999%.

BioCote®

Sølv ion additiv som beskytter plastoverfladen imod baktierier.

R600a kølemiddel

Naturligt kølemiddel med en GWP værdi på under 5, hvilket er et lovkrav i DK.

www.waterlogic.dk +45 70 23 80 55