Møt KI-forfatter Morten Goodwin

«Det er for eksempel ikke vanskelig å se for seg radiografer med kjernekompetanse på for eksempel verifisere KI-algoritmene som en del av undersøkelsen.»

Les anmeldelsen av Morten Goodwins bok om KI på side 8.

Hva bør vi vite om KI?

Hva vil kunstig intelligens (KI) bety for radiografer og stråleterapeuter fremover? Håkon Hjemly har spurt informatikkprofessor og forfatter Morten Goodwin.

VED HÅKON HJEMLY; FAGSJEF I NRF

– I din nyutgitte bok om kunstig intelligens nevner du eksempler fra medisinens verden, blan atnnet antyder du at bruk av KI i tolkning av røntgenbilder kan føre til at det blir bruk for færre radiologer i fremtiden. Radiografene sier du ikke noe direkte om, men hva tenker du om behovet for denne store yrkesgruppen som arbeider i grensesnittet mellom teknologi og bruk av radiologisk utstyr på den ene siden og kommunikasjon og omsorg for pasientene på den andre? – Det er vanskelig å spå om fremtiden, men jeg er ganske sikker på at det vil være behov for mange med høy teknologisk kompetanse, som radiografer, i all overskuelig fremtid. Kunstig intelligens er i dag veldig god på å analysere bilder (for eksempel røntgenbilder), oppdage abnormiteter og diagnostisere. Radiolog-, radiograf- og stråleterapeutyrkene er så mye mer enn dette. Nå som vi ser mer og mer praktisk

bruk av kunstig intelligens på mange områder, inkludert medisin, ser jeg for meg at radiografen fortsetter å ha en sentral rolle. Det er for eksempel ikke vanskelig å se for seg radiografer med kjernekompetanse på

«Jeg er ganske sikker på at det vil være behov for mange med høy teknologisk kompetanse, som radiografer, i all overskuelig fremtid.»

for eksempel verifisere KI-algoritmene som en del av undersøkelsen. – Hva bør yrkesgrupper som radiografer og stråleterapeuter ha av kompetanse om KI? – Jeg ser på KI-kompetanse på samme måte som all annen teknisk kompetanse. For eksempel så kjører mange av oss bil i hverdagen, og vi trenger å forstå hvordan man styrer, girer og så videre, men vi trenger ikke å kunne noe om mekanikken i motoren eller girkassen. Slik er det her også. Mange bør forstå hvordan KI fungerer på samme nivå som å kjøre en bil, mens radiografer og stråleterapeuter med fordel kan ha kompetanse om hvordan algoritmene fungerer på et større detaljnivå. – Pasienter har rett på informert samtykke om hva som skal gjøres av undersøkelser og behandling, noe som også er sentralt i radiografenes profesjonsetikk. Vil det være mulig å ivareta dette der vi ikke vet hvordan KI-teknologi har kommet frem til sitt forslag? Vil KI-systemer bli så avanserte at de krever endringer av lovverk og profesjonsetikk?

Når vi kjører bil, trenger vi å forstå hvordan man styrer, girer og så videre, men vi trenger ikke å kunne noe om mekanikken i motoren eller girkassen. Sånn er det med KI også, sier Morten Goodwin. FOTO: ISTOCK

– Pasienters rett til informert samtykke er veldig viktig, og KI er ikke noe hinder.

Det er aldri slik at vi ikke vet hvordan KI-teknologien har kommet frem til sitt forslag. I motsetning til det mange tror, kommer dagens KI-algoritmer langt på vei med en forklaring på avgjørelsene, men forklaringen er ofte basert på mange parametere med liten praktisk nytte for en pasient. Det er mye innsats i forskningsmiljøene verden rundt for å øke forklarbarheten, så jeg er overbevist om at dette blir ivaretatt på sikt. I dag er det litt utfordrende, og menneskelige radiografer kan spille en viktig rolle. Det betyr at KI kan brukes som beslutningsstøtte, og KI-kompetente mennesker kan informere pasientene. – Radiografers rolle har vært under kontinuerlig endring etter som man har fått ny teknologi parallelt med styrking av videreutdanningstilbudet og økt søkelys på effektivisering. Er det sannsynlig med en utvikling hvor radiografene får en rolle som overvåkere av KI-beslutninger? For eksempel for å fange opp åpenbare feil og som en faglig kontroll av funn og råd? – Det er veldig naturlig å se for seg radiografene i en slik rolle. Jeg tenker at deres rolle kan være å ikke bare oppdage

Professor i informatikk og forfatter Morten Goodwin regnes som en av våre fremste eksperter på kunstig intelligens.

FOTO: HUMANIST FORLAG

åpenbare feil, men drive en generell kvalitetskontroll av algoritmene, styre dem i riktig retning, og trene dem opp når de gjør feil. – Hva tenker du om radiografens ansvar dersom en KI-basert beslutning fører til alvorlig feilbehandling av en pasient? – Det er et vanskelig spørsmål å svare på, og et fullgodt svar krever både juridisk og teknisk utvikling, og jeg har ikke svaret. Når det er sagt, synes jeg det er viktig å ikke bruke KI som en form for ansvarsfraskrivelse. Altså, KI er verktøy som styres av mennesker, og det er vi mennesker som kvalitetssikrer og validerer metodene i alle fagfelt – og radiografer er ikke noe unntak. Det er selvsagt viktig at alt som brukes klinisk, er grundig testet og verifisert først. Samtidig bør vi ikke sette umulige målestokker for oss selv. KI-algoritmene gjør feil hele tiden, og selv om slike feil kan få dramatiske konsekvenser for pasienter, bør vi først og fremst se på om KI-algoritmene totalt sett forbedrer undersøkelser, og ikke la enkeltfeil være dominerende. – NRF arrangerer en rekke fagkurs for radiografer og stråleterapeuter. Dersom vi bestemmer oss for å arrangere kurs om KI for våre medlemmer, hva tenker du bør være målsetningen med det? – Jeg er stor fan av learning by doing, og jeg tenker at et slikt kurs bør inneholde muligheten til å bygge opp og trene klassifiseringsalgoritmer, og algoritmer for objektdeteksjon og segmentering. Slik får medlemmene praktisk erfaring med hvordan algoritmene fungerer, for eksempel med et åpent kvalitetssikret datasett, noe man kan lese mer om på den nettsiden her: hakon@holdpusten.no