__MAIN_TEXT__

Page 13

A I

DYNAMO

63

12

20

DT U

13

Kunstig intelli­ gens er oplært til at reproduce­ re beslutninger, der forekommer i de data, den er trænet på. Det stiller høje krav til data.

Fremtids­ sikring af sundhedsvæsenet ”AI kan være lige så diskriminerende som de værste racister eller sexister.” PROFESSOR AASA FERAGEN, DTU COMPUTE

Hvordan sikres fair behandling? Aasa Feragen er leder af et forskningsprojekt, som i de kommende tre år skal undersøge bias og fairness i kunstig intelligens inden for medicinske anvendelser. Målet er at udvikle retfærdige algoritmer, der skal være med til at give en fair behandling til alle i sundhedsvæsenet. I projektet deltager forskere fra Københavns Universitet, Rigs­ hospitalet og det schweiziske tekniske universitet ETH. I projektet vil forskerne f.eks. analysere demografiske data hos alle de danskere, der har fået en depressions­ diagnose i løbet af de seneste år. Forskerne vil teste en hypotese om, at der er skævheder i dataene – f.eks. i hvor tit danskerne bliver diagnosticeret, og hvilken type behandling de får, baseret på køn, alder, geografi og indkomst.

Dernæst undersøger forskerne sammen med etiker og lektor Sune Hannibal Holm fra KU, hvordan man kan udvikle en fair sundhedsalgoritme. Der skal bl.a. diskuteres spørgsmål som ’hvornår er en beslutning diskriminerende?’, ’kan man udvikle metoder, der kan finde og fjerne diskriminerende bias i algoritmer, inden de bliver taget i brug?’, og ’hvordan kan man definere, hvilke beslutninger der er fair inden for medicin?’ ”Man kunne argumentere for, at fordi AI-algoritmens skæve forudsigelser blot er et resultat af de skæve beslutninger, der bliver taget i vores nuværende sundhedssystem, så vil brugen af AI i sundhedsvæsenet ikke medføre nye problemer,” siger Aasa Feragen. Men ifølge Aasa Feragen handler det om at udnytte, at AI har potentiale til at opdage disse bias, inden værktøjet har taget en eneste beslutning. Dermed kan man tage det bedste fra AI og finde nye veje til at minimere bias gennem transparente og sikre løsninger. Forskningsprojektet ’Bias and fairness in medicine’ modtager støtte fra Danmarks Frie Forskningsfond. Aasa Fera g en , p rofes s o r, DTU Co mp u t e,  afhar@dt u . d k

Kunstig intelligens gennem tiden

Kunstig intelligens og big data er byggesten i udviklingen af personlige sundhedsteknologier.

1959

En forsker på Carnegie Mellon University opfinder et program, der kan løse logiske problemer. Kilde: New Scientist

Kunstig intelligens gennem tiden

1975

MYCIN-systemet kan i teorien diagnosticere infektioner og anbefale antibiotika baseret på simple ja/ nej-spørgsmål. Kilde: New Scientist

C h rist in a Tæ kke r

I

takt med at danskerne lever længere, vokser antallet af mennesker, der lever med kroniske sygdomme som f.eks. type 2-diabetes og demens. Det har resulteret i en stadig stigende efterspørgsel på – og udvikling af – sundhedsløsninger til mobil­ telefoner, smartwatches og biosensorer. Næste generation af smarte og personlige sundhedsteknologier kræver kunstig intelligens, Internet of Things, big data og bedre systemintegration. Ved at integrere data fra bl.a. hospitaler, læger, Sundhedsplatformen osv. kan man ikke alene monitorere patienters tilstand, men også forudsige behovet for f.eks. ekstra medicinering. Det betyder færre hospitalsindlæggelser, lægebesøg og sygedage, ligesom det hæver patienternes livskvalitet og sparer samfundet for milliarder af kroner. Ja ko b E . Ba rdra m , p rofe sso r, DT U Co m p u t e , l ed er af fo rs kn i n gsc e nt e ret Co p e n h a ge n C ent er fo r H e a lt h Te c h n o lo gy (C AC HET ), ja k b a @ d t u . d k

Profile for DTUdk

Dynamo nr 63