X- K L U S I V
Effekte erkennen Guido Gebhardt sprach mit PD Dr. med. Felix Nensa über Künstliche Intelligenz in der Radiologie, was Radiologen bezüglich KI wissen sollten, wodurch sich komplexe IT-Netzwerke zukünftig auszeichnen und wie seiner Meinung nach die Radiologie in fünf Jahren aussehen könnte. þ Was sollte ein interessierter Radiologe über KI wissen? Zu allererst sollten Radiologinnen und Radiologen wissen, dass wir zwar von Künstlicher Intelligenz sprechen, die Systeme jedoch nicht wirklich intelligent sind. KI-Systeme kommen auf ganz anderen Wegen zu Ergebnissen, wie wir das tun. Wer das nicht berücksichtigt, kommt eventuell zu falschen Ergebnissen. KI bezeichnet keine Technologie, sondern steht als Sammelbegriff für eine Vielzahl von Technologien. Wenn wir heutzutage über KI reden, meinen wir meistens Machine Learning oder Deep Learning, da diese Bereiche in den letzten Jahren einen Hype erfahren haben. KI umfasst aber noch viel mehr. Bevor man sich für KI interessiert, sollte man sich zunächst mit einigen Begriffen vertraut machen. Für mich ist es wichtig zu verstehen, ob es sich um Symbolische KI oder Deep Learning handelt: Greift das Computerprogramm auf menschliches Wissen und Verhaltensregeln zurück oder werden Algorithmen
12
R ADIOLOGIE MAGAZIN · 3-2020
und statistische Modelle ohne explizite Anweisungen verwendet, um bestimmte Aufgaben auszuführen. Außerdem sollte man die Schwächen von KI kennen. So ist es hilfreich zu wissen, welche Effekte unter welchen Voraussetzungen auftreten können. Beispielsweise sollte einem so ein Begriff wie „adversarial tag“ etwas sagen. Das hört sich zwar furchtbar technisch an, aber es bedeutet letztendlich, dass man einer KI ein Bild einer Ananas zeigt und ihr sagt, dass es sich um eine Ananas handelt. Ändert man aber wenige für den Menschen nicht sichtbare Pixel im Bild, könnte die KI schnell zu dem Ergebnis kommen, dass es sich um eine Bratwurst handelt. Ein anderes Beispiel wäre: Eine KI, die auf Gesichtserkennung trainiert wurde, erkennt Falten in einem Sofakissen als Gesicht. Solange man eine digitale Fotokamera verwendet, die sich anstatt auf das Gesicht von Opa auf das Sofakissen fokussiert, ist das sicherlich egal. In der Medizin kann das schlimme Folgen nach sich ziehen.
Es ist nicht wichtig, alles im Detail zu verstehen, aber man muss wissen, welche Effekte unter welchen Bedingungen auftreten können. Gleichzeitig sollten Radiologen die Metriken verstehen, die es ermöglichen, die Leistungsfähigkeit von KI zu beurteilen. Denn jeder Hersteller von KI-Software wird sich vielleicht genau die Metriken raussuchen, mit denen sein Produkt so gut wie möglich dargestellt wird. Das muss aber nicht bedeuten, dass diese Metriken die Leistungsfähigkeit einer KI widerspiegeln. Ein einfaches Beispiel dafür ist: Wenn Sie einen Classifier im Screening verwenden, der ganz seltene Erkrankungen erkennen soll, haben Sie vermutlich Datensätze mit einem starken Bias. Denn im Fall von seltenen Krankheiten gibt es leider sehr viele negative Fälle und eventuell nur einen positiven Datensatz, um den Algorithmus zu trainieren. Legen Sie in diesem Fall eine A-priori-Wahrscheinlichkeit zugrunde und sagen dem Screeningtool „nein die Erkrankung ist nicht vorhanden“, liegen
