KÜNSTLICHEN INTELLIGENZ

„KI-Seelenverwandte“ oder isolierende Dystopie?

KI wird ein immer größeres Thema und findet in immer mehr Bereichen Anwendung. Regierungen nutzen KI-Techniken, wie automatische Gesichtserkennung zur Überwachung, in der Finanzbranche wird es zur Betrugserkennung angewandt und auch in der Werbebranche kommt KI zum Einsatz. Ich habe jedoch eine ganz besondere Anwendung ins Auge gefasst: Chat-Bots, die versprechen deine “KI-Seelenverwandte“ zu sein. Die App Replika zum Beispiel, wurde für Jugendliche konzipiert, um Vereinsamung entgegenzuwirken. Doch haben solche Apps wirklich einen positiven Effekt auf Jugendliche oder isolieren sie sich dadurch nicht eher weiter?

KI gegen Einsamkeit

In den letzten Jahren vereinsamten immer mehr Menschen, vor allem Jugendliche, im Zuge diverser Pandemie-Lockdowns. Über 50 Prozent der Jugendlichen, die in einer Studie aus 2021 zum Wohlbefinden während Corona befragt wurden, gaben an, sich einsam oder psychisch belastet zu fühlen.* Eine andere Studie aus Oktober 2020 unter Studierenden zeigte, dass ein mangelndes Sozialleben als größte Herausforderung angesehen wurde.** Jene Umstände brachten Applikationen wie Replika hervor. Chat-Bots, die echte soziale Kontakte ersetzen sollten.

Künstliche Freundschaft

Replika ist ein KI-Chatbot, den es seit 2019 gibt. Die Hauptzielgruppe: Jugendliche. Es ermöglicht Nutzenden, mithilfe von künstlicher Intelligenz einen persönlichen Charakter zu erstellen, mit dem man sich rund um die Uhr per Text oder computergenerierter Stimme unterhalten kann. Dabei lernt das Programm kontinuierlich weiter und versucht, die Sprache der Nutzer:innen zu imitieren, um dadurch immer komplexere Gespräche führen zu können. Entwickelt wurde die App von Luka, einem Tech-Unternehmen aus San Francisco, das sich auf künstliche Sprachmodelle spezialisiert hat. Heute hat das Start-up Millionen User:innen.

Psychologische Auswirkungen

Die psychologischen Auswirkungen solcher Anwendungen sind wenig erforscht. Ich habe eine Expertin hinzugezogen für die Fragestellung: Könnten Apps, wie Replika tatsächlich einen positiven Effekt auf die Psyche Jugendlicher erzielen oder bergen sie eher das Risiko, sie weiter in die Isolation zu treiben? Frau Dr. med. Ruth Lümkemann ist Fachärztin für Psychosomatische Medizin und Psychotherapie und beantwortet mir dies folgendermaßen: „Das ist so eine Sache mit den Chat-Bots. Es gibt die Möglichkeit, dass man sogenannte DiGAs (Digitale Gesundheitsanwendungen) für Depressive, Angstgestörte oder generell alle möglichen Patienten verschreibt. Diese sind auf die jeweiligen gesundheitlichen Probleme ausgerichtet. Es ist meiner Meinung nach notwendig, dass es diese Apps gibt, denn die Wartezeiten für Therapieplätze sind auch bei Jugendlichen enorm lang. Wenn jemand akut Hilfe braucht, ist das eine gute Möglichkeit sich auszutauschen, zu informieren und vielleicht auch das Gefühl der Einsamkeit zu verlieren. Als Zwischenlösung können DiGAs definitiv hilfreich sein, doch ersetzen auf lange Sicht weder eine psychologische, psychiatrische noch eine medikamentöse Behandlung. Es besteht zudem die Gefahr, dass man sich eine Parallelwelt aufbaut, wie in Computerspielen mit Avataren. Eine Idealisierung. Wenn die Kommunikation auch stimmlich begleitet wird, könnte es sein, dass die Jugendlichen eine Beziehung zu den Chat-Bots aufbauen und sich vollkommen darin verlieren. Das finde ich ein wenig problematisch.“

Im großen Ganzen also keine leicht zu beantwortbare Fragestellung. DiGAs können hilfreich sein, lange Wartezeiten auf eine Therapie zu überbrücken, eine echte Behandlung jedoch nicht ersetzen. Replika ist keine DiGA und wäre somit nicht ausgebildet, Jugendliche in schwierigen Zeiten medizinisch zu unterstützen. Dafür gibt es zwar zu Beginn der App-Nutzung einen Disclaimer, jedoch suchen junge Menschen am Ende dennoch eine:n Freund:in, Therapeut:in oder geliebte „Person“ darin. Was sicher ist: Ein KI-System kann keine sozialen Kontakte ersetzen und sollte, wenn überhaupt als Gadget genutzt werden, statt als Ersatz für menschliche Interaktion. Die reale Welt lässt sich nun mal nicht durch ein KI-System replizieren.

Clara Reinhardt

**Studie: Hochschulen, Corona und jetzt? Future Skills (10/2020)