EDUARD KAESER
Schwabe reflexe
Band 87
Eduard Kaeser
Künstliche Intelligenz undsmarteMaschinen
Kritische Essays zur neuen kopernikanischen Wende
Schwabe Verlag
Bibliografische Information der Deutschen Nationalbibliothek Die Deutsche Nationalbibliothek verzeichnet diese Publikation in der Deutschen Nationalbibliografie;detaillierte bibliografische Daten sind im Internet über http://dnb.dnb.de abrufbar.
© 2026 Schwabe Verlag, Schwabe Verlagsgruppe AG, Basel, Schweiz Dieses Werk ist urheberrechtlich geschützt. Das Werkeinschliesslich seiner Teile darf ohne schriftliche Genehmigung des Verlages in keiner Formreproduziert oder elektronisch verarbeitet, vervielfältigt,zugänglich gemacht oder verbreitet werden. Die Verwendung des Inhalts zum Zwecke der Entwicklung oder des Trainings von KI-Systemen ist ohne Zustimmung des Verlags untersagt.
Korrektorat:Anna Jung, Berlin
Gestaltungskonzept: icona basel gmbh, Basel
Cover: Kathrin Strohschnieder, Stroh Designagentur,Oldenburg Satz:3w+p, Rimpar
Druck:Beltz Grafische Betriebe GmbH, Bad Langensalza Printed in Germany
Herstellerinformation: Schwabe Verlag, Schwabe Verlagsgruppe AG, St. Alban-Vorstadt 76, CH-4052 Basel, info@schwabeverlag.ch
Verantwortliche Person gem. Art. 16 GPSR:Schwabe Verlag GmbH, Marienstraße 28, D-10117 Berlin, info@schwabeverlag.de
ISBN Printausgabe 978-3-7965-5472-8
ISBN eBook (PDF)978-3-7965-5473-5
DOI 10.24894/978-3-7965-5473-5
ISBN eBook (epub)978-3-7965-5510-7
Das eBook (PDF)ist seitenidentisch mit der gedruckten Ausgabe und erlaubt Volltextsuche. Zudem sind Inhaltsverzeichnis und Überschriften verlinkt.
rights@schwabe.ch www.schwabe.ch
The trouble with artificial intelligence is that computers don’t give adamn.
John Haugeland, amerikanischer Philosoph der KI der ersten Stunde
Prolog:Wir sind dem Computer völlig egal
Die faustische Grenze der Erkenntnis.
Hält die Maschine an?.
Leben als Rechenprozess
Der Mensch als Prothese seiner Prothesen
Schreiben im Zeitalterder Postoriginalität
Der digitale Pinsel emanzipiertsich.
Vom Gespräch über die Schriftzum Netz –und zurück
Liebe den Roboter wie dich selbst
Die Erfindung ist die Mutter der Notwendigkeit. .. ... .117
Progress bis zum Exzess ..
Fromme Töne aus derTechnologie. ..
Robo sapiens übernimmt die Macht ..
«Ich denke nicht, aberich bin»,sagt der Chatbot .. ..
Epilog:Gespräch mit dem Chatbot über Bewusstsein. ..
Anmerkungen
Wir sind dem Computer völlig egal
Utopia und Dystopia liegen in der Einschätzung der Künstlichen Intelligenz (KI) nah beieinander.Einerseits nimmt die dem Menschen ebenbürtige bisüberlegene Maschinenintelligenz Gestalt an, andererseits sieht man in ihr die mögliche Auslöschung der Menschheit. Das Center for AI Safety –eine amerikanischeNonprofit-Organisation –veröffentlichte vor kurzem ein Statement von Tech-Mogulen, das viele namhafte Fachleute unterzeichneten:«Das Risiko einer Auslöschung der Menschheitdurch dieKIsollte in der sozialen Dimension gleich eingeschätzt werden wie das Risiko der Auslöschung durch Pandemien oder durch Nuklearkriege».1
Das falsche Bewusstsein
Dieser Alarmismus spricht mitgespaltener Zunge. Wenn die KI wirklich eine solche Gefahr darstellt, fragtman sich, warum warnen dann ausgerechnet jene Leute vor ihr, dieihre Entwicklung rasend vorantreiben?Sind sie aus ihren Zauberlehrlingsträumen aufgewacht?Hat die «prometheische Scham»sie gepackt,das Gefühl der Unzulänglichkeitangesichts ihrer eigenen Produkte?
Natürlich sind dieWarnungen nicht einfach in den Wind zu schlagen. Aber nüchternbetrachtet, eröffnen dieKI-Syste-
me schlicht ein unerforschtes Feld der sozialen Interaktion von Mensch und Maschine, nunmehr auf «intelligentem»Niveau.
Und es ist eigentlich nicht das KI-System selbst, sondern unsere vorauseilende dystopische Fantasie, die uns das Fürchten lehrt.
Karl Marx sprach vom «falschen Bewusstsein»,also einem Begriffs- und Wahrnehmungsrahmen, der alles schon im Voraus präformiert, ja, verzerrt. Falsches Bewusstseinerscheint mir wie zugeschnittenauf die heutigeKI-Technologie:Wir machen uns apriori einen unzutreffenden Begriffvon ihr. Und das führt zu Falschalarm. Ich erläutere dies anhand dreier Punkte.
Die Zuschreibung menschlicher Vermögen
Erstens:Wir attestieren den smarten Maschinen kognitive Fähigkeiten, die wir oft kaum noch von menschlichen unterscheiden. Wir sagen, der Computer «verstehe»oder «entscheide», der Chatbot «schreibe»einen Text, LaMDA (Language Model for Dialogue Applications)«konversiere» mit uns, DALL-E 2«male» einBild. Das sind aber nichts anderes als Anthropomorphismen, mitdenen wir versuchen, die heute kaum noch vollständig durchschaubaren Maschinenabläufe in einem uns begreiflichen Idiom zu beschreiben. Insbesondere übertragen wir KI-Systemen bereits «moralische»Handlungsverantwortung, schieben ihnen etwa dieSchuld zu, Jobs «abzuschaffen». Oder wir warnen vor «sexistischen»oder «rassistischen» Algorithmen. Als ob dieMaschinen sich wie Menschen verhalten würden.
Und das sollte uns wirklich perplex machen:Wir wissen, dass wir es bloss mit Maschinen zu tun haben. Trotzdem leben wir mit ihnen auf fast gleicher sozialer Höhe wie mit Men-
schen zusammen. BisherigeKlimax dieser KI-Beschwipstheit ist ein Softwaredesigner von Google –BlakeLemoine –, der behauptete, das Konversationsprogramm LaMDA sei in eine persönliche Beziehung zu ihm getreten.
Der Machtwille des Homo sapiens hinter dem Robo sapiens
Das ist falsches Bewusstsein. Es zeigt zweitens eine alarmierende Dialektik der ganzen Entwicklung. Im gleichen Zug, in dem wir Maschinen personenhafte Züge zuschreiben, vergessen wir die menschlichen Personen hinter den Maschinen. Nicht Maschinen schaffen die Jobs ab, sondern Unternehmen und Regierungen –Institutionen, die von Personen geführt werden. Und nicht die Algorithmen sind sexistisch oder rassistisch, sondern deren Designer.
Der vermeintliche Machtwille des Robo sapiens ist der kaschierte Machtwille des Homo sapiens. DieGefahr liegt nicht darin, dass Computer die Menschen beherrschen, sondern eine Elite von Roboterdesignern, Technikunternehmernund Risikokapitalisten, welcheden Arbeitsmarktmit «disruptiven» Technologien nach ihrem Belieben fluten und dirigieren.
Man muss dabei nicht immer gleich China als abschreckendes Beispiel zitieren, wo das Regime die Technologie zur totalen Verhaltensdressur ausnutzt. Auch im Westen lassen wir uns von Algorithmen kontrollieren und manipulieren. Sie «entscheiden», was wir sehen, lesen, hören, kaufen, mit wem wir kommunizieren, wen wir mögen und wen wir hassen wollen. Das Netz ist eine gigantische Skinner-Boxohne Skinner. Er experimentiertemit Tauben. Heute sind wir so weit, dass wir uns selber zu netzadaptierten Kreaturen konditionieren.
Es geht bei den neuesten KI-Kreationen nicht mehr bloss um Bau und Funktionsweise von intelligenten Artefakten, sondern um deren Sozialisierung. Um Maschinen zu sozialisieren, muss man Menschen «maschinisieren». Man vergegenwärtige sich nur einmal, wie wir immer dichter verpacktineiner Infosphäre mit Computern, Programmen und Daten leben, wo Artefakte unsere Aktivitäten übernehmen, ohne dass man begründet sagen könnte, diese künstlichen Akteure besässen Intelligenz, Verständnis, Gefühlszustände, semantische Fähigkeiten wie wir Menschen. Aber auch so werden wir uns daran gewöhnen müssen, einem System ein «Gedächtnis» in Gestalt vonriesigenDatenbanken undeffektiven Suchalgorithmen zuzuordnen;ihm einbestimmtes «intelligentes»Verhalten zu attestieren, wenn es ein Flugzeug sicher landen lässt, die schnellste Route zwischen zwei Orten herausfindet oder günstige Börsentransaktionen berechnet.
Techno-Fatalismus
Alarmierend ist drittens der Ohnmachtswille des Homo sapiens, sprich:die willfährigeBereitschaft, seine kognitiven, aber auch moralischen Kompetenzen an den Robo sapiens abzutreten. Algorithmen sind mächtige Instrumente, deren Macht grösstenteils darin besteht, andere Maschinen auf abstrakter Ebene zu simulieren.Das ist diefundamentale Einsicht von Alan Turing. Aber diese Fähigkeit kann uns zu sektiererischer Einäugigkeit und metaphorischer Universalisierung verleiten: Alles ist «imPrinzip»ein Computer.Wir kennendiesen Reduktionismusschon von der alten Maschine her:Der Mensch ist «nichts als»eine organische Maschine.
Er bestärkt eine Art von Techno-Fatalismus:Der Vormarsch derAlgorithmen ist unaufhaltsam. Wirbeginnen alle
sozialen und kulturellen Veränderungen dem Einfluss der Technologie zuzuschreiben und vergessen dabei,dass es «die» Technologie nicht gibt. Es gibt Menschen –Ingenieure, Unternehmer, Investoren, Evangelisten der KI –, welche die Technologie zu ganz bestimmten Zwecken einsetzen –und missbrauchen. Und vielen von ihnen liegt durchaus daran, dass die Nutzer ihrer Produkte in der Herdenwärme einer lammfrommen Technikgläubigkeit verharren.
They just don’ tgive adamn
Künstliche Intelligenz ist eines der kühnsten, vielleicht das kühnste intellektuelle Abenteuer der letzten 60 Jahre. Sie lehrt uns sehr viel darüber, was Intelligenz nicht ist. Die seriöse Forschung zeigt uns zum Beispiel, dass auch KI ihre «intrinsischen» Grenzen hat. Und genau das ist spannend, Ansporn für weitere Forschung in der Entwicklung von KI-Systemen, etwa von biologienäheren neuronalen Netzen oder von Quantencomputern. Zugleich aber auch dafür, die Alarmstufe herunterzufahren.
Denn das grösste Risiko im Umgang mit den KI-Systemenbleibtihr blossesAkzeptieren.Sie interessierensichnämlich nichtfür uns. Wie dies der amerikanische Philosoph John Haugeland unvergesslich ausgedrückt hat:«The trouble with artificial intelligence is that computersjust don’tgive a damn»– wir sind ihnen völligegal. Und nicht wenige KI-Leute meinen damit:Der Unterschied zwischen Maschine und Mensch ist uns völlig egal.
Die nachstehenden Essays insistieren auf diesem Unterschied. Die smarten Maschinen fordern den Anthropozentrismus heraus. Sie übernehmen heute Aufgaben, von denen man einst annahm, dass sieausschliesslich menschliche Intelligenz
erfordern. Sie zwingen uns dazu, neu zu überdenken, was Intelligenz, Bewusstsein,Persönlichkeitbedeutet. Sie brechen die anthropozentrischeEthikauf, indem sie für sich den Status von künstlichen «Agenten»reklamieren, also von Artefakten mit eigener Stellung und Handlungsmacht. Sie «emanzipieren»sich dadurch vom untergeordneten Status eines willfährigen «Tools». Und die Frage stellt sich, ob wir sieinunsere Gesellschaft «einbürgern»und mitihnen «auf Augenhöhe» verkehren sollen.
Exzentrische Anthropologie
Solche Phänomene rufen nach einer Umkehr des traditionellen anthropologischen Ansatzes, in dem der Mensch die Zentralperspektive beanspruchte. Ich nenne diesen Ansatz –inAnlehnung an Helmuth Plessner – exzentrische Anthropologie. Der Mensch lernt sich im Spiegel seiner Artefakte neukennen und verstehen, so wie die kopernikanische Wende des heliozentrischen Weltbildes dem Menschen einneues Selbstverständnis abforderte. Übrigens zeigt schon die Geschichte des Wortes «Computer»diese Dezentrierung an. Ursprünglich bezog es sich auf Menschen, dieRechenoperationen durchführten. Mit Alan Turings bahnbrechender Arbeit über denkende Maschinen konnte es auch auf Artefakte angewendet werden. Das Wort löste sich von seiner anthropozentrischen Bedeutung. Mit solchen begrifflichen Erweiterungen werden wir vermehrt zu tun haben.
Wenn im Folgenden von smarten Maschinen die Rede ist, dann stehen nicht so sehr ihre wissenschaftlichen und technischen Aspekte im Brennpunkt, sondernihre Herausforderung der menschlichen Sonderstellung in der Welt (die ersten drei Essays behandeln eher Grundlagenfragen). Smarte Maschinen
reklamieren heute vieles, was wir als «eigentlich»menschlich bezeichnen:kognitive Vermögen, Kreativität, Moral. Die Ironie springt natürlich ins Auge:Wir schaffen kraft unseres Denkens Artefakte, die uns dieSonderstellung des denkenden Wesens streitig machen –eine Sonderstellung, wie sie sich emblemartig genug im cartesianischen «Ich denke, also bin ich»äussert.
Schliesslich möchte ich mich mitder exzentrischen Anthropologie von anderen «dezentrierenden»Ansätzen abgrenzen; etwa von den transhumanistischen Visionen eines Menschentums, das sich aus seinen biologischen Fesseln lösen will; auch von den Netzwerken, in denen Menschen und Artefakte ununterscheidbar als «Aktanten»operieren.2 Ich gehe vielmehr aus vom vielleicht paradoxen, vielleicht donquichottischen Optimismus, dass das Menschliche sich gerade da entdecken lässt, wo es scheinbar veraltet und verschwindet.
Die faustische Grenze der Erkenntnis
Die Wege der künstlichen Intelligenz (KI) beginnen unergründlich zu werden. Schon heute bekommen wir es mit Maschinen zu tun, die eigentlich Blackboxes sind. Das heisst, wir haben durchaus ein allgemeines Konzept dessen, was sie tun, aber wir sind oft nicht mehr in der Lage, dieses Tun in der Tiefenarchitektur derMaschine im Detailnachzuvollziehen.3 KI-Systeme lassen menschliche Fähigkeiten weit hinter sich, vorläufig vor allem in der Geschwindigkeitund Dimension der Datenverarbeitung. Dasdürfte blossder Anfang einer Entwicklung in Richtung postbiologischer Intelligenz sein –einer Machina sapiens. Und sieeröffnet Räume, von denen wir uns noch kaum eine Vorstellung machen können.
Deep Thought
Der britische Autor Douglas Adams beschrieb diesesSzenario vor fast fünfzig Jahren in seinem Kultroman Per Anhalter durch die Galaxis.4 Darin persifliert er exaktdas angesprochene Szenario. Im Roman kommt der Computer Deep Thought vor, entwickelt von einer extraterrestrischen Zivilisation, speziell dafür gebaut, die Antwort auf dieFrage aller Fragen, nämlich die «nach dem Leben, dem Universum und dem ganzen Rest»zuerrechnen. Deep Thought benötigt 7,5 Millionen Jahre Rechenzeit, um die Antwort auszuklamüsern, und sie lautet 17
«42». Sie sei mit absoluter Sicherheit korrekt. Aber was soll die Zahl bedeuten?Was ist eine Antwort, dieder Mensch nicht versteht? Und was, wenn Deep Thought selber weitere Fragen im Ärmel hätte, die der Mensch nicht einmal zu stellen fähig ist?
Betrachten wir diezurzeit gehypten Gadgets derSprachmodelle. Auf die Frage, ob er intelligent sei,antwortet der ChatGPT, er simuliere Intelligenz, aber verstehe dieWelt nicht so wie ein Mensch. Dasist natürlich nicht die «Antwort»des KI-Systems, sondern eine gelernte Replik, die es dem Menschen freundlich zurückspiegelt. Man spricht in KI-Kreisen von prompt alignment,von einer für den Nutzer nicht sichtbaren Anweisung an dasKI-System, in bestimmter Weise auf eine Eingabe zu reagieren.
Aber muss man denn dieWelt wie der Mensch verstehen? Sind wir hier nicht befangen in unserer eigenen anthropozentrischen Sichtweise?Sollten wir dem KI-System nicht auch eine «artspezifische Hermeneutik» zugestehen?Schon Alan Turing, der theoretische Pionierder KI, gab zu bedenken: «Könnten Maschinen nicht etwas tun, das als Denken bezeichnet werden sollte, das sich jedoch stark von dem unterscheidet, was ein Mensch tut?»5
KI-Systeme korrigieren und verbessernihre Lernalgorithmen schon heute selbständig. Angenommen, sietun dies in Zukunft immer mehr ohne Supervisiondes Menschen. Könnten sie sich da «unüberwacht»weiterentwickeln in Richtung einer künstlichen Superintelligenz?Das Szenario treibt nicht bloss die Science-Fiction um, sondernimmer mehr die Computerdesigner.
Die Frage aller Fragen –die faustische Grenze
Der Komplexitätsforscher DavidWolpertvom Santa Fe Institute in Arizona hat die Frage aller Fragen gestellt:«Waskönnen wir von Dingen wissen, die vorzustellen wir nicht fähig sind?»6 Die Frage zielt ab auf dieGrenze menschlicher Intelligenz –oder genauer:auf zwei Grenzen. Eine Grenze, die uns gesetzt ist, weil wir noch nicht über die nötigen konzeptuellen Mittel verfügen, über siehinaus zu gelangen. Und eine Grenze, die wir aufgrund unserer kognitiven Konstitutionnicht übersteigen können.
Nennen wir sie die«faustische»Grenze. Bekanntlich strebt ja Goethes Faust nach einem höheren übermenschlichen Wissen. Und er beschwörtden allgegenwärtigen Erdgeist, ihm dieses Wissen zu liefern:«Der du die weite Welt umschweifst, geschäftiger Geist, wienah fühl ich mich dir!»Dieser aber wendet sich mit schroffem Spott ab:«Du gleichst dem Geist, den du begreifst.Nichtmir!»
In dieser kurzen Sequenz verdichtet sich die ganze, buchstäblich mephistophelische Dramatik der modernen Wissenschaft. Sie steht heute mit der Erforschung von fremden Intelligenzen an dieser faustischen Grenze. Und mit fremden Intelligenzen sind sowohl Formen der Intelligenz jenseits unserer Spezies, als auch künstliche Formen jenseits aller Spezies gemeint.
Der anthropomorpheZirkel
WolpertsFrage ist nicht neu. Der britische Biologe John Burdon Sanderson Haldane formulierte sievor fast hundert Jahren auf seine Weise:«Meiner Ansicht nach ist das Universum
nicht nur sonderbarer (‹queerer›) als wir uns es vorstellen, sondern sonderbarer als wir es uns vorstellen können».7
Haldane spielte damit auf eine Grenze im Verständnis fremder Intelligenzen an, die sich nicht einfach auf den jeweils aktuellen Kenntnisstand und konzeptuellen Horizont der Forschung bezieht, sonderngenerell auf das Vermögen des Menschen, fremde Intelligenzen zu verstehen –also auf eine prinzipielle Grenze, die der kognitive Apparat der Menschengattung uns setzt, wie entwickelt er auch seinmag.
Was wäre eine fremde Intelligenz, dienicht kompatibel ist mit der menschlichen?Intelligenz ist einVergleichsbegriff:intelligent wie was? Um etwas intelligent zu nennen, muss man es mindestens zum Teilinden Horizont menschlicherBegriffe hereinholen können. Wenn wir sagen, der Computer habe ein intelligentes Resultat geliefert, meinen wir, dass einsolches Resultat dem Menschen Intelligenz abfordern würde. Der Referenzpunkt des Verstehens sind immer wir. Unbegreifbar bedeutet für uns unbegreifbar.Wir bewegenuns in einem anthropomorphen Zirkel.
Kognitiv aufgebesserte Menschengattung?
Wie steht es mit KI-Systemen?Was, wenn sieeine Entwicklungsstufe erreicht haben werden, die nicht nur mit jener der Menschen vergleichbar ist, sondernsie übersteigt?Müsste man dann eine neue Disziplinnamens Maschinenethologie einführen, die das Verhalten künstlicher Systeme wie jenes von anderen, fremden Arten studiert? Und angenommen, die postbiologische Evolution erfolgeineinem weit höheren Tempoals die biologische –wäre eine Maschinenethologienicht hoffnungslos überfordert?Die letzte Freud’sche Kränkung?