MANFRED VELDEN
Fälschung, Betrug, Beliebigkeit
Der Vertrauensverlust der Wissenschaft
Schwabe reflexe
85
Manfred Velden
Fälschung, Betrug, Beliebigkeit
Der Vertrauensverlust der Wissenschaft
Schwabe Verlag
Bibliografische Information der Deutschen Nationalbibliothek
Die Deutsche Nationalbibliothek verzeichnet diese Publikation in der Deutschen Nationalbibliografie; detaillierte bibliografische Daten sind im Internet über http://dnb.dnb.de abrufbar.
© 2025 Schwabe Verlag, Schwabe Verlagsgruppe AG, Basel, Schweiz
Dieses Werk ist urheberrechtlich geschützt. Das Werk einschließlich seiner Teile darf ohne schriftliche Genehmigung des Verlages in keiner Form reproduziert oder elektronisch verarbeitet, vervielfältigt, zugänglich gemacht oder verbreitet werden.
Die Verwendung des Inhalts zum Zwecke der Entwicklung oder des Trainings von KI-Systemen ist ohne Zustimmung des Verlags untersagt.
Gestaltungskonzept:icona basel gmbH, Basel
Cover:Kathrin Strohschnieder, Stroh Design, Oldenburg
Layout:icona basel gmbh, Basel
Satz:3w+p, Rimpar
Druck:Prime Rate Kft., Budapest
Printed in the EU
Herstellerinformation:Schwabe Verlag, Schwabe Verlagsgruppe AG, St. Alban-Vorstadt 76, 4052 Basel, info@schwabeverlag.ch
Verantwortliche Person gem. Art. 16 GPSR:Schwabe Verlag GmbH, Marienstraße 28, 10117 Berlin, info@schwabeverlag.de
ISBN Printausgabe 978-3-7965-5376-9
ISBN eBook (PDF)978-3-7965-5377-6
DOI 10.24894/978-3-7965-5377-6
Das eBook ist seitenidentisch mit der gedruckten Ausgabe und erlaubt Volltextsuche. Zudem sind Inhaltsverzeichnis und Überschriften verlinkt.
rights@schwabe.ch www.schwabe.ch
Gründe für die besondere Betroffenheit
Jenseits von Manipulation und Betrug:die Betonung von Form über Inhalt und die Verbreitung des Beliebigkeitsdenkens als ihre Folge
«Intelligente»Maschinen –ein
Künstliche Intelligenz –eine irreführende Bezeichnung .. .. ... ..
Der Geist in der Maschine –unsere Neigung, zu anthropomorphisieren .. .. ... .... .85
Das Gehirn ist kein Computer ..
Absurde Vorhersagen –eine Verkaufsmethode ... .... .95
Wissenschaftliche Zeitschriften als Förderer des Absurden ..
Die neueste KI-Imagepflege: The Atomic Human .. ... .103
Beliebigkeitsdenken und Sprachprogramme –eine brisante Mischung ..
Beliebigkeit und Realitätsbezug
Die Folgen der Reise ins epistemologische Nirwana: der Verlust der Wissenschaft als Korrektiv ..
In Zeiten des Grassierens der abstrusesten Verschwörungstheorien, verbunden mit der Verbreitung von Irrationalismus, Obskurantismus und Esoterik, scheint das einzige Korrektiv der Bezug auf die Wissenschaft und wissenschaftliche Prinzipien zu sein. Aber ausgerechnet in diesen Zeiten erleidet die Wissenschaft einen Ansehensverlust wie nie zuvor. Die Gründe für diese Entwicklung liegen großenteils außerhalb der Wissenschaft, sind vielfach und werden zur Zeit intensiv diskutiert. Einer der Gründe dürfte allerdings im modernen Wissenschaftsbetrieb selbst zu finden sein, nämlich in seiner erst in den letzten Jahrzehnten zutage getretenen zunehmenden Unseriosität, beginnend mit Nachlässigkeit bis hin zu Fälschung und Betrug.
Fälschung und Betrug hat es in der Wissenschaft schon immer gegeben, aber wenn, was zur Zeit ernsthaft diskutiert wird, die meisten publizierten wissenschaftlichen Ergebnisse falsch sind, so kann dies auf Dauer auch einer breiten Öffentlichkeit nicht verborgen bleiben und muss in dieser Öffentlichkeit zu einer Schädigung ihres Ansehens führen. In der Folge ist eine negative Auswirkung auf die Wissenschaftspolitik unvermeidlich.
Dass von Fälschung und Betrug negative Auswirkungen auf die Wissenschaft ausgehen, ist offensichtlich, und die wissenschaftlichen Institutionen, insbesondere die Herausgeber
wissenschaftlicher Literatur, müssen entsprechende Gegenmaßnahmen ergreifen.
Fälschung und Betrug sind eine Sache. Allerdings droht der Wissenschaft zunehmend eine subtilere, schwer festzumachende Gefahr in Form einer unbewussten Einstellungsänderung, einer Mentalitätsverschiebung in Bezug auf die Verbindlichkeit wissenschaftlicher Aussagen in Richtung Beliebigkeit und Betonung von Form über Inhalt nach dem Motto «Hauptsache es klingt wissenschaftlich». Diese Einstellung bietet den idealen Nährboden für die Benutzung von sogenannten Sprachprogrammen, wie z. B. ChatGTP, die, obwohl denkunfähig, durchaus wissenschaftlich anmutende Texte zu produzieren in der Lage sind. Die unkritische Rezeption solcher Texte geschieht auf dem Hintergrund des unreflektierten festen Glaubens vieler Wissenschaftler, dass die entsprechenden KIProgramme eben doch denkfähig sind. Ein erheblicher Teil dieses Buches besteht deshalb aus dem Nachweis, dass Maschinen prinzipiell nicht denkfähig im menschlichen Sinne sein können.
Die Bedrohung der wissenschaftlichen Integrität durch Fälschung und Betrug einerseits sowie die Beliebigkeitsmentalität, vor allem in Form der allgemeinen Akzeptanz maschinenproduzierten Unsinns, andererseits sind das Thema dieses Buches.
Bertrand Russells Geist und die Realität des heutigen Wissenschaftsbetriebes
Als Bertrand Russell gegen Ende seines langen Lebens auf dieses zurückblickte, sah er drei Motive, die ihn in seinem Tun geleitet hatten:die Liebe, das Streben nach Erkenntnis und das Mitleid. Über das Streben nach Erkenntnis schrieb er:
Mit gleicher Leidenschaft habe ich nach Erkenntnis gestrebt. Ich wollte das Herz der Menschen ergründen. Ich wollte begreifen, warum die Sterne scheinen. Ich habe die Kraft zu erfassen gesucht, durch die nach den Pythagoreern die Zahl den Strom der Zeit beherrscht.1
Russells Worte haben mich, als ich sie das erste Mal las, tief beeindruckt. Von einem großen Atheisten geschrieben, sind sie dennoch von einer geradezu religiösen Tiefe. Man mag erwarten, dass die Wissenschaft, von der wir annehmen, dass ihr Sinn das Streben nach Erkenntnis ist, letztendlich von Russells Geist geprägt sein sollte. Ein halbes Jahrhundert mit allen Aspekten des modernen Wissenschaftsbetriebes befasst, also als Forscher, Autor, Reviewer, Herausgeber etc., ist mir Russells Geist jedoch nicht begegnet. Begegnet ist mir hingegen allzu oft, was der Genetiker Richard Lewontin einem ganzen Forschungszweig (dem Versuch des Nachweises der Erblichkeit der Intelligenz)attestierte:«carelessness, shabbyness, and intellectual dishonesty»(Nachlässigkeit, Schäbigkeit und intel-
lektuelle Unredlichkeit).2 Als er dieses harte Urteil vor nunmehr fünfzig Jahren abgab, wäre er nicht auf die Idee gekommen, es auf den größten Teil der gesamten Wissenschaft anzuwenden. Die Abgründe von Manipulation, Fälschung und Betrug, die sich in den verschiedensten Wissenschaftsbereichen in den letzten Jahrzehnten aufgetan haben, lassen eine Generalisierung jenes Urteils jedoch durchaus als angemessen erscheinen. Das Thema ist inzwischen omnipräsent und wird entsprechend viel diskutiert. Kaum eine Woche vergeht, in der z. B. in der Zeitschrift Nature nicht zu diesem Thema Stellung bezogen wird. Das Ausmaß des Problems wird deutlich an der viel zitierten Aussage eines Wissenschaftlers:«Die meisten publizierten wissenschaftlichen Ergebnisse sind falsch.»3 Es ist dieses Ausmaß von innerhalb wie außerhalb der Wissenschaft nicht für möglich gehaltener Unseriosität, das befürchten lassen muss, dass die Wissenschaft einen nur schwer reparablen Schaden an ihrem Ansehen erleidet. Für alle Esoteriker, Verschwörungstheoretiker, Quacksalber und sonstigen Spinner, die rationalen Argumenten nicht zugänglich sind, wäre dies natürlich das Beste, das passieren kann.
Einen Begriff vom Ausmaß wissenschaftlicher Unseriosität vermittelt die Entstehung von «predatory journals»(schädlichen Zeitschriften)und «paper mills»(Paperfabriken), über die eine ausgesprochene Massenproduktion von wissenschaftlicher Schundliteratur entstanden ist. Predatory journals wirken äußerlich wie wissenschaftliche Zeitschriften, mit vorgeblichen wissenschaftlichen Herausgebern und Gutachtern, die in Wirklichkeit aber alles drucken, vorausgesetzt man zahlt dafür. Die Geschäftemacherei geht mit den paper mills noch einen Schritt weiter. Dort kann man Artikel kaufen, um sie dann an wissenschaftliche Zeitschriften zur Publikation einzusenden.4 Über die Qualität dieser Artikel, die zumeist computergeneriert sind, darf man sich natürlich keine Illusionen machen.
Auf diese Weise entstehen ganze Berge von wissenschaftlichem Müll5.Die Berge sind so groß, dass es für die seriösen Wissenschaftszeitschriften gar nicht mehr möglich ist, alle diese Produkte auf ihre Qualität hin zu beurteilen. Sie müssen deshalb Kriterien entwickeln, nach denen eingesandte Manuskripte a priori ausgesondert werden können, ein Vorgehen, das durchaus auch problematisch ist. Für die Bewertung von wissenschaftlichen Leistungen (z.B.bei der Vergabe von Stellen im Wissenschaftsbereich)ist es nunmehr unumgänglich, Listen von predatory journals zu erstellen, deren Produkte generell als wissenschaftlich fragwürdig angesehen werden müssen und deshalb bei der Bewertung nicht zählen –eine Vorgehensweise, die in ihrer Pauschalität ebenfalls ein problematisches Vorgehen ist.
Es konnte nicht ausbleiben, dass findige Leute schließlich auch «predatory conferences»ausrichten würden. Das sind dann solche, bei denen jeder einen Vortrag halten kann, ohne sich Gedanken um die Qualität seines Beitrags machen zu müssen, vorausgesetzt, er zahlt die Kongressgebühren.6
Einen Begriff von der Größe des Problems der Massenproduktion von Artikeln mit wissenschaftlichem Anspruch vermittelt ein im Januar 2024 in der Zeitschrift Nature erschienener Bericht, nach dem die Anzahl von Autoren, die alle fünf Tage (!), Wochenenden eingeschlossen, einen Artikel publizieren, in den letzten Jahren um ein Vielfaches zugenommen hat.
Die Replikationskrise
Es ist ein ehernes Gesetz der Naturwissenschaft (oder sollte es zumindest sein), dass ein Ergebnis nur dann als valide (gültig, verlässlich, korrekt)anzusehen ist, wenn es zuvor von unabhängigen Forschern unter gleichen Bedingungen gefunden wurde. Bei einer solchen unabhängigen Bestätigung spricht man von «Replikation».7 Die Häufung von Fällen, in denen festgestellt wurde, dass bei viel zitierten Effekten eine solche Bestätigung gar nicht existierte, führte zur sogenannten «Replikationskrise»der Wissenschaft. Sie änderte in fundamentaler Weise unsere Sicht auf die Wissenschaft, die den meisten von uns doch als ein besonders zuverlässiges und seriöses Unterfangen gegolten hatte. In besonderer Weise betroffen von der Krise war die Psychologie.
Die Psychologie im Zentrum der Replikationskrise
In der breiten inner- wie außerwissenschaftlichen Öffentlichkeit unbemerkt hatte diese Wissenschaft schon vor der Replikationskrise eine Reihe von Skandalen produziert, diese aber, statt sie aufzuarbeiten, verschwiegen, heruntergespielt und so erfolgreich verdrängt, dass sie in den Lehrbüchern des Faches schließlich gar nicht mehr vorkamen. Die Replikationskrise deckte nun allerdings Missstände im Wissenschaftsbetrieb der Psychologie auf, die nicht mehr heruntergespielt werden können und die Psychologie zwingen, der peinlichen Realität ins Auge zu sehen. Ein positives Beispiel hierbei ist Chris Chambers Buch The 7Deadly Sins of Psychology8,indem er die problematischen wissenschaftlichen Vorgehensweisen der Psychologie offenlegt.
Als der englische König (Georg VI.) im Jahre 1946 den Londoner Schulpsychologen Cyril Burt in den Adelsstand erhob, konnte er nicht ahnen, was seine königliche Tochter (Elisabeth II.) dreißig Jahre später zur Kenntnis nehmen musste: Burt war ein Betrüger, der in großem Umfang Daten gefälscht oder erfunden hatte, um seine Obsession, die hohe Erblichkeit der Intelligenz, propagieren zu können.9 Die auch von vielen anderen Wissenschaftlern obsessiv geglaubte Erblichkeit der Intelligenz hatte erhebliche praktische Konsequenzen. Sie führte z. B. zum Education Act von 1944, nach dem alle Elfjährigen
in England und Wales sich einem Intelligenztest zu unterziehen hatten, der darüber entschied, ob sie auf eine Schule kamen, die zum Universitätsstudium führte, oder auf eine Schule, von der ein Übergang zur Universität so gut wie ausgeschlossen war. Nach Burt erlaubte die hohe Erblichkeit der Intelligenz, bereits bei Elfjährigen mittels eines Tests die zukünftige intellektuelle Kapazität vorherzusagen. Das Gesetz wurde, nachdem es etwa 20 Jahre lang großen Schaden angerichtet hatte, anulliert. Burts Annahme war falsch. Intelligenztests, erst recht solche im Alter von 11 Jahren durchgeführt, erlauben im Gegensatz zu den Behauptungen der Intelligenztestentwickler praktisch keine Vorhersage über zukünftige intellektuelle Leistungen.10 Millionen von Kindern war der Zugang zur Universität verwehrt worden, wo sie durchaus erfolgreich hätten sein können.
Was die Aufarbeitung der Affäre betrifft, fragte der Psychologe Samelson:«Was haben wir gelernt […]über unser Fach, unsere wissenschaftlichen Standards, unsere ethischen Standards in der Anwendung, vom Umgang mit dieser peinlichen Affäre?» und beantwortete diese Frage implizit mit einem kaum verhohlenen «gar nichts».11 So lässt Mackintosh,12 der Burts Betrug gar nicht leugnet, in seinem Buch Cyril Burt –Fraud or Framed? (Cyril Burt –Betrug oder hereingelegt?) zunächst einmal den umstrittenen Vertreter der Erblichkeit der Intelligenz, Arthur Jensen, apologetisch zu Wort kommen, ebenso den noch umstritteneren Hans-Jürgen Eysenck. Der Titel seines Buches sowie eine auf dem Umschlag abgebildete Zeitungsüberschrift «Not afraud after all?» (Schließlich doch kein Betrug?) suggerieren, dass es sich möglicherweise gar nicht um einen Betrug gehandelt habe. Er findet, Burt habe eine «cavalier»(sorglose) Einstellung zum Berichten von Daten gehabt, ebenso wie Jensen findet, dass Burt gelegentlich «exzentrisch»bei der Darstellung von Ergebnissen gewesen
sei. Ein anderer Psychologe, Brand13,findet Burts Verhalten gar nicht so schlimm, schließlich hätten Kepler, Newton und Freud genauso eine Neigung zur Datenmanipulation gehabt.
In den verbreitetsten Einführungsbüchern zur Psychologie14 kommt schließlich der Skandal, der doch eines der umfangreichsten Projekte der Psychologie betraf (den sich über ein Jahrhundert hinziehenden Versuch, die Erblichkeit der Intelligenz nachzuweisen), überhaupt nicht mehr vor.
Das Projekt, die Erblichkeit der Intelligenz nachzuweisen, ist ein Musterbeispiel für den Missbrauch von Wissenschaft zum Zwecke der Bestätigung von Vorurteilen. Es erhielt seine soziale und politische Brisanz durch die falsche Annahme, dass aus der Erblichkeit der Intelligenz eine erblich bedingte intellektuelle Inferiorität von Schwarzen geschlossen werden könne. Die wissenschaftliche Unseriosität des Projektes provozierte schließlich die oben erwähnte Charakterisierung Lewontins der ganzen Forschungsrichtung als gekennzeichnet durch Nachlässigkeit, Schäbigkeit und intellektuelle Unredlichkeit.
Das Projekt beginnt um die Wende zum 20. Jahrhundert mit Francis Galton, dem Begründer der Eugenik, einer im 20. Jahrhundert schließlich sehr einflussreichen Bewegung, die auf der Idee basiert, dass die Reproduktion von Menschen mit guten Eigenschaften gefördert, die von Menschen mit schlechten Eigenschaften reduziert werden sollte (siehe unten).15 Galton befasste sich geradezu obsessiv mit der Erblichkeit mentaler Eigenschaften. In seinem bekanntesten Werk Hereditary Genius vertritt er die Auffassung, dass Genie ausschließlich erblich sei, und versucht, dies anhand von ihm zu Genies erklärter bekannter Persönlichkeiten aus verschiedenen Sparten wie Wissenschaft, Kunst, Literatur, Politik etc. nachzuweisen.
Die Psychologen mit festem Glauben an die Erblichkeit der Intelligenz beziehen sich wegen seiner Berühmtheit gerne auf Galton und stilisieren ihn zu einem Universalgenie. Robert
Richards kommt allerdings, vor allem in Anbetracht von Galtons schwachen Leistungen an der Universität, zu dem Schluss, dass Galton eher von minderer Begabung war,16 was er jedoch durch erheblichen Ehrgeiz zu kompensieren wusste. Hierzu passt, dass er den von ihm zuerst beschriebenen statistischen Regressionseffekt fälschlicherweise als erbbiologisches Gesetz interpretierte17,eine Auslegung, die Eysenck noch im Jahre 1998 (!) vertrat. Da Galton den Effekt ausschließlich beim Vergleich der intellektuellen Leistungen von Eltern und ihren Kindern beobachtet hatte, konnte er ihn sich nur als biologisches Gesetz vorstellen und zog daraus den falschen Schluss, man könne ihn zur Bestimmung der Erblichkeit einer Eigenschaft benutzen.
Das Vorurteil der Erblichkeit der Intelligenz hat es sicher schon immer gegeben, und es sah sich nun durch Galtons Untersuchungen bestätigt. In der Folge kam es zu Maßnahmen erheblicher Tragweite, wie dem oben erwähnten Education Act oder der Änderung der Einwanderungsquoten durch den amerikanischen Kongress im Jahre 1924 zugunsten der angenommenermaßen intellektuell überlegenen nordischen Länder. Letztere Maßnahme litt in wissenschaftlicher Hinsicht gleich an zwei Defiziten, der falschen Annahme einer hohen Erblichkeit der Intelligenz und der völligen Unbrauchbarkeit der benutzten Daten.18 Ersteres ist in schlechter Wissenschaft begründet, vor allem Galtons Missverstehen des Regressionseffektes, Letzteres gehört jedoch eher in die Rubrik Betrug. Die Daten waren an Rekruten des Ersten Weltkrieges erhoben worden, und der ausführliche Bericht über die Testungen enthält eindeutige Hinweise auf die Unbrauchbarkeit der Daten, so z. B., dass vor allem die kurz zuvor aus Südeuropa zugewanderten Testteilnehmer die Testinstruktion nicht verstanden hatten. Dieses Defizit kann den Psychologen, die vor dem Kongress für die Reduzierung der Einwanderung aus süd- und