In Kürze:
- 1966 erschuf der deutsche Informatiker Joseph Weizenbaum mit ELIZA den ersten Chatbot der Welt.
- Sein Programm generierte auf Basis bestimmter Schlüsselwörter scheinbar verständnisvolle Antworten.
- Der KI-Pionier war schockiert, wie leicht seinem „Spielzeug“ menschliche Eigenschaften zugewiesen wurden und sah darin eine Gefahr für die Menschheit, schlimmer als der Nationalsozialismus, vor dem er in die USA geflohen war.
- Damals weitgehend ignoriert, zeigen ChatGPT & Co heute, wovor Weizenbaum schon vor über 60 Jahren warnte:
- Das Problem liegt nicht in der Maschine, sondern in unserem Umgang mit ihr und der Verleugnung der menschlichen Natur.
Nutzer: Männer sind alle gleich.
Chatbot: Inwiefern?
Nutzer: Sie bedrängen uns ständig wegen irgendetwas.
Chatbot: Fällt Ihnen dazu ein spezifisches Beispiel ein?
Nutzer: Nun, mein Freund hat mich gedrängt, hierherzukommen.
Chatbot: Ihr Freund hat Sie gedrängt, hierherzukommen?
Nutzer: Er sagt, ich sei die meiste Zeit deprimiert.
Chatbot: Es tut mir leid zu hören, dass Sie deprimiert sind.
Man könnte leicht annehmen, dass dieser Austausch kürzlich zwischen ChatGPT und einem menschlichen Nutzer stattfand. Doch diese Annahme wäre falsch. Tatsächlich ereignete sich dieses „Gespräch“ bereits vor rund 60 Jahren zwischen einem Computerprogramm namens ELIZA und einem Menschen. Dieser Vorläufer von ChatGPT – der im Vergleich zwar nur über bescheidene Fähigkeiten verfügte, aber dennoch in der Lage war, eine flüssige Unterhaltung mit einem menschlichen Gesprächspartner zu simulieren – existierte damit lange vor der Jahrtausendwende. Heute gilt ELIZA als der erste Chatbot weltweit, als Urgroßmutter der heutigen großen Sprachmodelle sozusagen.
Die Ironie der Geschichte von ELIZA ist jedoch, dass sein Programmierer – ganz ähnlich wie Mary Shelleys Dr. Frankenstein – schnell die Gefahr erkannte, die in seiner Schöpfung lauerte. Er verbrachte einen Großteil seiner restlichen Karriere damit, vor künstlicher Intelligenz (KI) zu warnen. Zudem kritisierte er beharrlich das technologische und posthumane Weltbild, das von einigen Pionieren der KI-Wissenschaft verfochten wurde.
Der Name des Programmierers war Joseph Weizenbaum (1923–2008). Er war ein deutscher Wissenschaftler, der in seiner Jugend aus dem nationalsozialistischen Deutschland geflohen war. Er war eine bedeutende Figur in den frühen Tagen der KI-Gemeinschaft – ein Mann, der dennoch zu einem ihrer größten Kritiker werden sollte.
ELIZA – Die Entstehung des Chatbots
Weizenbaum veröffentlichte das obige Transkript im Jahr 1966 in einem Fachartikel, in dem er erklärte, wie DOCTOR ELIZA, eine Variante seines Programms, funktionierte. Im Wesentlichen ahmte ELIZA die Methodik der Gesprächspsychotherapie (GPT) des US-Psychologen Carl Rogers (1902–1987) nach, bei der der Patient das Gespräch leitet.
Der Therapeut streut lediglich Fragen oder einfache Aussagen ein, um den Patienten zu weiteren Überlegungen anzuregen. Dies war ideal für einen primitiven Chatbot, der zwar in der Lage sein musste, ein Gespräch zu simulieren, dem es jedoch an der Raffinesse fehlte, um nennenswerte Mengen an eigenständigem Text zu generieren.
Dafür scannte ELIZA die Benutzereingaben nach bestimmten Schlüsselwörtern wie „ich“, „du“ oder „Mutter“. Solche Wörter lösten eine zugeordnete Regel aus, um einen Satz oder eine Frage als Antwort auszugeben. Oft geschah dies, indem einige Wörter des Nutzers in eine Antwortvorlage eingefügt wurden.
Dies erweckte den Eindruck, der Bot würde tatsächlich auf den Inhalt der Aussage reagieren. Schrieb der Nutzer „Ich bin traurig“, antwortete die Maschine vielleicht: „Wie lange sind Sie schon traurig?“ Die Bedeutung des Wortes „traurig“ war irrelevant. Der Chatbot kopierte das Wort einfach aus der Eingabe. Es funktionierte ebenso gut mit „deprimiert“, „glücklich“, „wütend“ oder jedem anderen Adjektiv. Wenn ELIZA keine Schlüsselwörter fand, generierte es eine Standardantwort wie „Ich verstehe“ oder „Bitte fahren Sie fort“.
Joseph Weizenbaum auf dem Balkon seiner Wohnung in Berlin am 11. Februar 2005. Der emeritierte Professor für Informatik am Massachusetts Institute of Technology (MIT) in Cambridge, USA, veröffentlichte 1966 mit ELIZA den ersten Chatbot der Welt.
Die Illusion funktionierte überzeugend. Weizenbaum beschrieb, dass einige Testpersonen „sehr schwer davon zu überzeugen waren“, dass ELIZA nicht menschlich sei, einschließlich seiner eigenen Sekretärin. Als er sie das System testen ließ, bat sie ihn sogar, den Raum zu verlassen, damit sie ihr Gespräch mit dem „Therapeuten“ ungestört fortführen könne.
Weizenbaum sah, dass die Versuchung, ELIZA – und anderen Maschinen – Menschlichkeit oder Persönlichkeit zuzuschreiben, nicht nur seine Sekretärin betraf. Er war auf ein Phänomen gestoßen, das später als „ELIZA-Effekt“ bekannt werden sollte: unsere Tendenz, menschliche Eigenschaften auf leblose Maschinen zu projizieren.
Ein Taschenrechner als Therapeut
Als einige Psychiater verkündeten, ELIZA könne tatsächlich für therapeutische Zwecke nützlich sein, begann er sich ernsthaft Sorgen zu machen. Weizenbaum war entsetzt, dass irgendjemand diesem Spielzeug mit echten psychischen Problemen betrauen könnte. Sein tiefes Wissen über ELIZAs blinde, algorithmische Wirkweise machte ihm klar, dass der Chatbot niemals wie ein echter Therapeut behandelt werden sollte. Es war ein System, so träge und unbewusst wie ein Taschenrechner. Es hatte nichts über das menschliche Leben zu sagen. Er hielt die Idee geradezu für „obszön“.
Die beunruhigende Offenbarung des ELIZA-Effekts begann Weizenbaum zu verunsichern und veranlasste ihn, den Rahmen für die Beziehung zwischen Mensch und Technik zu überdenken. Ein Interview von 1998 verdeutlichte die Tiefe seines Denkens. Er kritisierte die mechanistische Sicht auf das Universum, die seiner Meinung nach dem Versuch zugrunde lag, Menschen durch Maschinen zu ersetzen.
„Diese und andere Autoren propagieren an der Schwelle des Jahrtausends ein äußerst gefährliches Menschenbild“, sagte Weizenbaum gegenüber Bernhard Pörksen von der Uni Tübingen. Weiter erklärte er:
„Es [das Menschnbild] basiert auf der Vorstellung, der Mensch sei eine Maschine, die man im Prinzip und in naher Zukunft verstehen und entschlüsseln könne, um sie dann entsprechend zu korrigieren und zu verbessern. Das zentrale Dogma dieses Menschenbildes ist die Idee, dass jeder Aspekt des Lebens computable sei, dass er sich in berechenbare und formalisierbare Vorgänge auflösen ließe.“
Die Wissenschaft als Weltreligion
In dem Interview kritisierte Weizenbaum die aufkommende Theorie des Transhumanismus. Er argumentierte, sie basiere auf einem grundlegend fehlerhaften Verständnis der menschlichen Natur und der Realität als Ganzes. KI-Enthusiasten träumten von einem „Idealbild“ des Menschen, eine Menschheit 2.0, die einen evolutionären Sprung auf eine höhere Ebene darstellen sollte – und zwar auch dann, wenn das die Menschheit 1.0 überflüssig machen würde.
Weizenbaum befürchtete, dass diese Denker und Wissenschaftler mit einer Art quasi-religiösem Instinkt bereit seien, den Menschen von heute auf dem Altar des Menschen von morgen zu opfern. Er ging sogar so weit, die materialistische Wissenschaft als Weltreligion der Gegenwart zu bezeichnen:
„Für mich ist die Naturwissenschaft lediglich die heute vorherrschende Weltreligion mit Novizen (Studenten), Kirchen und Kathedralen (Universitäten), Priestern und Häretikern; auch die Kardinäle (die Nobelpreisträger) und ganz bestimmte Rituale, um das Ausmaß der eigenen Hingabe und Loyalität zu beweisen, fehlen nicht.“
Indem sie die Menschheit auf das Niveau der Maschine reduzierten und die Maschine zu einem Gott erhoben, befürchtete Weizenbaum, dass KI-Befürworter die Menschen entmenschlichten. Er verglich dies mit der Rhetorik der Nazis im Zweiten Weltkrieg. Er erklärte:
„Worauf ich hinauswill, ist die ungeheure Macht eines inhumanen Menschenbildes, das sich wie ein Virus in einer Gesellschaft auszubreiten vermag. Die wesentliche Gemeinsamkeit zwischen dem Nationalsozialismus und den Ideen eines Hans Moravec [ein KI-Theoretiker] liegt, so meine ich, in der Entwürdigung des Humanen und der Phantasie eines perfekten neuen Menschen, der um jeden Preis geschaffen werden muss.“
Eine Bedrohung für die Menschheit
Weizenbaum sprach aus Erfahrung. Er und seine Familie waren 1935 von Deutschland in die US geflohen, nachdem sie Zeuge der Handlungen der Nationalsozialisten geworden waren. Die Verehrung von Maschinen könnte seiner Ansicht nach indes noch katastrophaler sein als der Nationalsozialismus. Denn ihr Ziel sei nicht eine spezifische Rasse, sondern die gesamte Menschheit. „Am Schluss dieser Perfektionierung“, so Weizenbaum, „ist der Mensch allerdings nicht mehr da; er verschwindet“.
Weizenbaum hätte vermutlich der Ansicht von C.S. Lewis zugestimmt. Der britische Autor (u.a. „Die Chroniken von Narnia“), sagte: „Die menschliche Natur wird der letzte Teil der Natur sein, der sich dem Menschen unterwirft. […] Die Schlacht wird tatsächlich gewonnen sein. Aber wer genau wird sie gewonnen haben? […] Die endgültige Eroberung des Menschen hat sich als die Abschaffung des Menschen erwiesen.“
Für Weizenbaum war ein falsches Menschenbild gefährlicher als jede Waffe, es war oft das Motiv für den Einsatz von Waffen. Es war nicht das Schwert selbst, sondern der Arm, der das Schwert schwingt. Er sah eine akute Gefahr darin, Mensch und Maschine gleichzusetzen. Dies ignoriere die Menschenwürde und den Respekt vor dem Leben und mache menschliche Körper zu bloßen „Fleischmaschinen“. Er sagte:
„Wir können aus der Geschichte dieses Jahrhunderts, vielleicht des brutalsten Jahrhunderts, lernen, welche entscheidende Rolle das Menschenbild in den Verbrechen der Vergangenheit spielte. Und wir müssen uns daran erinnern, dass die grausamsten Verbrechen möglich wurden, weil die Täter das Menschsein der Opfer leugneten.“
Weiter sagte er: „In der NS-Zeit stellte man Juden als Ungeziefer dar – eine Metapher, die den Massenmord legitimierte. Heute gewinnt, unterstützt durch die Autorität der Naturwissenschaften, die Vorstellung an Substanz und Macht, der Mensch sei lediglich eine informationsverarbeitende Maschine, die von einem Roboter ersetzt werden könne. Es ist aus dieser Perspektive nur konsequent, dass Moravec ganz selbstverständlich von einer ‚postbiologischen Gesellschaft‘ spricht, regiert von Robotern.“
Mit zunehmender Leistungsfähigkeit der Maschinen warnte Joseph Weizenbaum, dass die eigentliche Gefahr nicht nur in ihrer Macht liege, sondern darin, wie wir uns im Vergleich zu ihnen sehen. Hier ein (weiblicher) Roboter-Croupier auf der Global Gaming Expo Asia in Macau am 12. Mai 2026.
Foto: Eduardo Leal/AFP via Getty Images
Weizenbaums Gegner gründeten ihre Hoffnung, die menschliche Natur durch künstliche Intelligenz zu überwinden, auf der Annahme, dass Menschheit, menschliches Verhalten und menschliche Erfahrung letztlich vollständig quantifiziert, verstanden und gelöst – und somit reproduziert und verbessert – werden könnten. Weizenbaum hingegen beharrte darauf, dass der Mensch und das Universum, in dem er lebt, niemals vollständig erklärbar oder „hackbar“ sein werden.
„Die Welt ist voller Geheimnisse – und das Credo der KI-Szene, dass alles berechenbar sei, verleugnet das Geheimnis des Lebendigen“, sagte er. „Es erzeugt die Illusion vollständiger Durchschaubarkeit und legt nahe, alle Aspekte unserer Existenz seien enträtselbar. Der Glaube an Wunder und Mysterium erscheint aus dieser Perspektive lediglich als eine besondere Form von Dummheit. Mich verletzt diese Behauptung totaler Berechenbarkeit zutiefst.“
Feste Überzeugungen, konsequente Warnungen
Für viele mag seine Warnung damals als die rückständigen Ängste eines verknöcherten und realitätsfernen Griesgrams geklungen haben. Heute gewinnt sie zunehmend an Relevanz.
In den Jahrzehnten nach ELIZA, insbesondere nachdem Weizenbaum 1976 sein Buch „Computer Power and Human Reason: From Judgment to Calculation“ (deutscher Titel: „Die Macht der Computer und die Ohnmacht der Vernunft“) veröffentlicht hatte, sahen ihn viele als wissenschaftlichen Außenseiter.
„Es [gibt] bestimmte Aufgaben […], zu deren Lösung keine Computer eingesetzt werden sollten, ungeachtet der Frage, ob sie zu deren Lösung eingesetzt werden können“, schrieb er in seinem Buch.
Weizenbaum wandte sich nicht erst in seinem Buch entschieden gegen die Ideen von John McCarthy und Marvin Minsky. Die beiden waren die Organisatoren des sogenannten Dartmouth-Workshops von 1956, der die Geburtsstunde der KI-Forschung markiert. Sowohl McCarthy als auch Minsky zählen zu den Pionieren der KI-Forschung, finanziert in ihren Anfängen vom US-Militär. McCarthy bezeichnete Weizenbaums Buch als „moralisierend und zusammenhangslos“, und er und seine Kollegen setzten ihre Arbeit fort.
Weizenbaums Warnungen blieben weitgehend ungehört.
Nun stehen wir da, mit Chatbots deren Raffinesse die von ELIZA bei Weitem übertrifft. Dadurch wird es noch einfacher, in die Falle zu tappen, diese Maschinen als gleichwertige Personen zu betrachten. Wir haben erlebt, wie Menschen behaupteten, Chatbots seien empfindungsfähig, wir haben beobachtet, wie sie sich in Chatbots verliebten, und wir haben sogar miterlebt, wie sie von Chatbots zum Selbstmord überredet wurden.
Solche Entwicklungen würden den deutschen Wissenschaftler vermutlich betrüben. Weizenbaums Tochter Miriam sagte dem Smithsonian Magazine, ihr Vater „würde die Tragik erkennen, dass sich Menschen buchstäblich zu Nullen und Einsen hingezogen fühlen, sich buchstäblich an Code klammern.“
Weizenbaum trat 1988 in den Ruhestand ein und kehrte 1996 nach Deutschland zurück, wo er ein offeneres Ohr für seine Ansichten fand. Er starb 2008.
Mehr als Sprache
Weizenbaum war ein in sich gekehrter, melancholischer und selbstkritischer Mann, doch von fester Überzeugung und mystischer Intuition geprägt. Er erkannte das Wunder und Geheimnis der Welt mit einer Gewissheit, die jeden mathematischen Beweis übertrifft. Es gibt mehr als Nullen und Einsen, etwas jenseits von Zahnrädern, Rädern und Atomen. Es gibt etwas in uns und unseren Erfahrungen. Und dieses etwas wird sich für immer der Vorhersage, der Automatisierung und der Berechnung entziehen.
Weizenbaum war für diese Erfahrungen sensibel.
Er sagte Pörksen: „Ich denke nicht, dass es irgendwo oben im Himmel einen alten Mann gibt, der, in Bettwäsche gehüllt, das Geschehen in der Welt beobachtet, umgeben von blonden Frauen mit Flügeln, die um ihn herumfliegen. Aber es hat doch in meinem Leben die Erfahrung des Wunders gegeben. Da ist die Erfahrung der Trauer und der Erschütterung, da ist die plötzliche Freude am Morgen, da ist die Erfahrung der Liebe zwischen Menschen. Nun, ein Wunder ist eben ein Wunder; man kann es nicht beschreiben, man müsste ein Künstler sein, um sich ihm anzunähern.“
In seinem Buch beschrieb Weizenbaum einen Moment dieser menschlichen Liebe und Verbundenheit:
„Als meine Kinder noch klein waren, stand ich zuweilen zusammen mit meiner Frau über das Bett gebeugt, in dem sie schliefen. Wir sprachen miteinander, ohne zu reden; es war die Wiederholung einer Szene, so alt wie die Menschheit selbst.“
In diesem Moment geschah etwas, das über Sprache hinausgeht, geschweige denn über Algorithmen, argumentierte Weizenbaum.
„Meine Auffassung ist in der Tat, dass es etwas Unsagbares gibt, eine lebendige Wahrheit, die sich nicht in Worte fassen lässt“, konkretisierte Weizenbaum im Interview.
Für Weizenbaum besitzt die menschliche Verbindung – Gespräch, Empathie, gemeinsame Erfahrung – eine Tiefe, die kein Algorithmus nachbilden konnte.
Foto: AndreyPopov/iStock
Diese mystische Neigung machte Weizenbaum für die einen zum Helden und für andere zur Zielscheibe des Spotts. Doch man muss seine spirituellen Intuitionen nicht teilen, um seinen gesunden Menschenverstand und seine Bedenken zu würdigen. Trotz all ihrer technischen Zauberei ist KI moralisch träge. Es fehlt ihnen das Gewissen, das wir alle in unseren Herzen erfahren. Aus diesem Grund sollten sie nicht in Positionen gebracht werden, in denen sie moralische Urteile fällen.
Oder mit Weizenbaums eigenen Worten:
„Was als elementarste Einsicht hervorgeht, ist, dass wir, da wir derzeit keine Möglichkeiten haben, Computer weise zu machen, Computern derzeit keine Aufgaben übertragen sollten, die Weisheit erfordern.“
Dies ist eine Herausforderung, über die wir in unserer Zeit gut daran täten, nachzudenken.
Dieser Artikel erschien im Original auf theepochtimes.com unter dem Titel „He Built the First Chatbot—Then Spent His Life Warning the World About AI“. (Übersetzung und redaktionelle Bearbeitung: sm, ts)
