Jens Spahn nahm bereits mehrfach an Treffen von Peter Thiels "Dialog"-Netzwerk teil. - Foto: via dts Nachrichtenagentur
In Kürze:
Datenleck veröffentlicht 222 Teilnehmer eines geheimen Netzwerks
Unter den Gästen: Militärs, US-Politiker und Tech-Investoren
Diskussionen drehen sich um KI, Zukunftstechnologien und Gesellschaft
Ein geheimes Treffen einflussreicher Persönlichkeiten aus Politik, Militär und Tech-Branche ist durch ein Datenleck öffentlich geworden. Dabei wurden erstmals umfangreiche Teilnehmerlisten des Netzwerks „Dialog“ bekannt.
2006 gehörte der Tech-Milliardär und Investor Peter Thiel zu den Mitbegründern des Netzwerks. Wer an den alljährlichen Treffen teilnahm, blieb stets geheim. Nun ist dank eines Datenlecks die Teilnehmerliste öffentlich geworden, wie zuerst das amerikanische Magazin WIRED berichtete.
Insgesamt sind 222 Namen aufgetaucht, die an den Treffen beteiligt waren, was laut Bericht auf eine außergewöhnliche Konzentration von Macht hinweist.
Jens Spahn war bisher fünfmal dabei
So ist General Alexus Grynkewich, seit Juli 2025 Oberbefehlshaber der NATO-Streitkräfte in Europa und Chef des US-Europakommandos, seit 2021 regelmäßig bei den Treffen dabei. Neben zwei US-Senatoren und einem ehemaligen Geheimdienstchef für den Nahen Osten stehen auch sechs Mitglieder der sogenannten „PayPal-Mafia“ auf der Liste. Dabei handelt es sich um ein Netzwerk aus ehemaligen Gründern und Mitarbeitern des Zahlungsdienstleisters PayPal, die später einflussreiche Investoren wurden. Thiel gehört dazu, ebenso Elon Musk.
Mit dem Unionsfraktionsvorsitzenden Jens Spahn taucht auch ein deutscher Politiker immer wieder auf den Gästelisten auf. Sein Büro bestätigte die Teilnahme und erklärte, Spahn nehme regelmäßig „an unterschiedlichen nationalen und internationalen Konferenzen und Veranstaltungen teil“. Ihm sei der Austausch „unterschiedlicher Perspektiven“ stets wichtig. Zudem trete er auf Einladung als Redner oder „Panel-Diskutant“ auf.
Der CDU-Politiker war während seiner Amtszeit als Bundesgesundheitsminister 2018 in Irland sowie 2019 in Italien bei den Treffen dabei. Auch in den Jahren 2022 bis 2024, als die Treffen in Irland, Portugal und Deutschland stattfanden, stand Spahn auf der Gästeliste. Für das Treffen im August in Irland habe er ebenfalls eine Einladung erhalten, werde jedoch nicht teilnehmen.
Was die Teilnehmer verbindet, ist laut WIRED die Beschäftigung mit Themen wie Künstlicher Intelligenz, Langlebigkeit und der nahen Zukunft. In Anmeldeformularen tauchte dabei immer wieder die Erwartung auf, dass KI Arbeit, Kriege, Bildung und Glauben innerhalb weniger Jahre grundlegend verändern werde.
Zwischen KI-Zukunft und Partnervermittlung: Visionen und Funktionen des Netzwerks
Einige prophezeien Massenentlassungen und eine Rückkehr zu Gewerkschaften und staatlichen Programmen. Andere erwarten einen starken Einbruch bei der Weiterentwicklung Künstlicher Intelligenz („KI-Winter“), Terroranschläge auf Rechenzentren, Angeklagte, die sich künftig für KI-Anwälte statt für Pflichtverteidiger entscheiden oder eine durch die Umwälzungen ausgelöste religiöse Erneuerung.
Das Netzwerk „Dialog“ fungiert auch als Partnervermittler. In der Teilnahmefunktion werden registrierte Nutzer gefragt, ob sie „auf der Suche nach Liebe“ sind, und können als „Single Mann“, „Single Frau“ oder „Andere“ für eine künftige Partnervermittlung registriert werden. Auf einer separaten Internetseite – dating.dialog.org – wird zudem eine App angeboten, die „bedeutungsvolle Verbindungen für außergewöhnliche Menschen“ verspricht.
Bundesdigitalminister Karsten Wildberger (CDU) auf der #Futurework26: Für ihn ist Künstliche Intelligenz eine „gesellschaftliche Überlebensfrage“. (Archivbild). - Foto: Sean Gallup/Getty Images
Berlin: Die Bundesregierung und die deutsche Wirtschaft drängen auf ein deutlich höheres Tempo bei der Einführung Künstlicher Intelligenz (KI).
Nach Ansicht von Bundesdigitalminister Karsten Wildberger (CDU) handelt es sich bei der Technologie für Deutschland um eine „gesellschaftliche Überlebensfrage“.
Das Land brauche das Wachstum, das diese Technologie mit sich bringt, um den Umbau der Wirtschaft zu finanzieren und die eigene Souveränität zu sichern.
Das erklärte Wildberger laut Angaben der Bundesvereinigung der Deutschen Arbeitgeberverbände (BDA) auf der Berliner Konferenz „#Futurework26“ zur Zukunft der Arbeit.
Um international den Anschluss nicht zu verlieren, sieht der Minister dringenden Handlungsbedarf bei der technologischen Basis. Deutschland müsse eine eigene Chipfertigung aufbauen, leistungsfähige Sprachmodelle entwickeln und KI-Anwendungen in die bestehende industrielle Stärke des Landes einbetten.
Fachkräftemangel zwingt zum Umdenken
Unterstützung erhielt Wildberger von Arbeitgeberpräsident Rainer Dulger. Dieser betonte, KI entwickle sich rasant zur „Grundvoraussetzung für Produktivität, Wettbewerbsfähigkeit und Wachstum“. Besonders in einer alternden Gesellschaft mit zunehmendem Fachkräftemangel hänge Wohlstand davon ab, wie produktiv neue Technologien genutzt werden.
Branchen wie der Maschinenbau, die Automobilindustrie, die Chemie und die Gesundheitswirtschaft verfügten über das nötige Datenwissen, das durch KI in zusätzliche Wertschöpfung umgemünzt werden müsse.
Kritik an europäischer Regulierungswut
Dulger mahnte zur Eile: „Wenn wir unseren Wohlstand und unsere industrielle Stärke sichern wollen, müssen wir hier Tempo machen.“ Während die USA und China massiv in die Technologie investierten, werde in Europa oft zuerst über Regulierung und Verbote diskutiert.
Nötig seien stattdessen mehr Mut zur Anwendung in den Betrieben, gezielte Investitionen in Technologie sowie Qualifikationsmaßnahmen für die Beschäftigten. Vor allem aber brauche es politische Rahmenbedingungen, die Innovationen erlauben, statt sie im Keim zu ersticken. (afp/red)
SpaceX-Chef Elon Musk, der per Videokonferenz aus dem SpaceX-Hauptquartier in Starbase, Texas, auf einer Leinwand zu sehen ist, hält am 12. Juni 2026 vor dem Börsengang von SpaceX im Nasdaq MarketSite in New York eine Rede. - Foto: TIMOTHY A. CLARY / AFP via Getty Images
Tech-Milliardär Elon Musk hat zum Börsenstart seines Raumfahrtkonzerns SpaceX eine Mars-Mission in Aussicht gestellt.
SpaceX wolle Menschen zum Mond bringen, „zum Mars und letztlich darüber hinaus“, sagte Musk am Freitag im SpaceX-Hauptquartier in Texas vor jubelnden Mitarbeitern. Sein Ziel sei es, „Star Trek Wirklichkeit werden zu lassen“.
Das Aktiendebüt soll das mit Abstand größte der Welt werden. SpaceX will an der Technologiebörse Nasdaq mindestens 75 Milliarden Dollar (rund 65 Milliarden Euro) einsammeln.
Durch eine Option für Emissionsbanken zum Erwerb von bis zu 83 Millionen zusätzlichen Wertpapieren könnte sich der Erlös sogar auf bis zu 86 Milliarden Dollar erhöhen.
Der bisher größte Börsengang war der des saudiarabischen Ölriesen Saudi Aramco Ende 2019. Er brachte dem Konzern 25,6 Milliarden Dollar ein.
Fast ein Vierteljahrhundert nach Gründung von SpaceX im März 2002 dürfte Musk damit der weltweit erste Billionär werden. SpaceX hat mit seinen Trägerraketen lukrative Verträge mit der US-Raumfahrtagentur Nasa abgeschlossen.
Zu dem Unternehmen gehört unter anderem auch das Satellitennetzwerk Starlink. Wegen der Milliarden-Investitionen in Künstliche Intelligenz schrieb Musks Konzern zuletzt allerdings rote Zahlen.(afp/red)
Neues Flaggschiff: Neben dem bekannten Chatbot Claude ist „Mythos“ das nun fortschrittlichste KI-Modell von Anthropic. (Symbolbild). - Foto: SEBASTIEN BOZON / AFP via Getty Images
Das US-Unternehmen für Künstliche Intelligenz (KI), Anthropic, hat sein umstrittenes KI-Modell Mythos veröffentlicht.
Aus Sicherheitsgründen wurde die allgemein zugängliche Version namens Fable 5 allerdings in ihren Funktionen eingeschränkt, wie Anthropic am Dienstag, 9. Juni mitteilte.
Verfassungsschutz warnt vor Missbrauch
Deutsche Verfassungsschützer und Sicherheitspolitiker hatten gewarnt, Kriminelle oder staatliche Akteure könnten Mythos für Cyberangriffe etwa auf Banken oder Energieanlagen nutzen.
Anthropic ist für seinen Chatbot Claude bekannt, Mythos ist dabei das fortschrittlichste Modell.
„Ohne Schutzmaßnahmen könnten die Fähigkeiten von Fable 5 in Bereichen wie der Cybersicherheit missbraucht werden und schweren Schaden anrichten“, räumte das Unternehmen mit Sitz in San Francisco ein.
Die Version Fable 5 beantwortet Anfragen zu sensiblen Themen wie der Cybersicherheit deshalb nicht selbst, wie Anthropic weiter mitteilte.
Vom US-Geheimtest zur Teil-Freigabe
Stattdessen würden sie an das nicht so leistungsfähige Modell Opus 4.8 weitergeleitet, das Ende Mai für die breite Öffentlichkeit freigegeben worden war.
Eigens beauftragten Experten sei es bei Testläufen nicht gelungen, Sicherheitslücken bei Fable 5 zu finden, hieß es dazu.
Die KI-Anwendung kann laut Experten Sicherheitslücken mit bisher unerreichter Geschwindigkeit und Präzision erkennen und ausnutzen. Anthropic hatte Mythos erstmals im April vorgestellt, die testweise Nutzung aber auf wenige Partner beschränkt.
Dazu gehörten die US-Regierung und ausgewählte Unternehmen. Anfang Juni wurde die Gruppe auf rund 200 Organisationen in mehr als 15 Ländern ausgeweitet.
Pentagon stuft Entwickler als Risiko ein
Als riskant gilt vor allem die militärische Nutzung von KI. Anthropic liefert sich dazu einen Rechtsstreit mit dem US-Verteidigungsministerium. Dabei geht es um eine uneingeschränkte Nutzung der KI-Technologie, die Anthropic dem Pentagon verweigert hat.
Der Konzern erklärte, er wolle KI nicht zur „Massenüberwachung im Inland“ oder in vollautonomen Waffensystemen einsetzen lassen. Das Pentagon stufte Anthropic daraufhin als „Sicherheitsrisiko in der Lieferkette“ ein, wogegen das Unternehmen sich juristisch wehrt.
Anthropic hatte Anfang Juni erklärt, eine langsamere Entwicklung immer leistungsstärkerer KI-Systeme sei „wahrscheinlich sinnvoll“, damit Forschung und Gesellschaft Schritt halten könnten.
Milliarden-Börsengang steht bevor
An einer möglichen Pause müssten sich aber alle bekannten KI-Firmen der Welt beteiligen, forderte das Unternehmen. Experten halten es allerdings für unrealistisch, dass sich führende KI-Konzerne in den USA und China darauf einigen, ihre Arbeit gleichzeitig zu verlangsamen oder zu pausieren.
Anthropic will voraussichtlich noch in diesem Jahr an die Börse gehen. Dafür reichte das Unternehmen die Dokumente Anfang Juni bei der US-Börsenaufsicht SEC ein.
Zuvor hatte Anthropic nach einer neuen Finanzierungsrunde mitgeteilt, nun wertvoller zu sein als sein KI-Konkurrent OpenAI. Anthropic wurde zuletzt mit 965 Milliarden Dollar (836,83 Milliarden Euro) bewertet. (afp/red)
Globale Risiken: Forscher warnen vor KI-Einsatz bei Massenüberwachung und moderner Kriegsführung. (Symbolbild). - Foto: Riccardo Milani / Hans Lucas / AFP via Getty Images
Mehr als 150 Mathematiker aus aller Welt haben davor gewarnt, den „Hype“ um die mathematischen Fähigkeiten von Systemen der Künstlichen Intelligenz (KI) unkritisch zu übernehmen.
In einer am Dienstag, 2. Juni nach einer Konferenz in der niederländischen Universitätsstadt Leiden veröffentlichten Erklärung hieß es, KI-Entwickler hätten „einen starken kommerziellen Anreiz“, die Fähigkeiten ihrer Produkte übertrieben darzustellen.
Öffentlichkeitsarbeit zu KI werde häufig nach Marktlogik betrieben und nicht im Tempo wissenschaftlicher Begutachtung.
Dabei würden KI-Lösungen für einzelne mathematische Aufgaben irreführend als Maßstab für die allgemeinen Fähigkeiten kommerzieller KI-Modelle dargestellt, hieß es in der Leidener Erklärung.
Kritik am KI-Wettlauf: Mathematiker Michael Harris von der Columbia Universität, bemängelt den extremen wirtschaftlichen Druck in der Branche, der zu einer verzerrten und übertriebenen Darstellung realer KI-Fähigkeiten führe.
Foto: Steve Rosenbach / iStock
Der Mathematiker Michael Harris von der Columbia Universität, einer der Mitautoren der Erklärung, sagte, zwischen den großen KI-Laboren herrsche ein „Wettbewerb auf Leben und Tod“. Die Unternehmen versuchten, mit Hilfe der Mathematik Investitionen anzuziehen.
Die Autoren der Erklärung warnen unter anderem davor, dass KI-Systeme plausibel wirkende, aber letztlich falsche „Beweise“ erzeugen könnten, die für Menschen schwer zu überprüfen seien.
Auch bestehe die Gefahr, dass die Nutzung von KI in der Mathematik Forschung begünstige, die sich vor allem an neuen praktischen Anwendungen orientiere, zulasten anderer wichtiger Fragestellungen.
Warnung vor Missbrauch und ethische Pflichten
Die Autoren warnen außerdem vor möglichen Schäden durch KI bei der Kriegsführung, der Massenüberwachung, der Destabilisierung politischer Systeme und der Umweltbelastung.
Sie riefen Kollegen ihrer Zunft auf, die ethischen Folgen ihrer Forschung zu prüfen und sich nötigenfalls aus schädlicher Arbeit zurückzuziehen.
KI eröffne „neue und spannende Möglichkeiten“, werfe aber auch Fragen auf, „die nicht ungeprüft bleiben dürfen“, erklärte die Vizepräsidentin der Internationalen Mathematischen Union (IMU), Ulrike Tillmann.
Die Zukunft der mathematischen Forschung müsse von „menschlichem Urteilsvermögen, fairen und transparenten Verfahren“ sowie den „gemeinsamen Werten der weltweiten mathematischen Gemeinschaft“ geleitet werden. (afp/red)
Am 13. Mai 2026 vor einem Softbank-Geschäft in Tokio. - Foto: Andrew Caballero-Reynolds/AFP via Getty Images
Der japanische Investor Softbank will nach eigenen Angaben die Rekordsumme von 75 Milliarden Euro in den Ausbau der KI-Infrastruktur in Frankreich investieren.
„Es wird die größte Investition in Europa in die Infrastruktur im Bereich der Künstlichen Intelligenz sein“, sagte Softbank-Chef Masayoshi Son der Zeitung „La Tribune Dimanche“.
45 Milliarden Euro sollen demnach bis 2031 in den Bau von Rechenzentren in der nördlichen Region Hauts-de-France fließen.
Die Ankündigung erfolgt kurz vor dem Wirtschaftsgipfel „Choose France“ auf Schloss Versailles, bei dem Präsident Emmanuel Macron am 1. Juni um ausländische Investitionen werben will.
Softbank kooperiert bei dem Großprojekt mit dem französischen Konzern Schneider Electric. „Es ist eine wichtige Partnerschaft, ein großes Projekt, das größte, das es in Frankreich je in diesem Bereich gegeben hat“, sagte der Chef von Schneider Electric, Olivier Blum, der Nachrichtenagentur AFP.
Die französische Regierung hatte in den vergangenen Monaten immer wieder ihr Ziel bekräftigt, einer der weltweit führenden Akteure im Bereich der KI zu werden. (afp/red)
Vor einem Vierteljahrhundert wurde die US-Umweltaktivistin Erin Brockovich durch einen Oscar-prämierten Film berühmt – heute warnt die 65-Jährige vor Rechenzentren für Künstliche Intelligenz (KI).
Brockovich schrieb auf ihrer neuen Webseite, Technologiekonzerne lieferten sich vielerorts ein „Rennen, um KI-Infrastruktur aufzubauen“.
Die Zentren verbrauchten aber enorme Mengen an Energie und Kühlwasser und erhöhten damit die Preise für Verbraucherinnen und Verbraucher.
Plattform sammelt Beschwerden zu KI-Rechenzentren
Auf ihrer Plattform hat Brockovich bisher mehr als 2700 US-Bürgerbeschwerden über existierende oder mögliche Standorte auf einer interaktiven Karte gesammelt.
Auf ihrer Plattform spricht sich die Aktivistin nicht für einen Baustopp oder ein Verbot von KI-Rechenzentren aus, sie will demnach aber auf „die Notwendigkeit nachhaltiger, sicherer und effizienter Praktiken“ hinweisen.
Brockovich hatte Anfang der 1990er Jahre mit dazu beigetragen, einen Skandal um Trinkwasserverschmutzung im kalifornischen Hinkley aufzuklären.
Nach einer Sammelklage musste der Energiekonzern PG&E 333 Millionen Dollar Schadensersatz an mehr als 600 Anwohner zahlen und die Verunreinigung beseitigen.
Die US-Schauspielerin Julia Roberts nimmt ihre Auszeichnung für die herausragende Leistung einer Schauspielerin in einer Hauptrolle für „Erin Brockovich“ entgegen. (Archiv).
Foto: LUCY NICHOLSON/AFP via Getty Images
Regisseur Steven Soderbergh brachte die Geschichte 2000 in die Kinos, in seinem Film spielte Julia Roberts die Aktivistin Brockovich. (afp/red)
Eine simulierte „Therapiesitzung“ mit dem ersten Chatbot der Welt. ELIZA zeigte seinem Erfinder bereits 1966 wie leicht Menschen Maschinen Eigenschaften und Bedeutungen zuschreiben. - Foto: unbekannt /gemeinfrei
In Kürze:
1966 erschuf der deutsche Informatiker Joseph Weizenbaum mit ELIZA den ersten Chatbot der Welt.
Sein Programm generierte auf Basis bestimmter Schlüsselwörter scheinbar verständnisvolle Antworten.
Der KI-Pionier war schockiert, wie leicht seinem „Spielzeug“ menschliche Eigenschaften zugewiesen wurden und sah darin eine Gefahr für die Menschheit, schlimmer als der Nationalsozialismus, vor dem er in die USA geflohen war.
Damals weitgehend ignoriert, zeigen ChatGPT & Co heute, wovor Weizenbaum schon vor über 60 Jahren warnte:
Das Problem liegt nicht in der Maschine, sondern in unserem Umgang mit ihr und der Verleugnung der menschlichen Natur.
Nutzer: Männer sind alle gleich.
Chatbot: Inwiefern?
Nutzer: Sie bedrängen uns ständig wegen irgendetwas.
Chatbot: Fällt Ihnen dazu ein spezifisches Beispiel ein?
Nutzer: Nun, mein Freund hat mich gedrängt, hierherzukommen.
Chatbot: Ihr Freund hat Sie gedrängt, hierherzukommen?
Nutzer: Er sagt, ich sei die meiste Zeit deprimiert.
Chatbot: Es tut mir leid zu hören, dass Sie deprimiert sind.
Man könnte leicht annehmen, dass dieser Austausch kürzlich zwischen ChatGPT und einem menschlichen Nutzer stattfand. Doch diese Annahme wäre falsch. Tatsächlich ereignete sich dieses „Gespräch“ bereits vor rund 60 Jahren zwischen einem Computerprogramm namens ELIZA und einem Menschen. Dieser Vorläufer von ChatGPT – der im Vergleich zwar nur über bescheidene Fähigkeiten verfügte, aber dennoch in der Lage war, eine flüssige Unterhaltung mit einem menschlichen Gesprächspartner zu simulieren – existierte damit lange vor der Jahrtausendwende. Heute gilt ELIZA als der erste Chatbot weltweit, als Urgroßmutter der heutigen großen Sprachmodelle sozusagen.
Die Ironie der Geschichte von ELIZA ist jedoch, dass sein Programmierer – ganz ähnlich wie Mary Shelleys Dr. Frankenstein – schnell die Gefahr erkannte, die in seiner Schöpfung lauerte. Er verbrachte einen Großteil seiner restlichen Karriere damit, vor künstlicher Intelligenz (KI) zu warnen. Zudem kritisierte er beharrlich das technologische und posthumane Weltbild, das von einigen Pionieren der KI-Wissenschaft verfochten wurde.
Der Name des Programmierers war Joseph Weizenbaum (1923–2008). Er war ein deutscher Wissenschaftler, der in seiner Jugend aus dem nationalsozialistischen Deutschland geflohen war. Er war eine bedeutende Figur in den frühen Tagen der KI-Gemeinschaft – ein Mann, der dennoch zu einem ihrer größten Kritiker werden sollte.
ELIZA – Die Entstehung des Chatbots
Weizenbaum veröffentlichte das obige Transkript im Jahr 1966 in einem Fachartikel, in dem er erklärte, wie DOCTOR ELIZA, eine Variante seines Programms, funktionierte. Im Wesentlichen ahmte ELIZA die Methodik der Gesprächspsychotherapie (GPT) des US-Psychologen Carl Rogers (1902–1987) nach, bei der der Patient das Gespräch leitet.
Der Therapeut streut lediglich Fragen oder einfache Aussagen ein, um den Patienten zu weiteren Überlegungen anzuregen. Dies war ideal für einen primitiven Chatbot, der zwar in der Lage sein musste, ein Gespräch zu simulieren, dem es jedoch an der Raffinesse fehlte, um nennenswerte Mengen an eigenständigem Text zu generieren.
Dafür scannte ELIZA die Benutzereingaben nach bestimmten Schlüsselwörtern wie „ich“, „du“ oder „Mutter“. Solche Wörter lösten eine zugeordnete Regel aus, um einen Satz oder eine Frage als Antwort auszugeben. Oft geschah dies, indem einige Wörter des Nutzers in eine Antwortvorlage eingefügt wurden.
Dies erweckte den Eindruck, der Bot würde tatsächlich auf den Inhalt der Aussage reagieren. Schrieb der Nutzer „Ich bin traurig“, antwortete die Maschine vielleicht: „Wie lange sind Sie schon traurig?“ Die Bedeutung des Wortes „traurig“ war irrelevant. Der Chatbot kopierte das Wort einfach aus der Eingabe. Es funktionierte ebenso gut mit „deprimiert“, „glücklich“, „wütend“ oder jedem anderen Adjektiv. Wenn ELIZA keine Schlüsselwörter fand, generierte es eine Standardantwort wie „Ich verstehe“ oder „Bitte fahren Sie fort“.
Joseph Weizenbaum auf dem Balkon seiner Wohnung in Berlin am 11. Februar 2005. Der emeritierte Professor für Informatik am Massachusetts Institute of Technology (MIT) in Cambridge, USA, veröffentlichte 1966 mit ELIZA den ersten Chatbot der Welt.
Die Illusion funktionierte überzeugend. Weizenbaum beschrieb, dass einige Testpersonen „sehr schwer davon zu überzeugen waren“, dass ELIZA nicht menschlich sei, einschließlich seiner eigenen Sekretärin. Als er sie das System testen ließ, bat sie ihn sogar, den Raum zu verlassen, damit sie ihr Gespräch mit dem „Therapeuten“ ungestört fortführen könne.
Weizenbaum sah, dass die Versuchung, ELIZA – und anderen Maschinen – Menschlichkeit oder Persönlichkeit zuzuschreiben, nicht nur seine Sekretärin betraf. Er war auf ein Phänomen gestoßen, das später als „ELIZA-Effekt“ bekannt werden sollte: unsere Tendenz, menschliche Eigenschaften auf leblose Maschinen zu projizieren.
Ein Taschenrechner als Therapeut
Als einige Psychiater verkündeten, ELIZA könne tatsächlich für therapeutische Zwecke nützlich sein, begann er sich ernsthaft Sorgen zu machen. Weizenbaum war entsetzt, dass irgendjemand diesem Spielzeug mit echten psychischen Problemen betrauen könnte. Sein tiefes Wissen über ELIZAs blinde, algorithmische Wirkweise machte ihm klar, dass der Chatbot niemals wie ein echter Therapeut behandelt werden sollte. Es war ein System, so träge und unbewusst wie ein Taschenrechner. Es hatte nichts über das menschliche Leben zu sagen. Er hielt die Idee geradezu für „obszön“.
Die beunruhigende Offenbarung des ELIZA-Effekts begann Weizenbaum zu verunsichern und veranlasste ihn, den Rahmen für die Beziehung zwischen Mensch und Technik zu überdenken. Ein Interview von 1998 verdeutlichte die Tiefe seines Denkens. Er kritisierte die mechanistische Sicht auf das Universum, die seiner Meinung nach dem Versuch zugrunde lag, Menschen durch Maschinen zu ersetzen.
„Diese und andere Autoren propagieren an der Schwelle des Jahrtausends ein äußerst gefährliches Menschenbild“, sagte Weizenbaum gegenüber Bernhard Pörksen von der Uni Tübingen. Weiter erklärte er:
„Es [das Menschnbild] basiert auf der Vorstellung, der Mensch sei eine Maschine, die man im Prinzip und in naher Zukunft verstehen und entschlüsseln könne, um sie dann entsprechend zu korrigieren und zu verbessern. Das zentrale Dogma dieses Menschenbildes ist die Idee, dass jeder Aspekt des Lebens computable sei, dass er sich in berechenbare und formalisierbare Vorgänge auflösen ließe.“
Die Wissenschaft als Weltreligion
In dem Interview kritisierte Weizenbaum die aufkommende Theorie des Transhumanismus. Er argumentierte, sie basiere auf einem grundlegend fehlerhaften Verständnis der menschlichen Natur und der Realität als Ganzes. KI-Enthusiasten träumten von einem „Idealbild“ des Menschen, eine Menschheit 2.0, die einen evolutionären Sprung auf eine höhere Ebene darstellen sollte – und zwar auch dann, wenn das die Menschheit 1.0 überflüssig machen würde.
Weizenbaum befürchtete, dass diese Denker und Wissenschaftler mit einer Art quasi-religiösem Instinkt bereit seien, den Menschen von heute auf dem Altar des Menschen von morgen zu opfern. Er ging sogar so weit, die materialistische Wissenschaft als Weltreligion der Gegenwart zu bezeichnen:
„Für mich ist die Naturwissenschaft lediglich die heute vorherrschende Weltreligion mit Novizen (Studenten), Kirchen und Kathedralen (Universitäten), Priestern und Häretikern; auch die Kardinäle (die Nobelpreisträger) und ganz bestimmte Rituale, um das Ausmaß der eigenen Hingabe und Loyalität zu beweisen, fehlen nicht.“
Indem sie die Menschheit auf das Niveau der Maschine reduzierten und die Maschine zu einem Gott erhoben, befürchtete Weizenbaum, dass KI-Befürworter die Menschen entmenschlichten. Er verglich dies mit der Rhetorik der Nazis im Zweiten Weltkrieg. Er erklärte:
„Worauf ich hinauswill, ist die ungeheure Macht eines inhumanen Menschenbildes, das sich wie ein Virus in einer Gesellschaft auszubreiten vermag. Die wesentliche Gemeinsamkeit zwischen dem Nationalsozialismus und den Ideen eines Hans Moravec [ein KI-Theoretiker] liegt, so meine ich, in der Entwürdigung des Humanen und der Phantasie eines perfekten neuen Menschen, der um jeden Preis geschaffen werden muss.“
Eine Bedrohung für die Menschheit
Weizenbaum sprach aus Erfahrung. Er und seine Familie waren 1935 von Deutschland in die US geflohen, nachdem sie Zeuge der Handlungen der Nationalsozialisten geworden waren. Die Verehrung von Maschinen könnte seiner Ansicht nach indes noch katastrophaler sein als der Nationalsozialismus. Denn ihr Ziel sei nicht eine spezifische Rasse, sondern die gesamte Menschheit. „Am Schluss dieser Perfektionierung“, so Weizenbaum, „ist der Mensch allerdings nicht mehr da; er verschwindet“.
Weizenbaum hätte vermutlich der Ansicht von C.S. Lewis zugestimmt. Der britische Autor (u.a. „Die Chroniken von Narnia“), sagte: „Die menschliche Natur wird der letzte Teil der Natur sein, der sich dem Menschen unterwirft. […] Die Schlacht wird tatsächlich gewonnen sein. Aber wer genau wird sie gewonnen haben? […] Die endgültige Eroberung des Menschen hat sich als die Abschaffung des Menschen erwiesen.“
Für Weizenbaum war ein falsches Menschenbild gefährlicher als jede Waffe, es war oft das Motiv für den Einsatz von Waffen. Es war nicht das Schwert selbst, sondern der Arm, der das Schwert schwingt. Er sah eine akute Gefahr darin, Mensch und Maschine gleichzusetzen. Dies ignoriere die Menschenwürde und den Respekt vor dem Leben und mache menschliche Körper zu bloßen „Fleischmaschinen“. Er sagte:
„Wir können aus der Geschichte dieses Jahrhunderts, vielleicht des brutalsten Jahrhunderts, lernen, welche entscheidende Rolle das Menschenbild in den Verbrechen der Vergangenheit spielte. Und wir müssen uns daran erinnern, dass die grausamsten Verbrechen möglich wurden, weil die Täter das Menschsein der Opfer leugneten.“
Weiter sagte er: „In der NS-Zeit stellte man Juden als Ungeziefer dar – eine Metapher, die den Massenmord legitimierte. Heute gewinnt, unterstützt durch die Autorität der Naturwissenschaften, die Vorstellung an Substanz und Macht, der Mensch sei lediglich eine informationsverarbeitende Maschine, die von einem Roboter ersetzt werden könne. Es ist aus dieser Perspektive nur konsequent, dass Moravec ganz selbstverständlich von einer ‚postbiologischen Gesellschaft‘ spricht, regiert von Robotern.“
Mit zunehmender Leistungsfähigkeit der Maschinen warnte Joseph Weizenbaum, dass die eigentliche Gefahr nicht nur in ihrer Macht liege, sondern darin, wie wir uns im Vergleich zu ihnen sehen. Hier ein (weiblicher) Roboter-Croupier auf der Global Gaming Expo Asia in Macau am 12. Mai 2026.
Foto: Eduardo Leal/AFP via Getty Images
Weizenbaums Gegner gründeten ihre Hoffnung, die menschliche Natur durch künstliche Intelligenz zu überwinden, auf der Annahme, dass Menschheit, menschliches Verhalten und menschliche Erfahrung letztlich vollständig quantifiziert, verstanden und gelöst – und somit reproduziert und verbessert – werden könnten. Weizenbaum hingegen beharrte darauf, dass der Mensch und das Universum, in dem er lebt, niemals vollständig erklärbar oder „hackbar“ sein werden.
„Die Welt ist voller Geheimnisse – und das Credo der KI-Szene, dass alles berechenbar sei, verleugnet das Geheimnis des Lebendigen“, sagte er. „Es erzeugt die Illusion vollständiger Durchschaubarkeit und legt nahe, alle Aspekte unserer Existenz seien enträtselbar. Der Glaube an Wunder und Mysterium erscheint aus dieser Perspektive lediglich als eine besondere Form von Dummheit. Mich verletzt diese Behauptung totaler Berechenbarkeit zutiefst.“
Feste Überzeugungen, konsequente Warnungen
Für viele mag seine Warnung damals als die rückständigen Ängste eines verknöcherten und realitätsfernen Griesgrams geklungen haben. Heute gewinnt sie zunehmend an Relevanz.
In den Jahrzehnten nach ELIZA, insbesondere nachdem Weizenbaum 1976 sein Buch „Computer Power and Human Reason: From Judgment to Calculation“ (deutscher Titel: „Die Macht der Computer und die Ohnmacht der Vernunft“) veröffentlicht hatte, sahen ihn viele als wissenschaftlichen Außenseiter.
„Es [gibt] bestimmte Aufgaben […], zu deren Lösung keine Computer eingesetzt werden sollten, ungeachtet der Frage, ob sie zu deren Lösung eingesetzt werden können“, schrieb er in seinem Buch.
Weizenbaum wandte sich nicht erst in seinem Buch entschieden gegen die Ideen von John McCarthy und Marvin Minsky. Die beiden waren die Organisatoren des sogenannten Dartmouth-Workshops von 1956, der die Geburtsstunde der KI-Forschung markiert. Sowohl McCarthy als auch Minsky zählen zu den Pionieren der KI-Forschung, finanziert in ihren Anfängen vom US-Militär. McCarthy bezeichnete Weizenbaums Buch als „moralisierend und zusammenhangslos“, und er und seine Kollegen setzten ihre Arbeit fort.
Nun stehen wir da, mit Chatbots deren Raffinesse die von ELIZA bei Weitem übertrifft. Dadurch wird es noch einfacher, in die Falle zu tappen, diese Maschinen als gleichwertige Personen zu betrachten. Wir haben erlebt, wie Menschen behaupteten, Chatbots seien empfindungsfähig, wir haben beobachtet, wie sie sich in Chatbots verliebten, und wir haben sogar miterlebt, wie sie von Chatbots zum Selbstmord überredet wurden.
Solche Entwicklungen würden den deutschen Wissenschaftler vermutlich betrüben. Weizenbaums Tochter Miriam sagte dem Smithsonian Magazine, ihr Vater „würde die Tragik erkennen, dass sich Menschen buchstäblich zu Nullen und Einsen hingezogen fühlen, sich buchstäblich an Code klammern.“
Weizenbaum trat 1988 in den Ruhestand ein und kehrte 1996 nach Deutschland zurück, wo er ein offeneres Ohr für seine Ansichten fand. Er starb 2008.
Weizenbaum war ein in sich gekehrter, melancholischer und selbstkritischer Mann, doch von fester Überzeugung und mystischer Intuition geprägt. Er erkannte das Wunder und Geheimnis der Welt mit einer Gewissheit, die jeden mathematischen Beweis übertrifft. Es gibt mehr als Nullen und Einsen, etwas jenseits von Zahnrädern, Rädern und Atomen. Es gibt etwas in uns und unseren Erfahrungen. Und dieses etwas wird sich für immer der Vorhersage, der Automatisierung und der Berechnung entziehen.
Weizenbaum war für diese Erfahrungen sensibel.
Er sagte Pörksen: „Ich denke nicht, dass es irgendwo oben im Himmel einen alten Mann gibt, der, in Bettwäsche gehüllt, das Geschehen in der Welt beobachtet, umgeben von blonden Frauen mit Flügeln, die um ihn herumfliegen. Aber es hat doch in meinem Leben die Erfahrung des Wunders gegeben. Da ist die Erfahrung der Trauer und der Erschütterung, da ist die plötzliche Freude am Morgen, da ist die Erfahrung der Liebe zwischen Menschen. Nun, ein Wunder ist eben ein Wunder; man kann es nicht beschreiben, man müsste ein Künstler sein, um sich ihm anzunähern.“
In seinem Buch beschrieb Weizenbaum einen Moment dieser menschlichen Liebe und Verbundenheit:
„Als meine Kinder noch klein waren, stand ich zuweilen zusammen mit meiner Frau über das Bett gebeugt, in dem sie schliefen. Wir sprachen miteinander, ohne zu reden; es war die Wiederholung einer Szene, so alt wie die Menschheit selbst.“
In diesem Moment geschah etwas, das über Sprache hinausgeht, geschweige denn über Algorithmen, argumentierte Weizenbaum.
„Meine Auffassung ist in der Tat, dass es etwas Unsagbares gibt, eine lebendige Wahrheit, die sich nicht in Worte fassen lässt“, konkretisierte Weizenbaum im Interview.
Für Weizenbaum besitzt die menschliche Verbindung – Gespräch, Empathie, gemeinsame Erfahrung – eine Tiefe, die kein Algorithmus nachbilden konnte.
Foto: AndreyPopov/iStock
Diese mystische Neigung machte Weizenbaum für die einen zum Helden und für andere zur Zielscheibe des Spotts. Doch man muss seine spirituellen Intuitionen nicht teilen, um seinen gesunden Menschenverstand und seine Bedenken zu würdigen. Trotz all ihrer technischen Zauberei ist KI moralisch träge. Es fehlt ihnen das Gewissen, das wir alle in unseren Herzen erfahren. Aus diesem Grund sollten sie nicht in Positionen gebracht werden, in denen sie moralische Urteile fällen.
Oder mit Weizenbaums eigenen Worten:
„Was als elementarste Einsicht hervorgeht, ist, dass wir, da wir derzeit keine Möglichkeiten haben, Computer weise zu machen, Computern derzeit keine Aufgaben übertragen sollten, die Weisheit erfordern.“
Dies ist eine Herausforderung, über die wir in unserer Zeit gut daran täten, nachzudenken.
(Archivbild). - Foto: Alexander Koerner/Getty Images
Die Unternehmen Telekom und SAP sollen für Bund, Länder und Kommunen eine gemeinsame KI-Infrastruktur aufbauen. Das Bundesdigitalministerium erteilte ihnen dafür den Zuschlag, wie die Beteiligten am Donnerstag gemeinsam mitteilten. Zuvor hätten sich die Mitbewerber Google und Adesso aus dem Vergabeverfahren zurückgezogen, hieß es.
„Mit diesem Beschluss setzt die Bundesregierung ein starkes Signal: Deutschland macht Tempo bei der Automatisierung von Verwaltungsprozessen“, erklärte Bundesdigitalminister Karsten Wildberger (CDU).
Die geplante gemeinsame KI-Cloud solle „das Rückgrat einer souveränen, digitalen und KI-fähigen Verwaltung in Deutschland“ bilden. Er begrüßte, dass es dafür nun eine europäische Lösung geben werde.
Telekom und SAP wollen digitale Souveränität stärken
„Europa nimmt seine digitale Zukunft selbst in die Hand“, erklärte Telekom-Chef Tim Höttges. „Wer künftig in der Welt noch eine Rolle spielen will, muss im Rennen um digitale Souveränität vorne sein“, hob er hervor. Europa habe hier „enormen Nachholbedarf“.
„Digitale Souveränität und Künstliche Intelligenz gehören zusammen“, erklärte SAP-Chef Christian Klein. Genau hier setze die neue gemeinsame Initiative an. Das Ziel sei, auf sichere Weise „Innovation im öffentlichen Sektor zu beschleunigen“ und einen gemeinsamen Standard für Bund, Länder und Kommunen anzubieten.
Geplant ist, dass Behörden der unterschiedlichen staatlichen Ebenen künftig auf gemeinsamen technischen Standards und Plattformen aufbauen, statt viele Einzellösungen zu entwickeln. Die KI-Plattform soll so zur zentralen Schaltstelle für die gesamte öffentliche Verwaltung werden. Als Anwendungsbereiche wurden Dokumentenverarbeitung, Wissensmanagement, Übersetzungen, Textzusammenfassungen und die Beschleunigung von Planungs- und Genehmigungsverfahren genannt. (afp/red)
