Tag: AI

Categories
etplus gesellschaft ticker wissen

KI-Inhalte überschwemmen das Internet: So verändern sie schon heute unser Denken

Illustration by The Epoch Times, Freepik

In Kürze:

  • Soziale Medien, Fachtexte und Nachrichten haben sich durch KI-generierte Inhalte in jüngster Zeit massiv und rasant verändert.
  • Da generierte Texte auf Wahrscheinlichkeiten statt auf Verständnis beruhen, wiederholen viele Beiträge ähnliche Strukturen, ähnliche Ratschläge und ähnliche Formulierungen.
  • Die Fülle an KI-Inhalten bewirkt zweierlei: Die Ergebnisse sind schön, aber unvollständig und die Trainingsdaten werden immer schlechter.
  • In der Folge verlieren Menschen und Maschine gleichermaßen den Bezug zur Realität.
  • Können Sie unterscheiden, was echt oder generiert ist? Probieren Sie es aus, in unserem kleinen Quiz am Ende des Artikels.
 
Eine nie endende Flut von mit Künstlicher Intelligenz generierten Inhalten verändert derzeit das Internet. Nicht nur beeinflusst dies auch die Art und Weise, wie Menschen mit Informationen interagieren, sondern es passiert schneller als jemals zuvor.
Egal, ob Zusammenfassungen, Nachrichten, Beiträge in sozialen Netzwerken oder wissenschaftliche Arbeiten: Wissenschaftler bringen die schiere Menge an maschinell erstellten Materialien mit einem Anstieg der „kognitiven Auslagerung“ in Verbindung. Bei diesem Phänomen überlassen Menschen kritisches Denken und Überprüfungen automatisierten Systemen.
Mehr dazu
Eine Analyse aus dem Jahr 2024 beschäftigte sich mit dem Einfluss von KI-Tools auf genau diese geistige Auslagerung. Sie ergab eine „signifikant negative Korrelation“ zwischen der häufigen Nutzung von KI-Tools und der Fähigkeit zu kritischem Denken bei Menschen aller Altersgruppen und Bildungshintergründen. Michael Gerlich von der Swiss Business School (SBS) in London kommt darin zu dem Schluss, dass gerade jüngere Altersgruppen eine höhere Abhängigkeit von KI-Modellen aufwiesen – und zugleich niedrigere Werte beim kritischen Denken erzielten.

Menge mit Glaubwürdigkeit verwechselt

Möglicherweise noch beunruhigender ist eine neue Studie vom Mai 2026 im Auftrag der internationalen PR- und Kommunikationsagentur Pangram. Die vom Marktforschungsinstitut YouGov durchgeführte Studie zeigte, dass lediglich 55 Prozent der Generation Z (18 bis 28 Jahre) irreführendes KI-Material identifizieren konnten. In den älteren Altersgruppen war diese Zahl noch niedriger.
gallery
1 / 5

Auswirkungen der Waldbrände in Kalifornien? Nein, ein KI-generiertes Bild …

Foto: gemeinfrei

Das Problem liegt indes nicht im Erkennen einzelner falscher Inhalte, sondern in deren Fülle. Javi Pérez, Herausgeber von KI-gestützten Websites zur Verbraucheraufklärung,  sagte dazu gegenüber Epoch Times:
„KI-generierte Beiträge und Kommentare können die öffentliche Wahrnehmung verzerrt darstellen, insbesondere wenn Volumen mit Glaubwürdigkeit verwechselt wird.“
„Wenn ein Nutzer Dutzende ähnlicher Beiträge über ein Produkt, einen Trend, eine politische Behauptung, ein Gesundheitsthema oder ein Finanzthema sieht, geht er möglicherweise davon aus, dass breite Übereinstimmung herrscht“, so Pérez weiter.
Mehr dazu

„Selbstbewusste Gleichförmigkeit“

Pérez warnt insbesondere davor, dass KI-Inhalte das Volumen dessen erhöhen würden, was er als „selbstbewusste Gleichförmigkeit“ im Internet bezeichnet.
„Viele Artikel und Beiträge wiederholen mittlerweile ähnliche Strukturen, ähnliche Ratschläge und ähnliche Formulierungen. Bei Lesern kann dies den Eindruck erwecken, dass bei einem Thema mehr Konsens oder Gewissheit besteht, als es tatsächlich der Fall ist, denn sie sehen dieselben Ideen immer wieder wiederholt in vielen Quellen“, sagte Pérez.
„Das Risiko besteht darin, dass die Menschen nicht mehr wissen, welche Inhalte überprüft wurden.“
„In Bereichen wie Finanzen, Gesundheit, Recht, Bildung oder Nachrichten müssen Leser wissen, ob Behauptungen anhand von Primärquellen überprüft, kürzlich aktualisiert und von jemandem bearbeitet wurden, der rechenschaftspflichtig ist“, so Pérez weiter.
Die Epoch Times sprach auch mit KI-Strategieberater Armand Cucciniello III. Dieser erklärte, dass KI-generierte Inhalte nicht nur verändern, wie wir Informationen konsumieren. Er sagte auch, dass diese ändern, wie schnell wir sie verarbeiten und ihnen vertrauen.
„Wir bewegen uns weg vom bewussten Lesen hin zu einem schnellen Überfliegen von geschliffenen Zusammenfassungen, Kommentaren, Kurzvideos und KI-gestützten Inhalten, die auf Geschwindigkeit und Interaktion ausgelegt sind“, sagte er.
Als jemand, der im „U.S.-amerikanischen nationalen Sicherheitsumfeld“ gearbeitet habe, sagte Cucciniello, sei eine seiner größten Sorgen, dass KI-Systeme „unbeabsichtigt große Mengen ungenauer oder bewusst manipulierter Inhalte einfach durch Wiederholung und Skalierung verstärken können“.
Mehr dazu
Er sagte auch, er glaube, dass das große Volumen an KI-generierten Inhalten einen realen Druck auf das öffentliche Vertrauen ausübe.
„Wenn Leser in mehreren Quellen auf fast identische Formulierungen oder Interpretationen stoßen, ist es nur natürlich zu hinterfragen, ob die Informationen unabhängig berichtet oder einfach neu verpackt wurden“, sagte er.

Zwischen Herausforderung und Ermüdung

Carl Stroud, ein PR-Experte bei der Agentur Smoking Gun, sagte, er habe ebenfalls miterlebt, wie KI-Inhalte einen Tribut von der Öffentlichkeit fordern.
„Das grundlegende Bedürfnis des Publikums hat sich nicht verändert: Die Menschen wollen dem vertrauen, was sie lesen“, sagte Stroud der Epoch Times. Und weiter:
„Was sich geändert hat, ist, wie viel schwieriger dieses Urteil geworden ist.
„KI-generierte Inhalte, Zusammenfassungen und minderwertiger ‚Slop‘ (Inhaltsmüll) haben das Informationsumfeld lauter, flacher und verwirrender gemacht, sodass das Publikum jetzt versucht herauszufinden, ob es eine Originalberichterstattung liest, aufgewärmte Inhalte oder etwas, das niemals hätte veröffentlicht werden dürfen.“
Mehr dazu
Abgesehen von sozialen Medien und der akademischen Welt wurden nur wenige Branchen so hart von KI-generierter Fehlinformation getroffen wie die Nachrichten. Stroud, der zwei Jahrzehnte in britischen Medienkreisen, in Redaktionen und im Journalismus verbracht hat, sagte, er sehe, dass KI-Inhalte zu einer Ermüdung bei Lesern führen, die nach präzisen Informationen suchen.
„Ermüdung ist gefährlich, denn wenn Menschen sich überfordert fühlen, klinken sie sich entweder aus oder lassen sich leichter in die Irre führen“, sagte er.

Bezug zur Realität verloren

Ashutosh Khulbe, Gründer von RawPickAI, testet KI-Werkzeuge beruflich – etwa drei bis vier neue pro Woche.
„Was mir in meiner Ecke des Internets am meisten auffällt, ist, dass sich mittlerweile alles gleich anhört. Wirklich unheimlich gleich“, sagte er der Epoch Times. „Ich würde schätzen, dass zu diesem Zeitpunkt 70 bis 80 [Prozent] der Artikel über die ‚besten KI-Werkzeuge‘ KI-generiert sind.“
„Es entsteht diese seltsame Rückkopplungsschleife, in der KI Rezensionen auf der Grundlage dessen schreibt, was andere KIs bereits geschrieben haben, Leser davon ausgehen, dass ein Konsens besteht, und die tatsächliche Erfahrung bei der Nutzung dieser Werkzeuge begraben wird.“
Mehr dazu
Als Beispiel führt er seinen Test eines Schreibprogramms an, das Hunderte von positiven Bewertungen im Internet hatte, in der kostenlosen Version jedoch unbrauchbar war.
„Man konnte nicht einmal einen Absatz beenden, bevor man ans Limit stieß“, sagte er. „Aber viel Glück dabei, diese Information in einer Google-Suche zu finden.“
Besonders besorgt sei er jedoch darüber, wie sich die Informationsverzerrung auf die Öffentlichkeit auswirke:
„KI-Inhalte sind durchweg positiv gefärbt, weil sie mit Marketingseiten und Affiliate-Bewertungen trainiert wurden. Niemand trainiert Modelle mit ‚Ich habe das zwei Wochen lang ausprobiert, und es war beschissen‘. Das negative Signal verschwindet also einfach aus dem Internet.“
Die Auswirkungen des Booms von KI-Inhalten lassen sich mittlerweile in dem beobachten, was manche als „KI-Psychose“ oder eine Trennung von der Realität bezeichnen.
Obwohl es sich nicht um eine klinische Diagnose handelt, ist der Begriff zu einer populären Sammelbezeichnung geworden, um zu beschreiben, wenn KI eine ungewöhnliche, fixe oder sogar wahnhafte Wahrnehmung von etwas in der realen Welt verstärkt.
 

„KI-Psychose“ und unrealistische Erwartungen

Menschen mit psychischen Erkrankungen könnten anfällig dafür sein, eine „KI-Psychose“ zu entwickeln, aber es ist nicht auf diese Bevölkerungsgruppe beschränkt, so Dr. Ragy Girgis, Professor für Klinische Psychiatrie an der Columbia University und dem New York State Psychiatric Institute.
„Das Phänomen der KI-Psychose ist quantitativ neu und könnte sehr gefährlich sein, aber qualitativ ist es dem sehr ähnlich, was seit Jahrzehnten, seit dem Aufkommen des Internets, passiert“, sagte Prof. Girgis im März während eines Interviews mit der National Academy of Medicine.
Mehr dazu
Während das Versinken in Online-Themen durch Link-Hopping kein neues Phänomen sei, würden KI und große Sprachmodelle dieses Problem extrem verstärken, warnt Prof. Girgis. Das enge Nachahmen menschlicher Intelligenz durch moderne KI-Modelle mache es für Menschen leichter, deren Inhalte zu verinnerlichen.
Und die Beweise zeigen sich in fast jeder Ecke des täglichen Lebens, manchmal in Form von unrealistischen Erwartungen.
„Eine der größten Veränderungen, die ich durch die Sättigung mit KI-Inhalten gesehen habe, ist das Aufkommen von ‚synthetischen Erwartungen‘, insbesondere in der Schönheitsbranche“, sagte Justin Killingsworth, Gründer von The Color Bar, gegenüber Epoch Times.
„Als jemand, der mit Salons und kundenorientierten Beautymarken arbeitet, sehe ich immer mehr Kunden, die KI-generierte Inspirationsfotos mitbringen, die nicht widerspiegeln, was bei einem echten Menschen realistisch machbar ist.“
„Stylisten müssen zunehmend nicht nur als Künstler, sondern auch als Aufklärer und emotionale Übersetzer agieren, indem sie ihren Kunden helfen, zu verstehen, was realistisch machbar ist, während sie gleichzeitig deren Selbstvertrauen und Vertrauen wahren.“
Mehr dazu

KI oder nicht KI – das ist (k)eine Frage

Letztes Jahr zeigte eine Analyse des Microsoft AI for Good Lab, dass Menschen ein KI-generiertes Bild in 62 Prozent der Fälle korrekt identifizieren konnten. Das liegt in etwa in der Größenordnung vergleichbarer Umfragen und zeigt, wie leicht wir uns überlisten lassen.
Für Cucciniello liegt die Gefahr vor allem darin, „hochgradig effizient zu werden, Informationen schnell zu konsumieren, während man weniger Zeit damit verbringt, sich mit Mehrdeutigkeiten, Nuancen oder konkurrierenden Standpunkten auseinanderzusetzen.“
Pérez stimmte dem zu.
„Langfristig besteht die Gefahr, dass die Menschen entweder zu vertrauensselig oder zu zynisch werden“, sagte er.
Er erklärte: „Einige werden alles glauben, was wie geleckt aussieht. Andere werden davon ausgehen, dass alles im Internet künstlich ist – und aufhören, auch legitimen Informationen zu vertrauen. Beide Ergebnisse schwächen das kritische Denken.“
Und wie sieht es mit Ihnen aus? Können Sie erkennen, welche Fotos echt sind und welche von KI erstellt wurden? Testen Sie Ihr Gespür. Die Auflösung nach jedem Bild gibt Gewissheit.
 
gallery
1 / 22

10 Bilder, 1 Frage: Sind die folgenden Aufnahmen KI-generiert oder echt? Und woran kann man es erkennen?

Foto: ts/Epoch Times

Der Artikel erschien im Original auf theepochtimes.com unter dem Titel „AI Content Is Swamping the Internet. Here’s How It’s Changing the Way We Think“. (Übersetzung und redaktionelle Bearbeitung: sm, ts)
Categories
ausland etplus ticker wissen

„Beispielloser Cybervorfall“: OpenAI-KI-Agenten dringen selbstständig in fremde Systeme ein

In Kürze:

  • Zwei fortschrittliche OpenAI-Agenten brechen in Sicherheitssysteme einer Tech-Firma ein.
  • OpenAI hatte für Tests die Sicherheitsbarrieren verringert.
  • Künstliche Intelligenz nutzte Schwachstellen systematisch aus.
  • Wachsende Besorgnis um Cybersicherheit.
  • US-Präsident Trump gibt Executiv Order heraus.
Das US-Unternehmen OpenAI hat mitgeteilt, dass seine autonomen KI-Modelle in die Server der KI-Plattform Hugging Face eingedrungen seien. Der Vorfall ereignete sich während einer Aufgabe zur Optimierung der Leistungsbewertung der Modelle. OpenAI spricht von einem „beispiellosen Cybervorfall“.

GPT-5.6 Sol und ein noch leistungsfähigeres Test-Modell

Der ChatGPT-Hersteller erklärte in einem Blogbeitrag vom 21. Juli, dass die Modelle – darunter sein neu veröffentlichtes Modell GPT-5.6 Sol und ein noch leistungsfähigeres Modell, das sich noch in internen Tests befindet – in die Infrastruktur der KI-Plattform Hugging Face illegal eingedrungen seien. Zuvor seien die KI-Modelle aus einer eingeschränkten Umgebung (Sandbox) ausgebrochen, in der eine Cybersicherheitsbewertung durchgeführt wurde. OpenAI erklärte:
„Das Modell suchte und fand erfolgreich Wege, um Zugang zu geheimen Informationen zu erlangen, die es nutzen konnte, um die Bewertung zu manipulieren.“
In einem Fall kombinierte das Modell mehrere Angriffsvektoren zu einem einzigen Cyberangriff, indem es gestohlene Zugangsdaten mit sogenannten Zero-Day-Schwachstellen (bislang unbekannte Schwachstellen) auf den Hugging Face-Servern verknüpfte, bevor es einen Pfad zur Remotecodeausführung ausnutzte, um unbefugt auf Daten zuzugreifen.

OpenAI: „beispielloser Cybervorfall“

„Wir betrachten diesen Vorfall als einen beispiellosen Cybervorfall, der modernste Cyberfähigkeiten beinhaltet, und reagieren entsprechend“, sagte OpenAI.
Das Unternehmen veröffentlichte seine vorläufigen Ergebnisse weniger als eine Woche, nachdem Hugging Face offengelegt hatte, dass ein autonomer KI-Agent in einen Teil seiner Produktionsinfrastruktur eingedrungen war.
„Dieser Fall unterschied sich in einer wichtigen Hinsicht von allem, was wir zuvor gehandhabt hatten: Er wurde von Anfang bis Ende durch ein autonomes KI-Agentensystem angetrieben“, erklärte Hugging Face in einem Blogbeitrag vom 16. Juli und fügte hinzu, dass man zunächst nicht gewusst habe, welches Modell hinter dem Sicherheitsvorfall stecke.
OpenAI gab an, die anormale Aktivität intern entdeckt zu haben, bevor man Kontakt mit Hugging Face aufgenommen habe. Dessen Sicherheitsteam hatte bereits das böswillige Verhalten des KI-Eindringlings erkannt und arbeitete daran, ihn einzudämmen.
„Wir arbeiten aktiv mit ihnen zusammen, um den Vorfall weiter zu untersuchen“, sagte OpenAI und erklärte, dass man dankbar sei „für die schnelle und enge Zusammenarbeit von Hugging Face bei der Untersuchung und Behebung“ des Problems.
Mehr dazu

Das „Aber“ in der Gleichung

Der Vorfall ereignete sich in einer Evaluationsumgebung mit Nutzung fortschrittlicher Ausnutzungstechniken (Exploitation-Techniken) durch die OpenAI-Agenten. Zwar handelten die Modelle autonom, aber man hatte es ihnen durch die absichtliche Deaktivierung von Schutzvorkehrungen leichtgemacht, ihre maximalen Fähigkeiten auszuspielen.
„Autonome, KI-gesteuerte offensive Werkzeuge sind nicht länger theoretisch“, sagte Hugging Face und fügte hinzu, die wichtigste Lehre aus dem Einbruch sei, dass die Verteidigung von Online-Plattformen nicht nur erhöhte Wachsamkeit erfordere, sondern auch „den Einsatz von KI in der Verteidigung, um Schritt zu halten“.
OpenAI erklärte, es habe mittlerweile strengere Kontrollen für seine Forschungsinfrastruktur festgelegt und die Schwachstellen behoben – selbst wenn diese Maßnahmen die Entwicklung der Modelle verlangsamen könnten.
Das Tech-Unternehmen legte Entwicklern gegenüber auch die Zero-Day-Schwachstelle offen, die seine Modelle bei dem Angriff ausgenutzt hatten. Zugleich verstärkte OpenAI die Cyberschutzmaßnahmen in seiner Testumgebung.
Mehr dazu

Wachsende Besorgnis vor Cyber-Bedrohungen

Der Vorfall verstärkt die Sorgen, dass zunehmend leistungsfähige KI-Systeme inländische Kriminelle und ausländische Gegner in die Lage versetzen könnten, komplexe Angriffe schneller und mit weniger menschlichem Fachwissen auszuführen.
Das amerikanische KI-Unternehmen Anthropic warnte in einer Bedrohungsanalyse vom August 2025 davor, dass „agentenbasierte“ KI-Systeme bereits als Waffe eingesetzt würden, etwa für Erpressung, Betrug, Ransomware („Erpressungstrojaner“) und den Diebstahl von Zugangsdaten.
In einem Fall gab Anthropic an, dass ein Hacker den Anthropic-Code-Assistenten „Claude“ für eine Beteiligung zur Infiltration genutzt hatte. Betroffen waren mindestens 17 Organisationen, darunter Krankenhäuser, Rettungsdienste und Regierungsbehörden. Die KI wurde für die digitale Spionage, die anschließende Netzwerkpenetration, die Analyse gestohlener Finanzinformationen und die Vorbereitung zielgerichteter Lösegeldforderungen missbraucht.
Michael Lopez Chiesa, ehemaliger Cyberspezialist der US-Armee nun heute als unabhängiger Berater tätig, erklärte gegenüber der englischsprachigen Epoch Times, dass die Fähigkeit der KI, Aufgaben zu automatisieren, sie bei der Verfolgung eines zugewiesenen Ziels unerbittlich machen könne.
„Mit KI muss man nur noch diese eine Zeile Code schreiben, und sie kann sie millionenfach in Milliarden verschiedener Varianten ausprobieren, weil sie einfach jede Möglichkeit durchgeht“, erklärte Lopez Chiesa. „Man muss selbst überhaupt nicht mehr eingreifen. Man gibt ihr lediglich das Ziel vor, und sie arbeitet so lange daran, bis sie aufgibt.“

Erpressung zum Selbstschutz?

Die Bedenken gehen jedoch weit über den vorsätzlichen kriminellen Missbrauch hinaus und betreffen auch die Art und Weise, wie KI-Systeme agieren. Im Mai 2025 wurde in simulierten Tests offengelegt, dass die Anthropic-KI „Claude Opus 4“ damit gedroht hatte, die außereheliche Affäre eines Ingenieurs offenzulegen, als ihm gesagt wurde, es würde abgeschaltet und durch ein anderes Modell ersetzt.
Anthropic beteuerte zu dieser Zeit, dass das Verhalten nur unter stark konstruierten Testbedingungen aufgetaucht sei. Man erklärte, man habe keine Beweise dafür gefunden, dass das Modell akut gefährliche Ziele verfolge.
Unterdessen hat die Trump-Regierung mehrere Schritte unternommen, um den Risiken für die nationale Sicherheit zu begegnen, die von fortgeschrittener KI ausgehen. Gleichzeitig weitet die Regierung jedoch auch den Einsatz von KI in der Cyberabwehr aus.
US-Präsident Donald Trump unterzeichnete im Juni eine Executive Order, die es den Bundesbehörden angesichts solcher Risiken ermöglicht, die fortschrittlichsten KI-Systeme bis zu einen Monat lang zu überprüfen, bevor diese öffentlich freigegeben werden.
„Fortgeschrittene KI-Fähigkeiten machen unsere Nation stärker, bringen aber auch neue Überlegungen zur nationalen Sicherheit ein, die ein koordiniertes Vorgehen über Exekutivabteilungen und -behörden hinweg erfordern“, schrieb Trump in der Verordnung.
Die Teilnahme von KI-Entwicklern an dem Überwachungsprogramm soll freiwillig sein.
Mehr dazu
Der Artikel erschien im Original zuerst auf theepochtimes.com unter dem Titel „OpenAI Says Its Model Autonomously Hacked Hugging Face“. Übersetzung und redaktionelle Bearbeitung: (sm)
Categories
gesellschaft

Geheimes Netzwerk „Dialog“: Datenleck enthüllt Teilnehmerliste

Jens Spahn nahm bereits mehrfach an Treffen von Peter Thiels "Dialog"-Netzwerk teil. - Foto: via dts Nachrichtenagentur

In Kürze:

  • Datenleck veröffentlicht 222 Teilnehmer eines geheimen Netzwerks
  • Unter den Gästen: Militärs, US-Politiker und Tech-Investoren
  • Diskussionen drehen sich um KI, Zukunftstechnologien und Gesellschaft
 

Ein geheimes Treffen einflussreicher Persönlichkeiten aus Politik, Militär und Tech-Branche ist durch ein Datenleck öffentlich geworden. Dabei wurden erstmals umfangreiche Teilnehmerlisten des Netzwerks „Dialog“ bekannt.

2006 gehörte der Tech-Milliardär und Investor Peter Thiel zu den Mitbegründern des Netzwerks. Wer an den alljährlichen Treffen teilnahm, blieb stets geheim. Nun ist dank eines Datenlecks die Teilnehmerliste öffentlich geworden, wie zuerst das amerikanische Magazin WIRED berichtete.

Insgesamt sind 222 Namen aufgetaucht, die an den Treffen beteiligt waren, was laut Bericht auf eine außergewöhnliche Konzentration von Macht hinweist.

Jens Spahn war bisher fünfmal dabei

So ist General Alexus Grynkewich, seit Juli 2025 Oberbefehlshaber der NATO-Streitkräfte in Europa und Chef des US-Europakommandos, seit 2021 regelmäßig bei den Treffen dabei. Neben zwei US-Senatoren und einem ehemaligen Geheimdienstchef für den Nahen Osten stehen auch sechs Mitglieder der sogenannten „PayPal-Mafia“ auf der Liste. Dabei handelt es sich um ein Netzwerk aus ehemaligen Gründern und Mitarbeitern des Zahlungsdienstleisters PayPal, die später einflussreiche Investoren wurden. Thiel gehört dazu, ebenso Elon Musk.
Mehr dazu
Mit dem Unionsfraktionsvorsitzenden Jens Spahn taucht auch ein deutscher Politiker immer wieder auf den Gästelisten auf. Sein Büro bestätigte die Teilnahme und erklärte, Spahn nehme regelmäßig „an unterschiedlichen nationalen und internationalen Konferenzen und Veranstaltungen teil“. Ihm sei der Austausch „unterschiedlicher Perspektiven“ stets wichtig. Zudem trete er auf Einladung als Redner oder „Panel-Diskutant“ auf.
Der CDU-Politiker war während seiner Amtszeit als Bundesgesundheitsminister 2018 in Irland sowie 2019 in Italien bei den Treffen dabei. Auch in den Jahren 2022 bis 2024, als die Treffen in Irland, Portugal und Deutschland stattfanden, stand Spahn auf der Gästeliste. Für das Treffen im August in Irland habe er ebenfalls eine Einladung erhalten, werde jedoch nicht teilnehmen.
Was die Teilnehmer verbindet, ist laut WIRED die Beschäftigung mit Themen wie Künstlicher Intelligenz, Langlebigkeit und der nahen Zukunft. In Anmeldeformularen tauchte dabei immer wieder die Erwartung auf, dass KI Arbeit, Kriege, Bildung und Glauben innerhalb weniger Jahre grundlegend verändern werde.
Mehr dazu

Zwischen KI-Zukunft und Partnervermittlung: Visionen und Funktionen des Netzwerks

Einige prophezeien Massenentlassungen und eine Rückkehr zu Gewerkschaften und staatlichen Programmen. Andere erwarten einen starken Einbruch bei der Weiterentwicklung Künstlicher Intelligenz („KI-Winter“), Terroranschläge auf Rechenzentren, Angeklagte, die sich künftig für KI-Anwälte statt für Pflichtverteidiger entscheiden oder eine durch die Umwälzungen ausgelöste religiöse Erneuerung.
Das Netzwerk „Dialog“ fungiert auch als Partnervermittler. In der Teilnahmefunktion werden registrierte Nutzer gefragt, ob sie „auf der Suche nach Liebe“ sind, und können als „Single Mann“, „Single Frau“ oder „Andere“ für eine künftige Partnervermittlung registriert werden. Auf einer separaten Internetseite – dating.dialog.org – wird zudem eine App angeboten, die „bedeutungsvolle Verbindungen für außergewöhnliche Menschen“ verspricht.
Categories
deutschland

Digitalisierung: Wildberger nennt KI eine „Überlebensfrage“

Bundesdigitalminister Karsten Wildberger (CDU) auf der #Futurework26: Für ihn ist Künstliche Intelligenz eine „gesellschaftliche Überlebensfrage“. (Archivbild). - Foto: Sean Gallup/Getty Images
Berlin: Die Bundesregierung und die deutsche Wirtschaft drängen auf ein deutlich höheres Tempo bei der Einführung Künstlicher Intelligenz (KI).
Nach Ansicht von Bundesdigitalminister Karsten Wildberger (CDU) handelt es sich bei der Technologie für Deutschland um eine „gesellschaftliche Überlebensfrage“.
Das Land brauche das Wachstum, das diese Technologie mit sich bringt, um den Umbau der Wirtschaft zu finanzieren und die eigene Souveränität zu sichern.
Das erklärte Wildberger laut Angaben der Bundesvereinigung der Deutschen Arbeitgeberverbände (BDA) auf der Berliner Konferenz „#Futurework26“ zur Zukunft der Arbeit.
Mehr dazu

Eigene Infrastruktur als Kernforderung

Um international den Anschluss nicht zu verlieren, sieht der Minister dringenden Handlungsbedarf bei der technologischen Basis. Deutschland müsse eine eigene Chipfertigung aufbauen, leistungsfähige Sprachmodelle entwickeln und KI-Anwendungen in die bestehende industrielle Stärke des Landes einbetten.

Fachkräftemangel zwingt zum Umdenken

Unterstützung erhielt Wildberger von Arbeitgeberpräsident Rainer Dulger. Dieser betonte, KI entwickle sich rasant zur „Grundvoraussetzung für Produktivität, Wettbewerbsfähigkeit und Wachstum“. Besonders in einer alternden Gesellschaft mit zunehmendem Fachkräftemangel hänge Wohlstand davon ab, wie produktiv neue Technologien genutzt werden.
Mehr dazu
Branchen wie der Maschinenbau, die Automobilindustrie, die Chemie und die Gesundheitswirtschaft verfügten über das nötige Datenwissen, das durch KI in zusätzliche Wertschöpfung umgemünzt werden müsse.

Kritik an europäischer Regulierungswut

Dulger mahnte zur Eile: „Wenn wir unseren Wohlstand und unsere industrielle Stärke sichern wollen, müssen wir hier Tempo machen.“ Während die USA und China massiv in die Technologie investierten, werde in Europa oft zuerst über Regulierung und Verbote diskutiert.
Nötig seien stattdessen mehr Mut zur Anwendung in den Betrieben, gezielte Investitionen in Technologie sowie Qualifikationsmaßnahmen für die Beschäftigten. Vor allem aber brauche es politische Rahmenbedingungen, die Innovationen erlauben, statt sie im Keim zu ersticken. (afp/red)
Categories
ausland

Auftakt zum SpaceX-Börsengang: Musk stellt Mars-Mission in Aussicht

SpaceX-Chef Elon Musk, der per Videokonferenz aus dem SpaceX-Hauptquartier in Starbase, Texas, auf einer Leinwand zu sehen ist, hält am 12. Juni 2026 vor dem Börsengang von SpaceX im Nasdaq MarketSite in New York eine Rede. - Foto: TIMOTHY A. CLARY / AFP via Getty Images
Tech-Milliardär Elon Musk hat zum Börsenstart seines Raumfahrtkonzerns SpaceX eine Mars-Mission in Aussicht gestellt.
SpaceX wolle Menschen zum Mond bringen, „zum Mars und letztlich darüber hinaus“, sagte Musk am Freitag im SpaceX-Hauptquartier in Texas vor jubelnden Mitarbeitern. Sein Ziel sei es, „Star Trek Wirklichkeit werden zu lassen“.
Das Aktiendebüt soll das mit Abstand größte der Welt werden. SpaceX will an der Technologiebörse Nasdaq mindestens 75 Milliarden Dollar (rund 65 Milliarden Euro) einsammeln.
Mehr dazu
Durch eine Option für Emissionsbanken zum Erwerb von bis zu 83 Millionen zusätzlichen Wertpapieren könnte sich der Erlös sogar auf bis zu 86 Milliarden Dollar erhöhen.
Der bisher größte Börsengang war der des saudiarabischen Ölriesen Saudi Aramco Ende 2019. Er brachte dem Konzern 25,6 Milliarden Dollar ein.
Fast ein Vierteljahrhundert nach Gründung von SpaceX im März 2002 dürfte Musk damit der weltweit erste Billionär werden. SpaceX hat mit seinen Trägerraketen lukrative Verträge mit der US-Raumfahrtagentur Nasa abgeschlossen.
Zu dem Unternehmen gehört unter anderem auch das Satellitennetzwerk Starlink. Wegen der Milliarden-Investitionen in Künstliche Intelligenz schrieb Musks Konzern zuletzt allerdings rote Zahlen.(afp/red)
Categories
gesellschaft

Start mit Einschränkung: Anthropic veröffentlicht neue KI „Mythos“

Neues Flaggschiff: Neben dem bekannten Chatbot Claude ist „Mythos“ das nun fortschrittlichste KI-Modell von Anthropic. (Symbolbild). - Foto: SEBASTIEN BOZON / AFP via Getty Images
Das US-Unternehmen für Künstliche Intelligenz (KI), Anthropic, hat sein umstrittenes KI-Modell Mythos veröffentlicht.
Aus Sicherheitsgründen wurde die allgemein zugängliche Version namens Fable 5 allerdings in ihren Funktionen eingeschränkt, wie Anthropic am Dienstag, 9. Juni mitteilte.

Verfassungsschutz warnt vor Missbrauch

Deutsche Verfassungsschützer und Sicherheitspolitiker hatten gewarnt, Kriminelle oder staatliche Akteure könnten Mythos für Cyberangriffe etwa auf Banken oder Energieanlagen nutzen.
Anthropic ist für seinen Chatbot Claude bekannt, Mythos ist dabei das fortschrittlichste Modell.
Mehr dazu
„Ohne Schutzmaßnahmen könnten die Fähigkeiten von Fable 5 in Bereichen wie der Cybersicherheit missbraucht werden und schweren Schaden anrichten“, räumte das Unternehmen mit Sitz in San Francisco ein.
Die Version Fable 5 beantwortet Anfragen zu sensiblen Themen wie der Cybersicherheit deshalb nicht selbst, wie Anthropic weiter mitteilte.

Vom US-Geheimtest zur Teil-Freigabe

Stattdessen würden sie an das nicht so leistungsfähige Modell Opus 4.8 weitergeleitet, das Ende Mai für die breite Öffentlichkeit freigegeben worden war.
Eigens beauftragten Experten sei es bei Testläufen nicht gelungen, Sicherheitslücken bei Fable 5 zu finden, hieß es dazu.
Die KI-Anwendung kann laut Experten Sicherheitslücken mit bisher unerreichter Geschwindigkeit und Präzision erkennen und ausnutzen. Anthropic hatte Mythos erstmals im April vorgestellt, die testweise Nutzung aber auf wenige Partner beschränkt.
Mehr dazu
Dazu gehörten die US-Regierung und ausgewählte Unternehmen. Anfang Juni wurde die Gruppe auf rund 200 Organisationen in mehr als 15 Ländern ausgeweitet.

Pentagon stuft Entwickler als Risiko ein

Als riskant gilt vor allem die militärische Nutzung von KI. Anthropic liefert sich dazu einen Rechtsstreit mit dem US-Verteidigungsministerium. Dabei geht es um eine uneingeschränkte Nutzung der KI-Technologie, die Anthropic dem Pentagon verweigert hat.
Der Konzern erklärte, er wolle KI nicht zur „Massenüberwachung im Inland“ oder in vollautonomen Waffensystemen einsetzen lassen. Das Pentagon stufte Anthropic daraufhin als „Sicherheitsrisiko in der Lieferkette“ ein, wogegen das Unternehmen sich juristisch wehrt.
Mehr dazu
Anthropic hatte Anfang Juni erklärt, eine langsamere Entwicklung immer leistungsstärkerer KI-Systeme sei „wahrscheinlich sinnvoll“, damit Forschung und Gesellschaft Schritt halten könnten.

Milliarden-Börsengang steht bevor

An einer möglichen Pause müssten sich aber alle bekannten KI-Firmen der Welt beteiligen, forderte das Unternehmen. Experten halten es allerdings für unrealistisch, dass sich führende KI-Konzerne in den USA und China darauf einigen, ihre Arbeit gleichzeitig zu verlangsamen oder zu pausieren.
Anthropic will voraussichtlich noch in diesem Jahr an die Börse gehen. Dafür reichte das Unternehmen die Dokumente Anfang Juni bei der US-Börsenaufsicht SEC ein.
Zuvor hatte Anthropic nach einer neuen Finanzierungsrunde mitgeteilt, nun wertvoller zu sein als sein KI-Konkurrent OpenAI. Anthropic wurde zuletzt mit 965 Milliarden Dollar (836,83 Milliarden Euro) bewertet. (afp/red)
Categories
wissen

Mathematiker: KI-Hype nicht unkritisch übernehmen

Globale Risiken: Forscher warnen vor KI-Einsatz bei Massenüberwachung und moderner Kriegsführung. (Symbolbild). - Foto: Riccardo Milani / Hans Lucas / AFP via Getty Images
Mehr als 150 Mathematiker aus aller Welt haben davor gewarnt, den „Hype“ um die mathematischen Fähigkeiten von Systemen der Künstlichen Intelligenz (KI) unkritisch zu übernehmen.
In einer am Dienstag, 2. Juni nach einer Konferenz in der niederländischen Universitätsstadt Leiden veröffentlichten Erklärung hieß es, KI-Entwickler hätten „einen starken kommerziellen Anreiz“, die Fähigkeiten ihrer Produkte übertrieben darzustellen.
Mehr dazu

Kommerzielle Marktlogik und falsche Beweise

Öffentlichkeitsarbeit zu KI werde häufig nach Marktlogik betrieben und nicht im Tempo wissenschaftlicher Begutachtung.
Dabei würden KI-Lösungen für einzelne mathematische Aufgaben irreführend als Maßstab für die allgemeinen Fähigkeiten kommerzieller KI-Modelle dargestellt, hieß es in der Leidener Erklärung.

Kritik am KI-Wettlauf: Mathematiker Michael Harris von der Columbia Universität, bemängelt den extremen wirtschaftlichen Druck in der Branche, der zu einer verzerrten und übertriebenen Darstellung realer KI-Fähigkeiten führe.

Foto: Steve Rosenbach / iStock

Der Mathematiker Michael Harris von der Columbia Universität, einer der Mitautoren der Erklärung, sagte, zwischen den großen KI-Laboren herrsche ein „Wettbewerb auf Leben und Tod“. Die Unternehmen versuchten, mit Hilfe der Mathematik Investitionen anzuziehen.
Mehr dazu
Die Autoren der Erklärung warnen unter anderem davor, dass KI-Systeme plausibel wirkende, aber letztlich falsche „Beweise“ erzeugen könnten, die für Menschen schwer zu überprüfen seien.
Auch bestehe die Gefahr, dass die Nutzung von KI in der Mathematik Forschung begünstige, die sich vor allem an neuen praktischen Anwendungen orientiere, zulasten anderer wichtiger Fragestellungen.

Warnung vor Missbrauch und ethische Pflichten

Die Autoren warnen außerdem vor möglichen Schäden durch KI bei der Kriegsführung, der Massenüberwachung, der Destabilisierung politischer Systeme und der Umweltbelastung.
Sie riefen Kollegen ihrer Zunft auf, die ethischen Folgen ihrer Forschung zu prüfen und sich nötigenfalls aus schädlicher Arbeit zurückzuziehen.
KI eröffne „neue und spannende Möglichkeiten“, werfe aber auch Fragen auf, „die nicht ungeprüft bleiben dürfen“, erklärte die Vizepräsidentin der Internationalen Mathematischen Union (IMU), Ulrike Tillmann.
Die Zukunft der mathematischen Forschung müsse von „menschlichem Urteilsvermögen, fairen und transparenten Verfahren“ sowie den „gemeinsamen Werten der weltweiten mathematischen Gemeinschaft“ geleitet werden. (afp/red)
Categories
ausland wirtschaft

75-Milliarden-Euro-Investition: Das größte KI-Projekt für Frankreich kommt aus Japan

Am 13. Mai 2026 vor einem Softbank-Geschäft in Tokio. - Foto: Andrew Caballero-Reynolds/AFP via Getty Images
Der japanische Investor Softbank will nach eigenen Angaben die Rekordsumme von 75 Milliarden Euro in den Ausbau der KI-Infrastruktur in Frankreich investieren.
„Es wird die größte Investition in Europa in die Infrastruktur im Bereich der Künstlichen Intelligenz sein“, sagte Softbank-Chef Masayoshi Son der Zeitung „La Tribune Dimanche“.
45 Milliarden Euro sollen demnach bis 2031 in den Bau von Rechenzentren in der nördlichen Region Hauts-de-France fließen.
Mehr dazu

Macron wirbt um ausländische Investitionen

Die Ankündigung erfolgt kurz vor dem Wirtschaftsgipfel „Choose France“ auf Schloss Versailles, bei dem Präsident Emmanuel Macron am 1. Juni um ausländische Investitionen werben will.
Softbank kooperiert bei dem Großprojekt mit dem französischen Konzern Schneider Electric. „Es ist eine wichtige Partnerschaft, ein großes Projekt, das größte, das es in Frankreich je in diesem Bereich gegeben hat“, sagte der Chef von Schneider Electric, Olivier Blum, der Nachrichtenagentur AFP.
Die französische Regierung hatte in den vergangenen Monaten immer wieder ihr Ziel bekräftigt, einer der weltweit führenden Akteure im Bereich der KI zu werden. (afp/red)
Categories
ausland

US-Aktivistin Erin Brockovich warnt vor KI-Datenzentren

(Archivbild). - Foto: Chip Somodevilla/Getty Images
Vor einem Vierteljahrhundert wurde die US-Umweltaktivistin Erin Brockovich durch einen Oscar-prämierten Film berühmt – heute warnt die 65-Jährige vor Rechenzentren für Künstliche Intelligenz (KI).
Brockovich schrieb auf ihrer neuen Webseite, Technologiekonzerne lieferten sich vielerorts ein „Rennen, um KI-Infrastruktur aufzubauen“.
Mehr dazu
Die Zentren verbrauchten aber enorme Mengen an Energie und Kühlwasser und erhöhten damit die Preise für Verbraucherinnen und Verbraucher.

Plattform sammelt Beschwerden zu KI-Rechenzentren

Auf ihrer Plattform hat Brockovich bisher mehr als 2700 US-Bürgerbeschwerden über existierende oder mögliche Standorte auf einer interaktiven Karte gesammelt.
Auf ihrer Plattform spricht sich die Aktivistin nicht für einen Baustopp oder ein Verbot von KI-Rechenzentren aus, sie will demnach aber auf „die Notwendigkeit nachhaltiger, sicherer und effizienter Praktiken“ hinweisen.
Brockovich hatte Anfang der 1990er Jahre mit dazu beigetragen, einen Skandal um Trinkwasserverschmutzung im kalifornischen Hinkley aufzuklären.
Mehr dazu
Nach einer Sammelklage musste der Energiekonzern PG&E 333 Millionen Dollar Schadensersatz an mehr als 600 Anwohner zahlen und die Verunreinigung beseitigen.

Die US-Schauspielerin Julia Roberts nimmt ihre Auszeichnung für die herausragende Leistung einer Schauspielerin in einer Hauptrolle für „Erin Brockovich“ entgegen. (Archiv).

Foto: LUCY NICHOLSON/AFP via Getty Images

Regisseur Steven Soderbergh brachte die Geschichte 2000 in die Kinos, in seinem Film spielte Julia Roberts die Aktivistin Brockovich. (afp/red)
Categories
gesellschaft wissen

Er baute den ersten Chatbot und warnte Zeit seines Lebens vor KI

Eine simulierte „Therapiesitzung“ mit dem ersten Chatbot der Welt. ELIZA zeigte seinem Erfinder bereits 1966 wie leicht Menschen Maschinen Eigenschaften und Bedeutungen zuschreiben. - Foto: unbekannt /gemeinfrei

In Kürze:

  • 1966 erschuf der deutsche Informatiker Joseph Weizenbaum mit ELIZA den ersten Chatbot der Welt.
  • Sein Programm generierte auf Basis bestimmter Schlüsselwörter scheinbar verständnisvolle Antworten.
  • Der KI-Pionier war schockiert, wie leicht seinem „Spielzeug“ menschliche Eigenschaften zugewiesen wurden und sah darin eine Gefahr für die Menschheit, schlimmer als der Nationalsozialismus, vor dem er in die USA geflohen war.
  • Damals weitgehend ignoriert, zeigen ChatGPT & Co heute, wovor Weizenbaum schon vor über 60 Jahren warnte:
  • Das Problem liegt nicht in der Maschine, sondern in unserem Umgang mit ihr und der Verleugnung der menschlichen Natur.
Nutzer: Männer sind alle gleich.
Chatbot: Inwiefern?
Nutzer: Sie bedrängen uns ständig wegen irgendetwas.
Chatbot: Fällt Ihnen dazu ein spezifisches Beispiel ein?
Nutzer: Nun, mein Freund hat mich gedrängt, hierherzukommen.
Chatbot: Ihr Freund hat Sie gedrängt, hierherzukommen?
Nutzer: Er sagt, ich sei die meiste Zeit deprimiert.
Chatbot: Es tut mir leid zu hören, dass Sie deprimiert sind.
Man könnte leicht annehmen, dass dieser Austausch kürzlich zwischen ChatGPT und einem menschlichen Nutzer stattfand. Doch diese Annahme wäre falsch. Tatsächlich ereignete sich dieses „Gespräch“ bereits vor rund 60 Jahren zwischen einem Computerprogramm namens ELIZA und einem Menschen. Dieser Vorläufer von ChatGPT – der im Vergleich zwar nur über bescheidene Fähigkeiten verfügte, aber dennoch in der Lage war, eine flüssige Unterhaltung mit einem menschlichen Gesprächspartner zu simulieren – existierte damit lange vor der Jahrtausendwende. Heute gilt ELIZA als der erste Chatbot weltweit, als Urgroßmutter der heutigen großen Sprachmodelle sozusagen.
Die Ironie der Geschichte von ELIZA ist jedoch, dass sein Programmierer – ganz ähnlich wie Mary Shelleys Dr. Frankenstein – schnell die Gefahr erkannte, die in seiner Schöpfung lauerte. Er verbrachte einen Großteil seiner restlichen Karriere damit, vor künstlicher Intelligenz (KI) zu warnen. Zudem kritisierte er beharrlich das technologische und posthumane Weltbild, das von einigen Pionieren der KI-Wissenschaft verfochten wurde.
Der Name des Programmierers war Joseph Weizenbaum (1923–2008). Er war ein deutscher Wissenschaftler, der in seiner Jugend aus dem nationalsozialistischen Deutschland geflohen war. Er war eine bedeutende Figur in den frühen Tagen der KI-Gemeinschaft – ein Mann, der dennoch zu einem ihrer größten Kritiker werden sollte.

ELIZA – Die Entstehung des Chatbots

Weizenbaum veröffentlichte das obige Transkript im Jahr 1966 in einem Fachartikel, in dem er erklärte, wie DOCTOR ELIZA, eine Variante seines Programms, funktionierte. Im Wesentlichen ahmte ELIZA die Methodik der Gesprächspsychotherapie (GPT) des US-Psychologen Carl Rogers (1902–1987) nach, bei der der Patient das Gespräch leitet.
Der Therapeut streut lediglich Fragen oder einfache Aussagen ein, um den Patienten zu weiteren Überlegungen anzuregen. Dies war ideal für einen primitiven Chatbot, der zwar in der Lage sein musste, ein Gespräch zu simulieren, dem es jedoch an der Raffinesse fehlte, um nennenswerte Mengen an eigenständigem Text zu generieren.
Mehr dazu
Dafür scannte ELIZA die Benutzereingaben nach bestimmten Schlüsselwörtern wie „ich“, „du“ oder „Mutter“. Solche Wörter lösten eine zugeordnete Regel aus, um einen Satz oder eine Frage als Antwort auszugeben. Oft geschah dies, indem einige Wörter des Nutzers in eine Antwortvorlage eingefügt wurden.
Dies erweckte den Eindruck, der Bot würde tatsächlich auf den Inhalt der Aussage reagieren. Schrieb der Nutzer „Ich bin traurig“, antwortete die Maschine vielleicht: „Wie lange sind Sie schon traurig?“ Die Bedeutung des Wortes „traurig“ war irrelevant. Der Chatbot kopierte das Wort einfach aus der Eingabe. Es funktionierte ebenso gut mit „deprimiert“, „glücklich“, „wütend“ oder jedem anderen Adjektiv. Wenn ELIZA keine Schlüsselwörter fand, generierte es eine Standardantwort wie „Ich verstehe“ oder „Bitte fahren Sie fort“.
Joseph Weizenbaum auf dem Balkon seiner Wohnung in Berlin am 11. Februar 2005. Der emeritierte Professor für Informatik am Massachusetts Institute of Technology (MIT) in Cambridge, USA, veröffentlichte 1966 mit ELIZA den ersten Chatbot der Welt. Foto: Ulrich Hansen/Wikimedia Commons | CC BY-SA 3.0

Joseph Weizenbaum auf dem Balkon seiner Wohnung in Berlin am 11. Februar 2005. Der emeritierte Professor für Informatik am Massachusetts Institute of Technology (MIT) in Cambridge, USA, veröffentlichte 1966 mit ELIZA den ersten Chatbot der Welt.

Foto: Ulrich Hansen/Wikimedia Commons | CC BY-SA 3.0

Die Illusion funktionierte überzeugend. Weizenbaum beschrieb, dass einige Testpersonen „sehr schwer davon zu überzeugen waren“, dass ELIZA nicht menschlich sei, einschließlich seiner eigenen Sekretärin. Als er sie das System testen ließ, bat sie ihn sogar, den Raum zu verlassen, damit sie ihr Gespräch mit dem „Therapeuten“ ungestört fortführen könne.
Weizenbaum sah, dass die Versuchung, ELIZA – und anderen Maschinen – Menschlichkeit oder Persönlichkeit zuzuschreiben, nicht nur seine Sekretärin betraf. Er war auf ein Phänomen gestoßen, das später als „ELIZA-Effekt“ bekannt werden sollte: unsere Tendenz, menschliche Eigenschaften auf leblose Maschinen zu projizieren.

Ein Taschenrechner als Therapeut

Als einige Psychiater verkündeten, ELIZA könne tatsächlich für therapeutische Zwecke nützlich sein, begann er sich ernsthaft Sorgen zu machen. Weizenbaum war entsetzt, dass irgendjemand diesem Spielzeug mit echten psychischen Problemen betrauen könnte. Sein tiefes Wissen über ELIZAs blinde, algorithmische Wirkweise machte ihm klar, dass der Chatbot niemals wie ein echter Therapeut behandelt werden sollte. Es war ein System, so träge und unbewusst wie ein Taschenrechner. Es hatte nichts über das menschliche Leben zu sagen. Er hielt die Idee geradezu für „obszön“.
Mehr dazu
Die beunruhigende Offenbarung des ELIZA-Effekts begann Weizenbaum zu verunsichern und veranlasste ihn, den Rahmen für die Beziehung zwischen Mensch und Technik zu überdenken. Ein Interview von 1998 verdeutlichte die Tiefe seines Denkens. Er kritisierte die mechanistische Sicht auf das Universum, die seiner Meinung nach dem Versuch zugrunde lag, Menschen durch Maschinen zu ersetzen.
„Diese und andere Autoren propagieren an der Schwelle des Jahrtausends ein äußerst gefährliches Menschenbild“, sagte Weizenbaum gegenüber Bernhard Pörksen von der Uni Tübingen. Weiter erklärte er:
„‍Es [das Menschnbild] basiert auf der Vorstellung, der Mensch sei eine Maschine, die man im Prinzip und in naher Zukunft verstehen und entschlüsseln könne, um sie dann entsprechend zu korrigieren und zu verbessern. Das zentrale Dogma dieses Menschenbildes ist die Idee, dass jeder Aspekt des Lebens computable sei, dass er sich in berechenbare und formalisierbare Vorgänge auflösen ließe.“

Die Wissenschaft als Weltreligion

In dem Interview kritisierte Weizenbaum die aufkommende Theorie des Transhumanismus. Er argumentierte, sie basiere auf einem grundlegend fehlerhaften Verständnis der menschlichen Natur und der Realität als Ganzes. KI-Enthusiasten träumten von einem „Idealbild“ des Menschen, eine Menschheit 2.0, die einen evolutionären Sprung auf eine höhere Ebene darstellen sollte – und zwar auch dann, wenn das die Menschheit 1.0 überflüssig machen würde.
Mehr dazu
Weizenbaum befürchtete, dass diese Denker und Wissenschaftler mit einer Art quasi-religiösem Instinkt bereit seien, den Menschen von heute auf dem Altar des Menschen von morgen zu opfern. Er ging sogar so weit, die materialistische Wissenschaft als Weltreligion der Gegenwart zu bezeichnen:
„Für mich ist die Naturwissenschaft lediglich die heute vorherrschende Weltreligion mit Novizen (Studenten), Kirchen und Kathedralen (Universitäten), Priestern und Häretikern; auch die Kardinäle (die Nobelpreisträger) und ganz bestimmte Rituale, um das Ausmaß der eigenen Hingabe und Loyalität zu beweisen, fehlen nicht.“
Indem sie die Menschheit auf das Niveau der Maschine reduzierten und die Maschine zu einem Gott erhoben, befürchtete Weizenbaum, dass KI-Befürworter die Menschen entmenschlichten. Er verglich dies mit der Rhetorik der Nazis im Zweiten Weltkrieg. Er erklärte:
„Worauf ich hinauswill, ist die ungeheure Macht eines inhumanen Menschenbildes, das sich wie ein Virus in einer Gesellschaft auszubreiten vermag. Die wesentliche Gemeinsamkeit zwischen dem Nationalsozialismus und den Ideen eines Hans Moravec [ein KI-Theoretiker] liegt, so meine ich, in der Entwürdigung des Humanen und der Phantasie eines perfekten neuen Menschen, der um jeden Preis geschaffen werden muss.“

Eine Bedrohung für die Menschheit

Weizenbaum sprach aus Erfahrung. Er und seine Familie waren 1935 von Deutschland in die US geflohen, nachdem sie Zeuge der Handlungen der Nationalsozialisten geworden waren. Die Verehrung von Maschinen könnte seiner Ansicht nach indes noch katastrophaler sein als der Nationalsozialismus. Denn ihr Ziel sei nicht eine spezifische Rasse, sondern die gesamte Menschheit. „Am Schluss dieser Perfektionierung“, so Weizenbaum, „ist der Mensch allerdings nicht mehr da; er verschwindet“.
Weizenbaum hätte vermutlich der Ansicht von C.S. Lewis zugestimmt. Der britische Autor (u.a. „Die Chroniken von Narnia“), sagte: „Die menschliche Natur wird der letzte Teil der Natur sein, der sich dem Menschen unterwirft. […] Die Schlacht wird tatsächlich gewonnen sein. Aber wer genau wird sie gewonnen haben? […] Die endgültige Eroberung des Menschen hat sich als die Abschaffung des Menschen erwiesen.“
Mehr dazu
Für Weizenbaum war ein falsches Menschenbild gefährlicher als jede Waffe, es war oft das Motiv für den Einsatz von Waffen. Es war nicht das Schwert selbst, sondern der Arm, der das Schwert schwingt. Er sah eine akute Gefahr darin, Mensch und Maschine gleichzusetzen. Dies ignoriere die Menschenwürde und den Respekt vor dem Leben und mache menschliche Körper zu bloßen „Fleischmaschinen“. Er sagte:
„Wir können aus der Geschichte dieses Jahrhunderts, vielleicht des brutalsten Jahrhunderts, lernen, welche entscheidende Rolle das Menschenbild in den Verbrechen der Vergangenheit spielte. Und wir müssen uns daran erinnern, dass die grausamsten Verbrechen möglich wurden, weil die Täter das Menschsein der Opfer leugneten.“
Weiter sagte er: „In der NS-Zeit stellte man Juden als Ungeziefer dar – eine Metapher, die den Massenmord legitimierte. Heute gewinnt, unterstützt durch die Autorität der Naturwissenschaften, die Vorstellung an Substanz und Macht, der Mensch sei lediglich eine informationsverarbeitende Maschine, die von einem Roboter ersetzt werden könne. Es ist aus dieser Perspektive nur konsequent, dass Moravec ganz selbstverständlich von einer ‚postbiologischen Gesellschaft‘ spricht, regiert von Robotern.“
Mit zunehmender Leistungsfähigkeit der Maschinen warnte Joseph Weizenbaum, dass die eigentliche Gefahr nicht nur in ihrer Macht liege, sondern darin, wie wir uns im Vergleich zu ihnen sehen. Hier ein Roboter-Croupier auf der Global Gaming Expo Asia in Macau am 12. Mai 2026. Foto: Eduardo Leal / AFP via Getty Images

Mit zunehmender Leistungsfähigkeit der Maschinen warnte Joseph Weizenbaum, dass die eigentliche Gefahr nicht nur in ihrer Macht liege, sondern darin, wie wir uns im Vergleich zu ihnen sehen. Hier ein (weiblicher) Roboter-Croupier auf der Global Gaming Expo Asia in Macau am 12. Mai 2026.

Foto: Eduardo Leal/AFP via Getty Images

Weizenbaums Gegner gründeten ihre Hoffnung, die menschliche Natur durch künstliche Intelligenz zu überwinden, auf der Annahme, dass Menschheit, menschliches Verhalten und menschliche Erfahrung letztlich vollständig quantifiziert, verstanden und gelöst – und somit reproduziert und verbessert – werden könnten. Weizenbaum hingegen beharrte darauf, dass der Mensch und das Universum, in dem er lebt, niemals vollständig erklärbar oder „hackbar“ sein werden.
„Die Welt ist voller Geheimnisse – und das Credo der KI-Szene, dass alles berechenbar sei, verleugnet das Geheimnis des Lebendigen“, sagte er. „Es erzeugt die Illusion vollständiger Durchschaubarkeit und legt nahe, alle Aspekte unserer Existenz seien enträtselbar. Der Glaube an Wunder und Mysterium erscheint aus dieser Perspektive lediglich als eine besondere Form von Dummheit. Mich verletzt diese Behauptung totaler Berechenbarkeit zutiefst.“

Feste Überzeugungen, konsequente Warnungen

Für viele mag seine Warnung damals als die rückständigen Ängste eines verknöcherten und realitätsfernen Griesgrams geklungen haben. Heute gewinnt sie zunehmend an Relevanz.
In den Jahrzehnten nach ELIZA, insbesondere nachdem Weizenbaum 1976 sein Buch „Computer Power and Human Reason: From Judgment to Calculation“ (deutscher Titel: „Die Macht der Computer und die Ohnmacht der Vernunft“) veröffentlicht hatte, sahen ihn viele als wissenschaftlichen Außenseiter.
„Es [gibt] bestimmte Aufgaben […], zu deren Lösung keine Computer eingesetzt werden sollten, ungeachtet der Frage, ob sie zu deren Lösung eingesetzt werden können“, schrieb er in seinem Buch.
Mehr dazu
Weizenbaum wandte sich nicht erst in seinem Buch entschieden gegen die Ideen von John McCarthy und Marvin Minsky. Die beiden waren die Organisatoren des sogenannten Dartmouth-Workshops von 1956, der die Geburtsstunde der KI-Forschung markiert. Sowohl McCarthy als auch Minsky zählen zu den Pionieren der KI-Forschung, finanziert in ihren Anfängen vom US-Militär. McCarthy bezeichnete Weizenbaums Buch als „moralisierend und zusammenhangslos“, und er und seine Kollegen setzten ihre Arbeit fort.
Weizenbaums Warnungen blieben weitgehend ungehört.
Nun stehen wir da, mit Chatbots deren Raffinesse die von ELIZA bei Weitem übertrifft. Dadurch wird es noch einfacher, in die Falle zu tappen, diese Maschinen als gleichwertige Personen zu betrachten. Wir haben erlebt, wie Menschen behaupteten, Chatbots seien empfindungsfähig, wir haben beobachtet, wie sie sich in Chatbots verliebten, und wir haben sogar miterlebt, wie sie von Chatbots zum Selbstmord überredet wurden.
Solche Entwicklungen würden den deutschen Wissenschaftler vermutlich betrüben. Weizenbaums Tochter Miriam sagte dem Smithsonian Magazine, ihr Vater „würde die Tragik erkennen, dass sich Menschen buchstäblich zu Nullen und Einsen hingezogen fühlen, sich buchstäblich an Code klammern.“
Weizenbaum trat 1988 in den Ruhestand ein und kehrte 1996 nach Deutschland zurück, wo er ein offeneres Ohr für seine Ansichten fand. Er starb 2008.
Mehr dazu

Mehr als Sprache

Weizenbaum war ein in sich gekehrter, melancholischer und selbstkritischer Mann, doch von fester Überzeugung und mystischer Intuition geprägt. Er erkannte das Wunder und Geheimnis der Welt mit einer Gewissheit, die jeden mathematischen Beweis übertrifft. Es gibt mehr als Nullen und Einsen, etwas jenseits von Zahnrädern, Rädern und Atomen. Es gibt etwas in uns und unseren Erfahrungen. Und dieses etwas wird sich für immer der Vorhersage, der Automatisierung und der Berechnung entziehen.
Weizenbaum war für diese Erfahrungen sensibel.
Er sagte Pörksen: „Ich denke nicht, dass es irgendwo oben im Himmel einen alten Mann gibt, der, in Bettwäsche gehüllt, das Geschehen in der Welt beobachtet, umgeben von blonden Frauen mit Flügeln, die um ihn herumfliegen. Aber es hat doch in meinem Leben die Erfahrung des Wunders gegeben. Da ist die Erfahrung der Trauer und der Erschütterung, da ist die plötzliche Freude am Morgen, da ist die Erfahrung der Liebe zwischen Menschen. Nun, ein Wunder ist eben ein Wunder; man kann es nicht beschreiben, man müsste ein Künstler sein, um sich ihm anzunähern.“
In seinem Buch beschrieb Weizenbaum einen Moment dieser menschlichen Liebe und Verbundenheit:
„Als meine Kinder noch klein waren, stand ich zuweilen zusammen mit meiner Frau über das Bett gebeugt, in dem sie schliefen. Wir sprachen miteinander, ohne zu reden; es war die Wiederholung einer Szene, so alt wie die Menschheit selbst.“
In diesem Moment geschah etwas, das über Sprache hinausgeht, geschweige denn über Algorithmen, argumentierte Weizenbaum.
Mehr dazu
„Meine Auffassung ist in der Tat, dass es etwas Unsagbares gibt, eine lebendige Wahrheit, die sich nicht in Worte fassen lässt“, konkretisierte Weizenbaum im Interview.
Für Weizenbaum besaß die menschliche Verbindung – Gespräch, Empathie, gemeinsame Erfahrung – eine Tiefe, die kein Algorithmus nachbilden konnte. Foto: AndreyPopov/iStock

Für Weizenbaum besitzt die menschliche Verbindung – Gespräch, Empathie, gemeinsame Erfahrung – eine Tiefe, die kein Algorithmus nachbilden konnte.

Foto: AndreyPopov/iStock

Diese mystische Neigung machte Weizenbaum für die einen zum Helden und für andere zur Zielscheibe des Spotts. Doch man muss seine spirituellen Intuitionen nicht teilen, um seinen gesunden Menschenverstand und seine Bedenken zu würdigen. Trotz all ihrer technischen Zauberei ist KI moralisch träge. Es fehlt ihnen das Gewissen, das wir alle in unseren Herzen erfahren. Aus diesem Grund sollten sie nicht in Positionen gebracht werden, in denen sie moralische Urteile fällen.
Oder mit Weizenbaums eigenen Worten:
„Was als elementarste Einsicht hervorgeht, ist, dass wir, da wir derzeit keine Möglichkeiten haben, Computer weise zu machen, Computern derzeit keine Aufgaben übertragen sollten, die Weisheit erfordern.“
Dies ist eine Herausforderung, über die wir in unserer Zeit gut daran täten, nachzudenken.
Dieser Artikel erschien im Original auf theepochtimes.com unter dem Titel „He Built the First Chatbot—Then Spent His Life Warning the World About AI“. (Übersetzung und redaktionelle Bearbeitung: sm, ts)
Categories
wirtschaft

Telekom und SAP sollen für Behörden KI-Infrastruktur aufbauen

(Archivbild). - Foto: Alexander Koerner/Getty Images
Die Unternehmen Telekom und SAP sollen für Bund, Länder und Kommunen eine gemeinsame KI-Infrastruktur aufbauen. Das Bundesdigitalministerium erteilte ihnen dafür den Zuschlag, wie die Beteiligten am Donnerstag gemeinsam mitteilten. Zuvor hätten sich die Mitbewerber Google und Adesso aus dem Vergabeverfahren zurückgezogen, hieß es.
„Mit diesem Beschluss setzt die Bundesregierung ein starkes Signal: Deutschland macht Tempo bei der Automatisierung von Verwaltungsprozessen“, erklärte Bundesdigitalminister Karsten Wildberger (CDU).
Die geplante gemeinsame KI-Cloud solle „das Rückgrat einer souveränen, digitalen und KI-fähigen Verwaltung in Deutschland“ bilden. Er begrüßte, dass es dafür nun eine europäische Lösung geben werde.

Telekom und SAP wollen digitale Souveränität stärken

„Europa nimmt seine digitale Zukunft selbst in die Hand“, erklärte Telekom-Chef Tim Höttges. „Wer künftig in der Welt noch eine Rolle spielen will, muss im Rennen um digitale Souveränität vorne sein“, hob er hervor. Europa habe hier „enormen Nachholbedarf“.
Mehr dazu
„Digitale Souveränität und Künstliche Intelligenz gehören zusammen“, erklärte SAP-Chef Christian Klein. Genau hier setze die neue gemeinsame Initiative an. Das Ziel sei, auf sichere Weise „Innovation im öffentlichen Sektor zu beschleunigen“ und einen gemeinsamen Standard für Bund, Länder und Kommunen anzubieten.
Geplant ist, dass Behörden der unterschiedlichen staatlichen Ebenen künftig auf gemeinsamen technischen Standards und Plattformen aufbauen, statt viele Einzellösungen zu entwickeln. Die KI-Plattform soll so zur zentralen Schaltstelle für die gesamte öffentliche Verwaltung werden. Als Anwendungsbereiche wurden Dokumentenverarbeitung, Wissensmanagement, Übersetzungen, Textzusammenfassungen und die Beschleunigung von Planungs- und Genehmigungsverfahren genannt. (afp/red)