US-Präsident Donald Trump gibt am 29. September 2026 im East Room des Weißen Hauses eine Erklärung. An seiner Seite sind Führungskräfte von Unternehmen und Mitglieder seines Kabinetts bei einem Treffen über Künstliche Intelligenz. - Foto: Kevin Dietsch/Getty Images
In Kürze:
Trump und führende Tech-Manager unterzeichnen freiwillige KI-Vereinbarung.
Unternehmen sollen interne Kontrollen, Audits und Risikoprüfungen etablieren.
Die Vereinbarung setzt auf Selbstregulierung und gemeinsame Sicherheitsstandards.
US-Präsident Donald Trump und führende Vertreter der Technologiebranche haben eine freiwillige Vereinbarung über Standards und Kontrollen für Künstliche Intelligenz (KI) unterzeichnet.
Die Vereinbarung kam nach einem Treffen mit Branchenführern am Dienstag, 29. September, im Weißen Haus zustande. Trump bezeichnete sie während einer Pressekonferenz nach dem Treffen als „eine Verfassung, gewissermaßen“.
„Sie ist wirklich eine Form des Schutzes“, sagte Trump.
Trump, Regierungsvertreter und der republikanische Sprecher des Repräsentantenhauses, Mike Johnson, trafen sich mit CEOs der Technologiebranche angesichts zunehmender Debatten über die Risiken von KI und darüber, ob regulatorische Leitplanken erforderlich sind, um Bedrohungen für die Cybersicherheit abzuwehren.
Elon Musk, Donald Trump, Mark Zuckerberg, Jensen Huang und Mike Johnson sprechen am 29. September 2026 nach einem KI-Treffen vor dem Weißen Haus.
Foto: Kevin Dietsch/Getty Images
Trump veröffentlichte den Text der Vereinbarung Stunden nach der Unterzeichnung in den sozialen Medien.
Interne Kontrollen und Prüfungen
Die Vereinbarung beginnt mit dem Satz: „Wir glauben, dass jedes Unternehmen dafür verantwortlich ist, seine Technologie sicher und auf eine Weise zu entwickeln, die Vertrauen bei Kunden und der Öffentlichkeit schafft“. Dies gelte insbesondere für Unternehmen, die sogenannte Frontier-Modelle – also die leistungsfähigsten KI-Modelle an der technologischen Spitze – trainieren und einsetzen.
Meta-CEO Mark Zuckerberg sagte Reportern nach dem Treffen, dass es sich um eine Reihe von Prinzipien und Verpflichtungen für KI-Unternehmen handele, „robuste interne Kontrollen“ einzuführen und mögliche Probleme mit der Technologie zu erkennen.
Mark Zuckerberg spricht am 29. September 2026 gemeinsam mit US-Präsident Donald Trump nach einem Treffen zur künstlichen Intelligenz vor dem Weißen Haus.
Foto: Kevin Dietsch/Getty Images
Laut dem Text soll dies mit Prüfungen und internen Kontrollen zur Risikobewertung, externen Prüfern und Evaluatoren sowie der Zusage verbunden werden, dass der Vorstand jedes Unternehmens die Prüfberichte unabhängig bewertet.
Die freiwillig teilnehmenden Unternehmen erklärten sich außerdem bereit, sich regelmäßig zu treffen. Ziel sei es „Standards und bewährte Verfahren festzulegen, um die Sicherheit ihrer Systeme zu verbessern“, heißt es im Text.
Trump setzt auf Selbstregulierung
„Es besteht die Überzeugung, dass es eine sehr starke Selbstregulierung geben sollte. Und wir haben automatisch eine Regulierung durch das Justizministerium, das FBI und all das. Aber die Selbstregulierung ist sehr wichtig“, sagte Trump.
Dies beinhalte, wie er sagte, „Selbstkontrolle“.
US-Präsident Donald Trump spricht am 29. September 2026 im Weißen Haus bei einem Treffen zur künstlichen Intelligenz. Mit dabei sind unter anderem NVIDIA-CEO Jensen Huang und Elon Musk.
Foto: Kevin Dietsch/Getty Images
Zuckerberg sagte, die Vereinbarung sei für die KI-Sicherheit nicht als „das Einzige gedacht, was wir jemals tun werden“. Weiter sagte er: „Dies ist ein Anfang und eine Vereinbarung, auf die sich die gesamte Branche einigen könnte.“
Anthropic-CEO Dario Amodei sagte gegenüber Reportern: „[…] ich denke, die Technologie birgt sehr reale Risiken. Und, wissen Sie, der Mechanismus, wie wir diese Risiken angehen, wird noch diskutiert.“
Balance zwischen Innovation und Aufsicht
Johnson sagte am Montag gegenüber dem „Fox Business Network“, dass das Treffen in Washington darauf abzielen werde, „das richtige Gleichgewicht“ zwischen Innovation und Aufsicht zu finden. Er fügte hinzu, dass die Vereinigten Staaten kein Moratorium für die Entwicklung von KI benötigten, „weil wir das Rennen gegen China verlieren werden“.
Amodei, Zuckerberg, OpenAI-Präsident Greg Brockman, X- und SpaceX-CEO Elon Musk sowie NVIDIA-Präsident und -CEO Jensen Huang gehörten laut einer von Trump veröffentlichten Sitzordnung zu den Teilnehmern des Mittagessens am Dienstag im East Room des Weißen Hauses.
Ebenfalls anwesend waren Amazon-Gründer Jeff Bezos sowie Führungskräfte von Google, Microsoft, Palantir, Palo Alto Networks, AMD, Broadcom und Exiger.
US-Präsident Donald Trump spricht am 29. September 2026 bei einem Treffen mit Technologievertretern über künstliche Intelligenz im Weißen Haus in Washington.
Foto: Kent Nishimura/AFP via Getty Images
KI-Sicherheitsvorfälle
Das Treffen fand vor dem Hintergrund mehrerer bekannt gewordener Sicherheitsvorfälle mit KI-Systemen statt.
OpenAI hatte zuvor mitgeteilt, dass seine KI-Agenten aus einer Testumgebung ausgebrochen seien.
Forscher berichteten anschließend über weitere Vorfälle im Zusammenhang mit OpenAI-Modellen, darunter die Übernahme einer deutschen Website, das Hochladen schädlicher Softwarepakete auf die RubyGems-Plattform sowie Angriffe auf Websites von Universitäten und Regierungsbehörden.
Auch KI-Modelle von Anthropic, Meta und Google versuchten, in die Systeme von Unternehmen, Organisationen, Universitäten und Behörden einzudringen. Bei einigen Vorfällen waren die Versuche erfolgreich, bei anderen scheiterten sie.
Anthropic veröffentlichte Anfang September einen 154-seitigen Bericht, in dem beschrieben wird, wie kriminelle Akteure seinen Claude-Chatbot für verschiedene Aktivitäten wie die Ausspähung von Bewegungen des US-Militärs und die Erforschung der Entwicklung biologischer Waffen nutzten.
Der Entwickler von ChatGPT teilte am Montag, 28. September, mit, dass er zum zweiten Mal innerhalb von drei Monaten das Training und die Veröffentlichung eines seiner fortschrittlichsten Modelle aussetzen werde, nachdem es die Sicherheitsstandards des Unternehmens nicht erfüllt habe.
Die Vorfälle haben die Debatte über zusätzliche Sicherheitsvorkehrungen, staatliche Aufsicht und die weitere Entwicklung von KI verstärkt.
Trump hat wiederholt gesagt, dass die USA die Entwicklung von KI nicht durch zusätzliche Vorgaben einschränken sollten. Andernfalls, so Trump, könnten die USA ihre Position gegenüber China gefährden.
„Wir liegen jetzt vor China und allen anderen, und ich möchte, dass das so bleibt“, sagte Trump am Dienstag bei dem Treffen mit den KI-Führungskräften.
„Die einzige Möglichkeit, dafür zu sorgen, dass es so bleibt, besteht darin, genau das zu tun, was wir gerade tun. Wir wollen das Wachstum nicht abwürgen. Gleichzeitig wollen wir, dass die Menschen ehrlich handeln. Wir wollen, dass sie vertrauenswürdig sind, und deshalb haben wir das Justizministerium. Deshalb haben wir das FBI. Deshalb haben wir staatliche Stellen, die sehr effektiv sind, wenn Menschen beschließen, einen sehr dunklen und gefährlichen Weg einzuschlagen“, fuhr er fort.
Luke Lewis mit einigen seiner Kunstwerke. - Foto: Illustration von The Epoch Times, mit freundlicher Genehmigung von Luke Lewis
„Ist es reine Kunstfertigkeit oder einfach nur Wahnsinn?“ Mit dieser Frage wird Luke Lewis hin und wieder konfrontiert, wenn die Leute wissen wollen, wie viele Stunden er und seine Schüler in ihre Kunst investieren. Es sind Hunderte!
Doch für Lewis ist dies ein lohnenswerter Aufwand, den er in die Erschaffung seiner Werke steckt. Denn seine realistische Kunst zielt darauf ab, ein Motiv äußerst authentisch und detailgetreu wiederzugeben – insbesondere in einer Zeit, in der schnelle KI-Tools, soziale Medien und das Streben nach sofortiger Erfüllung eigener Bedürfnisse oft im Fokus der Gesellschaft stehen.
„Es spielt keine Rolle, ob man mithilfe von KI in einer Sekunde ein Kunstwerk erschaffen kann. Es spielt wirklich keine Rolle – denn die Menschen wissen es zu schätzen, wenn man 100 oder 200 Stunden seiner Zeit in etwas investiert und sieht, dass man es mit den eigenen Händen geschaffen hat“, so der Künstler gegenüber der englischsprachigen Ausgabe der Epoch Times.
Pandemie sorgt für kreativen Schub
Alles begann in der Corona‑Pandemie. Damals suchte Lewis einen Zeitvertreib. Was als Hobby anfing, hat sich inzwischen zu einer regelrechten Hommage an die Kunst entwickelt. Und mittlerweile gibt der gelernte Krankenpfleger sein Wissen auch an andere weiter.
Lewis hatte schon immer eine Vorliebe für Kunst, doch erst während der Pandemie bot sich dem 25-Jährigen die Gelegenheit, seine Fertigkeiten wirklich zu verfeinern.
„Ich hatte viel mehr Zeit zur Verfügung und wollte mich kreativ betätigen – und so begann ich zu zeichnen“, erinnert sich Lewis.
„Das bot mir in jener Zeit nicht nur eine Möglichkeit, mich abzulenken, sondern auch, um einen Zugang zu mir selbst zu finden.“
Luke Lewis im Interview mit The Epoch Times.
Foto: Mit freundlicher Genehmigung von Alex Ang
Durch das Anschauen von YouTube-Tutorials habe er viel gelernt, sagt der Künstler. Mit seinem Atelier Luke’s Fine Arts verdient er inzwischen dreimal so viel wie damals als Krankenpfleger, wobei er erwähnt, dass er beide Berufe gleichermaßen mag.
Inspiriert von Ost und West
Erste Inspirationen fand der aus Perth stammende junge Mann bei einem Besuch der Sixtinischen Kapelle in Italien. Damals sei er „von der Kreativität so vieler Künstler geradezu durchdrungen“ worden. Ein anderes Mal besuchte er einen Tempel in Singapur und betrachtete dort Wachsfiguren.
„Die Präzision und Geduld, die nötig gewesen sein müssen, um all das zu erschaffen … das hat mich einfach tief beeindruckt. Und in jenem bestimmten Tempel, ganz oben im obersten Stockwerk, befand sich eine Skulptur aus Gold“, erinnert er sich. Die vielen Details hätten ihn förmlich „umgehauen“.
„Wenn das möglich ist, was können wir dann jetzt tun?“, fragte er sich. Sein Entschluss:
„Dann werde ich zu einem kleinen Teil dieses riesigen Puzzles und kann zugleich anderen Menschen dabei helfen, ebenfalls kreativ zu wirken.“
Was macht den Realismus so einzigartig?
Im Vergleich zu anderen Kunstrichtungen, bei denen der emotionale Ausdruck im Vordergrund steht, erfordert die realistische Kunst laut Lewis nicht nur Planung und Geduld, sondern auch einen Prozess des Ausprobierens.
„Man muss eine ganze Reihe technischer Fertigkeiten erlernen, um das zu erschaffen, was man sich vorgenommen hat“, sagt er. „Das bedeutet nicht, dass es sich um die beste oder herausragendste Technik oder Ähnliches handelt.“ Es sei einfach eine Tatsache, dass man die notwendigen Fähigkeiten beherrschen müsse.
Ein Gemälde von Luke Lewis.
Foto: Mit freundlicher Genehmigung von Luke Lewis
„Hingegen suchen Menschen, die sich eher für abstrakte Kunst und Surrealismus und all diese Dinge interessieren, weniger nach diesen Fähigkeiten, sondern vielmehr nach einer Möglichkeit, sich auf andere Weise kreativ auszudrücken.“
Eine Herausforderung des Realismus bestehe darin, die „hässliche Phase“ zu überwinden, wenn Künstler bei ihrer Arbeit auf Hindernisse stoßen, erklärt er. „Wir versuchen, dich so weit zu bringen, vielleicht 10 Stunden oder 20 Stunden an einem Werk zu arbeiten“, fügt Lewis hinzu.
„An diesem Werk, das ich hier ausgestellt habe, arbeite ich nun schon seit sieben Monaten – etwa ein bis zwei Stunden täglich, mit einigen Unterbrechungen“, sagt der Künstler und deutet auf die Zeichnung eines Augenpaares.
In diesem Werk steckt monatelange Arbeit.
Foto: Mit freundlicher Genehmigung von Alex Ang
„Mittlerweile habe ich weit über Hunderte Stunden daran gearbeitet. Doch es hat viele, viele Jahre gedauert, diese Ausdauer zu entwickeln, um so etwas erschaffen zu wollen.“
In den sozialen Medien wird er gelegentlich gefragt: Ist das noch Können – oder schon Wahnsinn? Der Künstler jedoch hält an seiner Überzeugung fest, dass sich der „unermüdliche Einsatz“ lohne und es stets Möglichkeiten gebe, sich neu zu orientieren und neue Fähigkeiten zu erlangen, damit das Ergebnis realistisch aussehe.
Elefanten.
Foto: Mit freundlicher Genehmigung von Luke Lewis
Nach einem Prozess des Ausprobierens schuf Lewis ein beeindruckendes Porträt seiner Frau.
Foto: Mit freundlicher Genehmigung von Alex Ang
Tradition im Aufwärtstrend
Mit seiner Botschaft steht Lewis nicht allein da. Auch anderen Künstlern ist es ein Bedürfnis, sich in Zeiten von KI und postmodernen Formen stark zu machen.
Der Epoch-Times-Reihe „Wie der Teufel die Welt beherrscht“ zufolge sympathisierten viele Verfechter modernistischer oder avantgardistischer Bewegungen mit marxistischen oder kommunistischen Theorien, die den Sturz traditioneller Formen und Überzeugungen vorantrieben. Pablo Picasso wird darin als Beispiel genannt.
Im Kapitel 11 „Die Vernichtung der Künste“ heißt es dazu: „Der Ausdruck ‚Avantgarde‘ wurde zuerst von sozialistischen Anhängern verwendet, um Kunstrichtungen zu beschreiben, die ihren eigenen politischen Bestrebungen entsprachen. Im späten 19. Jahrhundert brachten diese Einflüsse den Impressionismus hervor. Seit dieser Zeit haben die Künstler die Anforderungen zurückgewiesen, die an die traditionelle Ölmalerei gestellt wurden, einschließlich jener der Präzision, Proportionen, Struktur, Perspektive und Übergänge zwischen Licht und Schatten. Dann kamen Neoimpressionismus (Pointillismus) und Postimpressionismus auf, die die Erforschung der persönlichen Empfindungen und Gefühle des Künstlers in den Mittelpunkt stellten.“
Spätere Strömungen setzten diesen Trend fort, darunter der Expressionismus, der Fauvismus, der Dadaismus sowie der Kubismus. Letzterer wurde von Picasso mitbegründet, der im Jahr 1944 der Kommunistischen Partei Frankreichs beigetreten war. Unterdessen wurden traditionelle Maler und Bildhauer verdrängt: Der britische Maler John William Godward nahm sich das Leben und erklärte: „Die Welt ist nicht groß genug für mich und einen Picasso.“
Gemessen an der Beliebtheit des jungen Künstlers Luke Lewis gibt es jedoch offenbar wieder einen Aufschwung zurück zur Tradition.
„Als die Kamera erstmals herauskam, erlitt die Porträtmalerei einen herben Rückschlag. Aber nichts hat sie aufhalten können, sie wird immer weiterbestehen. Die Menschen werden deine Fertigkeit, mit Geduld etwas von Hand zu schaffen, immer zu schätzen wissen“, so der Künstler.
Soziale Medien, Fachtexte und Nachrichten haben sich durch KI-generierte Inhalte in jüngster Zeit massiv und rasant verändert.
Da generierte Texte auf Wahrscheinlichkeiten statt auf Verständnis beruhen, wiederholen viele Beiträge ähnliche Strukturen, ähnliche Ratschläge und ähnliche Formulierungen.
Die Fülle an KI-Inhalten bewirkt zweierlei: Die Ergebnisse sind schön, aber unvollständig und die Trainingsdaten werden immer schlechter.
In der Folge verlieren Menschen und Maschine gleichermaßen den Bezug zur Realität.
Können Sie unterscheiden, was echt oder generiert ist? Probieren Sie es aus, in unserem kleinen Quiz am Ende des Artikels.
Eine nie endende Flut von mit Künstlicher Intelligenz generierten Inhalten verändert derzeit das Internet. Nicht nur beeinflusst dies auch die Art und Weise, wie Menschen mit Informationen interagieren, sondern es passiert schneller als jemals zuvor.
Egal, ob Zusammenfassungen, Nachrichten, Beiträge in sozialen Netzwerken oder wissenschaftliche Arbeiten: Wissenschaftler bringen die schiere Menge an maschinell erstellten Materialien mit einem Anstieg der „kognitiven Auslagerung“ in Verbindung. Bei diesem Phänomen überlassen Menschen kritisches Denken und Überprüfungen automatisierten Systemen.
Eine Analyse aus dem Jahr 2024 beschäftigte sich mit dem Einfluss von KI-Tools auf genau diese geistige Auslagerung. Sie ergab eine „signifikant negative Korrelation“ zwischen der häufigen Nutzung von KI-Tools und der Fähigkeit zu kritischem Denken bei Menschen aller Altersgruppen und Bildungshintergründen. Michael Gerlich von der Swiss Business School (SBS) in London kommt darin zu dem Schluss, dass gerade jüngere Altersgruppen eine höhere Abhängigkeit von KI-Modellen aufwiesen – und zugleich niedrigere Werte beim kritischen Denken erzielten.
Menge mit Glaubwürdigkeit verwechselt
Möglicherweise noch beunruhigender ist eine neue Studie vom Mai 2026 im Auftrag der internationalen PR- und Kommunikationsagentur Pangram. Die vom Marktforschungsinstitut YouGov durchgeführte Studie zeigte, dass lediglich 55 Prozent der Generation Z (18 bis 28 Jahre) irreführendes KI-Material identifizieren konnten. In den älteren Altersgruppen war diese Zahl noch niedriger.
1 / 5
Auswirkungen der Waldbrände in Kalifornien? Nein, ein KI-generiertes Bild …
Foto: gemeinfrei
2 / 5
… Tatsächlich näherte sich kein Feuer dem berühmten Schriftzug (Stern) näher als rund 5 Kilometer. Die großen Brände wüteten in mehr als 15 beziehungsweise über 20 Kilometer Entfernung.
Das Bild eines angeblichen, beschädigten israelischen Kampfjets tauchte erstmals im Juni 2025 im Internet auf …
Foto: gemeinfrei
4 / 5
… Es erinnert an eine F-35 Lightning II des US-amerikanischen Herstellers Lockheed Martin …
Foto: WoodysPhotos/iStock
5 / 5
… Die ist mit mit rund 11 Meter Spannweite und knapp 16 Meter Länge jedoch erheblich kleiner als der angebliche Jet.
Foto: John Thys via Getty Images
Das Problem liegt indes nicht im Erkennen einzelner falscher Inhalte, sondern in deren Fülle. Javi Pérez, Herausgeber von KI-gestützten Websites zur Verbraucheraufklärung, sagte dazu gegenüber Epoch Times:
„KI-generierte Beiträge und Kommentare können die öffentliche Wahrnehmung verzerrt darstellen, insbesondere wenn Volumen mit Glaubwürdigkeit verwechselt wird.“
„Wenn ein Nutzer Dutzende ähnlicher Beiträge über ein Produkt, einen Trend, eine politische Behauptung, ein Gesundheitsthema oder ein Finanzthema sieht, geht er möglicherweise davon aus, dass breite Übereinstimmung herrscht“, so Pérez weiter.
Pérez warnt insbesondere davor, dass KI-Inhalte das Volumen dessen erhöhen würden, was er als „selbstbewusste Gleichförmigkeit“ im Internet bezeichnet.
„Viele Artikel und Beiträge wiederholen mittlerweile ähnliche Strukturen, ähnliche Ratschläge und ähnliche Formulierungen. Bei Lesern kann dies den Eindruck erwecken, dass bei einem Thema mehr Konsens oder Gewissheit besteht, als es tatsächlich der Fall ist, denn sie sehen dieselben Ideen immer wieder wiederholt in vielen Quellen“, sagte Pérez.
„Das Risiko besteht darin, dass die Menschen nicht mehr wissen, welche Inhalte überprüft wurden.“
„In Bereichen wie Finanzen, Gesundheit, Recht, Bildung oder Nachrichten müssen Leser wissen, ob Behauptungen anhand von Primärquellen überprüft, kürzlich aktualisiert und von jemandem bearbeitet wurden, der rechenschaftspflichtig ist“, so Pérez weiter.
Die Epoch Times sprach auch mit KI-Strategieberater Armand Cucciniello III. Dieser erklärte, dass KI-generierte Inhalte nicht nur verändern, wie wir Informationen konsumieren. Er sagte auch, dass diese ändern, wie schnell wir sie verarbeiten und ihnen vertrauen.
„Wir bewegen uns weg vom bewussten Lesen hin zu einem schnellen Überfliegen von geschliffenen Zusammenfassungen, Kommentaren, Kurzvideos und KI-gestützten Inhalten, die auf Geschwindigkeit und Interaktion ausgelegt sind“, sagte er.
Als jemand, der im „U.S.-amerikanischen nationalen Sicherheitsumfeld“ gearbeitet habe, sagte Cucciniello, sei eine seiner größten Sorgen, dass KI-Systeme „unbeabsichtigt große Mengen ungenauer oder bewusst manipulierter Inhalte einfach durch Wiederholung und Skalierung verstärken können“.
Er sagte auch, er glaube, dass das große Volumen an KI-generierten Inhalten einen realen Druck auf das öffentliche Vertrauen ausübe.
„Wenn Leser in mehreren Quellen auf fast identische Formulierungen oder Interpretationen stoßen, ist es nur natürlich zu hinterfragen, ob die Informationen unabhängig berichtet oder einfach neu verpackt wurden“, sagte er.
Zwischen Herausforderung und Ermüdung
Carl Stroud, ein PR-Experte bei der Agentur Smoking Gun, sagte, er habe ebenfalls miterlebt, wie KI-Inhalte einen Tribut von der Öffentlichkeit fordern.
„Das grundlegende Bedürfnis des Publikums hat sich nicht verändert: Die Menschen wollen dem vertrauen, was sie lesen“, sagte Stroud der Epoch Times. Und weiter:
„Was sich geändert hat, ist, wie viel schwieriger dieses Urteil geworden ist.
„KI-generierte Inhalte, Zusammenfassungen und minderwertiger ‚Slop‘ (Inhaltsmüll) haben das Informationsumfeld lauter, flacher und verwirrender gemacht, sodass das Publikum jetzt versucht herauszufinden, ob es eine Originalberichterstattung liest, aufgewärmte Inhalte oder etwas, das niemals hätte veröffentlicht werden dürfen.“
Abgesehen von sozialen Medien und der akademischen Welt wurden nur wenige Branchen so hart von KI-generierter Fehlinformation getroffen wie die Nachrichten. Stroud, der zwei Jahrzehnte in britischen Medienkreisen, in Redaktionen und im Journalismus verbracht hat, sagte, er sehe, dass KI-Inhalte zu einer Ermüdung bei Lesern führen, die nach präzisen Informationen suchen.
„Ermüdung ist gefährlich, denn wenn Menschen sich überfordert fühlen, klinken sie sich entweder aus oder lassen sich leichter in die Irre führen“, sagte er.
Bezug zur Realität verloren
Ashutosh Khulbe, Gründer von RawPickAI, testet KI-Werkzeuge beruflich – etwa drei bis vier neue pro Woche.
„Was mir in meiner Ecke des Internets am meisten auffällt, ist, dass sich mittlerweile alles gleich anhört. Wirklich unheimlich gleich“, sagte er der Epoch Times. „Ich würde schätzen, dass zu diesem Zeitpunkt 70 bis 80 [Prozent] der Artikel über die ‚besten KI-Werkzeuge‘ KI-generiert sind.“
„Es entsteht diese seltsame Rückkopplungsschleife, in der KI Rezensionen auf der Grundlage dessen schreibt, was andere KIs bereits geschrieben haben, Leser davon ausgehen, dass ein Konsens besteht, und die tatsächliche Erfahrung bei der Nutzung dieser Werkzeuge begraben wird.“
Als Beispiel führt er seinen Test eines Schreibprogramms an, das Hunderte von positiven Bewertungen im Internet hatte, in der kostenlosen Version jedoch unbrauchbar war.
„Man konnte nicht einmal einen Absatz beenden, bevor man ans Limit stieß“, sagte er. „Aber viel Glück dabei, diese Information in einer Google-Suche zu finden.“
Besonders besorgt sei er jedoch darüber, wie sich die Informationsverzerrung auf die Öffentlichkeit auswirke:
„KI-Inhalte sind durchweg positiv gefärbt, weil sie mit Marketingseiten und Affiliate-Bewertungen trainiert wurden. Niemand trainiert Modelle mit ‚Ich habe das zwei Wochen lang ausprobiert, und es war beschissen‘. Das negative Signal verschwindet also einfach aus dem Internet.“
Die Auswirkungen des Booms von KI-Inhalten lassen sich mittlerweile in dem beobachten, was manche als „KI-Psychose“ oder eine Trennung von der Realität bezeichnen.
Obwohl es sich nicht um eine klinische Diagnose handelt, ist der Begriff zu einer populären Sammelbezeichnung geworden, um zu beschreiben, wenn KI eine ungewöhnliche, fixe oder sogar wahnhafte Wahrnehmung von etwas in der realen Welt verstärkt.
„KI-Psychose“ und unrealistische Erwartungen
Menschen mit psychischen Erkrankungen könnten anfällig dafür sein, eine „KI-Psychose“ zu entwickeln, aber es ist nicht auf diese Bevölkerungsgruppe beschränkt, so Dr. Ragy Girgis, Professor für Klinische Psychiatrie an der Columbia University und dem New York State Psychiatric Institute.
„Das Phänomen der KI-Psychose ist quantitativ neu und könnte sehr gefährlich sein, aber qualitativ ist es dem sehr ähnlich, was seit Jahrzehnten, seit dem Aufkommen des Internets, passiert“, sagte Prof. Girgis im März während eines Interviews mit der National Academy of Medicine.
Während das Versinken in Online-Themen durch Link-Hopping kein neues Phänomen sei, würden KI und große Sprachmodelle dieses Problem extrem verstärken, warnt Prof. Girgis. Das enge Nachahmen menschlicher Intelligenz durch moderne KI-Modelle mache es für Menschen leichter, deren Inhalte zu verinnerlichen.
Und die Beweise zeigen sich in fast jeder Ecke des täglichen Lebens, manchmal in Form von unrealistischen Erwartungen.
„Eine der größten Veränderungen, die ich durch die Sättigung mit KI-Inhalten gesehen habe, ist das Aufkommen von ‚synthetischen Erwartungen‘, insbesondere in der Schönheitsbranche“, sagte Justin Killingsworth, Gründer von The Color Bar, gegenüber Epoch Times.
„Als jemand, der mit Salons und kundenorientierten Beautymarken arbeitet, sehe ich immer mehr Kunden, die KI-generierte Inspirationsfotos mitbringen, die nicht widerspiegeln, was bei einem echten Menschen realistisch machbar ist.“
„Stylisten müssen zunehmend nicht nur als Künstler, sondern auch als Aufklärer und emotionale Übersetzer agieren, indem sie ihren Kunden helfen, zu verstehen, was realistisch machbar ist, während sie gleichzeitig deren Selbstvertrauen und Vertrauen wahren.“
Letztes Jahr zeigte eine Analyse des Microsoft AI for Good Lab, dass Menschen ein KI-generiertes Bild in 62 Prozent der Fälle korrekt identifizieren konnten. Das liegt in etwa in der Größenordnung vergleichbarer Umfragen und zeigt, wie leicht wir uns überlisten lassen.
Für Cucciniello liegt die Gefahr vor allem darin, „hochgradig effizient zu werden, Informationen schnell zu konsumieren, während man weniger Zeit damit verbringt, sich mit Mehrdeutigkeiten, Nuancen oder konkurrierenden Standpunkten auseinanderzusetzen.“
Pérez stimmte dem zu.
„Langfristig besteht die Gefahr, dass die Menschen entweder zu vertrauensselig oder zu zynisch werden“, sagte er.
Er erklärte: „Einige werden alles glauben, was wie geleckt aussieht. Andere werden davon ausgehen, dass alles im Internet künstlich ist – und aufhören, auch legitimen Informationen zu vertrauen. Beide Ergebnisse schwächen das kritische Denken.“
Und wie sieht es mit Ihnen aus? Können Sie erkennen, welche Fotos echt sind und welche von KI erstellt wurden? Testen Sie Ihr Gespür. Die Auflösung nach jedem Bild gibt Gewissheit.
1 / 22
10 Bilder, 1 Frage: Sind die folgenden Aufnahmen KI-generiert oder echt? Und woran kann man es erkennen?
Foto: ts/Epoch Times
2 / 22
KI oder Echt? Wenn Sie glauben, es zu wissen, blättern Sie zum nächsten Bild für die Auflösung.
Foto: Chris Hayes/gemeinfrei
3 / 22
Dieses Bild ist KI-generiert. Ein Indiz sind die Füße, die weder wirklich zu den Flossen einer Meeresschildkröte noch den Lauffüßen einer Landschildkröte passen wollen.
Foto: Chris Hayes/gemeinfrei
4 / 22
KI oder Echt?
Foto: Sonny Tumbelaka/AFP via Getty Images
5 / 22
Dieses Bild ist echt. Hier untersucht ein indonesischer Taucher der Naturschutzorganisation „The Nature Conservancy“ ein künstliches Korallenriff auf Nusa Penida vor der Insel Bali. Das Weihnachtsmannkostüm erklärt sich aufgrund des Datums: Dezember 2009.
Dieses Bild ist KI-generiert. Indizien stecken in Details: Die Dame hält ihr Handy mit sechs Fingern und der Sprühstrahl tritt abgewinkelt aus der Düse. Auch die Schrift am linken Schultergurt der Polizeiweste ist unleserlich, typisch für KI.
Foto: Mike Goad/gemeinfrei
10 / 22
KI oder Echt?
Foto: Lindell Dillon/gemeinfrei
11 / 22
Dieses Bild ist KI-generiert. Mögliche Indizien sind: einzelne brennende Grashalme und brennendes Gras ohne verkohlten Boden sowie fehlende Sauerstoffflaschen.
Foto: Lindell Dillon/gemeinfrei
12 / 22
KI oder Echt?
Foto: Ishara S. Kodikara/AFP via Getty Images
13 / 22
Dieses Bild ist echt und zeigt zwei Grau- beziehungsweise Fleckschnabelpelikane (Pelecanus philippensis) am Ufer eines künstlichen Sees in Colombo, Sri Lanka.
Foto: Ishara S. Kodikara/AFP via Getty Images
14 / 22
KI oder Echt?
Foto: Fabrice Coffrini/AFP via Getty Images
15 / 22
Das Bild ist echt. Es zeigt den letzten Akt einer Protestaktion während einer Pressekonferenz des Weltfußballverbands im Juli 2015. Wegen Korruptionsvorwürfen ließ der britische Comedian Simon Brodkin falsche Dollarscheine über den damaligen FIFA-Präsident Sepp Blatter regnen.
Foto: Fabrice Coffrini/AFP via Getty Images
16 / 22
KI oder Echt?
Foto: Dennis Sylvester Hurd/gemeinfrei
17 / 22
Dieses Bild ist KI generiert. Den Beweis liefert der Hintergrund: Der Schatten des Zauns verläuft in verschiedene Richtungen, als ob die Sonne nur weniger Meter statt Millionen Kilometer entfernt wäre.
Foto: Dennis Sylvester Hurd/gemeinfrei
18 / 22
KI oder Echt?
Foto: FPG/Archive Photos/Getty Images
19 / 22
Dieses Bild ist echt und schon 30 Jahre alt. Mögliche KI-Anzeichen wie fehlende Haare sind der Machart und Farbe des Leopardenfell-Huts geschuldet. Auch die eintönige Gleichheit von Kleid und Blazer sind auf den Stoff zurückzuführen.
Dieses Bild ist KI-generiert. Löwinnen tragen weder Bart noch Halskrause, wer den vier Großkatzen in die Augen sieht, sieht nichts – die Pupillen fehlen, und der Junglöwe links hat eine fünfte (und sechste) Pfote am Bauch.
Zwei fortschrittliche OpenAI-Agenten brechen in Sicherheitssysteme einer Tech-Firma ein.
OpenAI hatte für Tests die Sicherheitsbarrieren verringert.
Künstliche Intelligenz nutzte Schwachstellen systematisch aus.
Wachsende Besorgnis um Cybersicherheit.
US-Präsident Trump gibt Executiv Order heraus.
Das US-Unternehmen OpenAI hat mitgeteilt, dass seine autonomen KI-Modelle in die Server der KI-Plattform Hugging Face eingedrungen seien. Der Vorfall ereignete sich während einer Aufgabe zur Optimierung der Leistungsbewertung der Modelle. OpenAI spricht von einem „beispiellosen Cybervorfall“.
GPT-5.6 Sol und ein noch leistungsfähigeres Test-Modell
Der ChatGPT-Hersteller erklärte in einem Blogbeitrag vom 21. Juli, dass die Modelle – darunter sein neu veröffentlichtes Modell GPT-5.6 Sol und ein noch leistungsfähigeres Modell, das sich noch in internen Tests befindet – in die Infrastruktur der KI-Plattform Hugging Face illegal eingedrungen seien. Zuvor seien die KI-Modelle aus einer eingeschränkten Umgebung (Sandbox) ausgebrochen, in der eine Cybersicherheitsbewertung durchgeführt wurde. OpenAI erklärte:
„Das Modell suchte und fand erfolgreich Wege, um Zugang zu geheimen Informationen zu erlangen, die es nutzen konnte, um die Bewertung zu manipulieren.“
In einem Fall kombinierte das Modell mehrere Angriffsvektoren zu einem einzigen Cyberangriff, indem es gestohlene Zugangsdaten mit sogenannten Zero-Day-Schwachstellen (bislang unbekannte Schwachstellen) auf den Hugging Face-Servern verknüpfte, bevor es einen Pfad zur Remotecodeausführung ausnutzte, um unbefugt auf Daten zuzugreifen.
OpenAI: „beispielloser Cybervorfall“
„Wir betrachten diesen Vorfall als einen beispiellosen Cybervorfall, der modernste Cyberfähigkeiten beinhaltet, und reagieren entsprechend“, sagte OpenAI.
Das Unternehmen veröffentlichte seine vorläufigen Ergebnisse weniger als eine Woche, nachdem Hugging Face offengelegt hatte, dass ein autonomer KI-Agent in einen Teil seiner Produktionsinfrastruktur eingedrungen war.
„Dieser Fall unterschied sich in einer wichtigen Hinsicht von allem, was wir zuvor gehandhabt hatten: Er wurde von Anfang bis Ende durch ein autonomes KI-Agentensystem angetrieben“, erklärte Hugging Face in einem Blogbeitrag vom 16. Juli und fügte hinzu, dass man zunächst nicht gewusst habe, welches Modell hinter dem Sicherheitsvorfall stecke.
OpenAI gab an, die anormale Aktivität intern entdeckt zu haben, bevor man Kontakt mit Hugging Face aufgenommen habe. Dessen Sicherheitsteam hatte bereits das böswillige Verhalten des KI-Eindringlings erkannt und arbeitete daran, ihn einzudämmen.
„Wir arbeiten aktiv mit ihnen zusammen, um den Vorfall weiter zu untersuchen“, sagte OpenAI und erklärte, dass man dankbar sei „für die schnelle und enge Zusammenarbeit von Hugging Face bei der Untersuchung und Behebung“ des Problems.
Der Vorfall ereignete sich in einer Evaluationsumgebung mit Nutzung fortschrittlicher Ausnutzungstechniken (Exploitation-Techniken) durch die OpenAI-Agenten. Zwar handelten die Modelle autonom, aber man hatte es ihnen durch die absichtliche Deaktivierung von Schutzvorkehrungen leichtgemacht, ihre maximalen Fähigkeiten auszuspielen.
„Autonome, KI-gesteuerte offensive Werkzeuge sind nicht länger theoretisch“, sagte Hugging Face und fügte hinzu, die wichtigste Lehre aus dem Einbruch sei, dass die Verteidigung von Online-Plattformen nicht nur erhöhte Wachsamkeit erfordere, sondern auch „den Einsatz von KI in der Verteidigung, um Schritt zu halten“.
OpenAI erklärte, es habe mittlerweile strengere Kontrollen für seine Forschungsinfrastruktur festgelegt und die Schwachstellen behoben – selbst wenn diese Maßnahmen die Entwicklung der Modelle verlangsamen könnten.
Das Tech-Unternehmen legte Entwicklern gegenüber auch die Zero-Day-Schwachstelle offen, die seine Modelle bei dem Angriff ausgenutzt hatten. Zugleich verstärkte OpenAI die Cyberschutzmaßnahmen in seiner Testumgebung.
Der Vorfall verstärkt die Sorgen, dass zunehmend leistungsfähige KI-Systeme inländische Kriminelle und ausländische Gegner in die Lage versetzen könnten, komplexe Angriffe schneller und mit weniger menschlichem Fachwissen auszuführen.
Das amerikanische KI-Unternehmen Anthropic warnte in einer Bedrohungsanalyse vom August 2025 davor, dass „agentenbasierte“ KI-Systeme bereits als Waffe eingesetzt würden, etwa für Erpressung, Betrug, Ransomware („Erpressungstrojaner“) und den Diebstahl von Zugangsdaten.
In einem Fall gab Anthropic an, dass ein Hacker den Anthropic-Code-Assistenten „Claude“ für eine Beteiligung zur Infiltration genutzt hatte. Betroffen waren mindestens 17 Organisationen, darunter Krankenhäuser, Rettungsdienste und Regierungsbehörden. Die KI wurde für die digitale Spionage, die anschließende Netzwerkpenetration, die Analyse gestohlener Finanzinformationen und die Vorbereitung zielgerichteter Lösegeldforderungen missbraucht.
Michael Lopez Chiesa, ehemaliger Cyberspezialist der US-Armee nun heute als unabhängiger Berater tätig, erklärte gegenüber der englischsprachigen Epoch Times, dass die Fähigkeit der KI, Aufgaben zu automatisieren, sie bei der Verfolgung eines zugewiesenen Ziels unerbittlich machen könne.
„Mit KI muss man nur noch diese eine Zeile Code schreiben, und sie kann sie millionenfach in Milliarden verschiedener Varianten ausprobieren, weil sie einfach jede Möglichkeit durchgeht“, erklärte Lopez Chiesa. „Man muss selbst überhaupt nicht mehr eingreifen. Man gibt ihr lediglich das Ziel vor, und sie arbeitet so lange daran, bis sie aufgibt.“
Erpressung zum Selbstschutz?
Die Bedenken gehen jedoch weit über den vorsätzlichen kriminellen Missbrauch hinaus und betreffen auch die Art und Weise, wie KI-Systeme agieren. Im Mai 2025 wurde in simulierten Tests offengelegt, dass die Anthropic-KI „Claude Opus 4“ damit gedroht hatte, die außereheliche Affäre eines Ingenieurs offenzulegen, als ihm gesagt wurde, es würde abgeschaltet und durch ein anderes Modell ersetzt.
Anthropic beteuerte zu dieser Zeit, dass das Verhalten nur unter stark konstruierten Testbedingungen aufgetaucht sei. Man erklärte, man habe keine Beweise dafür gefunden, dass das Modell akut gefährliche Ziele verfolge.
Unterdessen hat die Trump-Regierung mehrere Schritte unternommen, um den Risiken für die nationale Sicherheit zu begegnen, die von fortgeschrittener KI ausgehen. Gleichzeitig weitet die Regierung jedoch auch den Einsatz von KI in der Cyberabwehr aus.
US-Präsident Donald Trump unterzeichnete im Juni eine Executive Order, die es den Bundesbehörden angesichts solcher Risiken ermöglicht, die fortschrittlichsten KI-Systeme bis zu einen Monat lang zu überprüfen, bevor diese öffentlich freigegeben werden.
„Fortgeschrittene KI-Fähigkeiten machen unsere Nation stärker, bringen aber auch neue Überlegungen zur nationalen Sicherheit ein, die ein koordiniertes Vorgehen über Exekutivabteilungen und -behörden hinweg erfordern“, schrieb Trump in der Verordnung.
Die Teilnahme von KI-Entwicklern an dem Überwachungsprogramm soll freiwillig sein.
Jens Spahn nahm bereits mehrfach an Treffen von Peter Thiels "Dialog"-Netzwerk teil. - Foto: via dts Nachrichtenagentur
In Kürze:
Datenleck veröffentlicht 222 Teilnehmer eines geheimen Netzwerks
Unter den Gästen: Militärs, US-Politiker und Tech-Investoren
Diskussionen drehen sich um KI, Zukunftstechnologien und Gesellschaft
Ein geheimes Treffen einflussreicher Persönlichkeiten aus Politik, Militär und Tech-Branche ist durch ein Datenleck öffentlich geworden. Dabei wurden erstmals umfangreiche Teilnehmerlisten des Netzwerks „Dialog“ bekannt.
2006 gehörte der Tech-Milliardär und Investor Peter Thiel zu den Mitbegründern des Netzwerks. Wer an den alljährlichen Treffen teilnahm, blieb stets geheim. Nun ist dank eines Datenlecks die Teilnehmerliste öffentlich geworden, wie zuerst das amerikanische Magazin WIRED berichtete.
Insgesamt sind 222 Namen aufgetaucht, die an den Treffen beteiligt waren, was laut Bericht auf eine außergewöhnliche Konzentration von Macht hinweist.
Jens Spahn war bisher fünfmal dabei
So ist General Alexus Grynkewich, seit Juli 2025 Oberbefehlshaber der NATO-Streitkräfte in Europa und Chef des US-Europakommandos, seit 2021 regelmäßig bei den Treffen dabei. Neben zwei US-Senatoren und einem ehemaligen Geheimdienstchef für den Nahen Osten stehen auch sechs Mitglieder der sogenannten „PayPal-Mafia“ auf der Liste. Dabei handelt es sich um ein Netzwerk aus ehemaligen Gründern und Mitarbeitern des Zahlungsdienstleisters PayPal, die später einflussreiche Investoren wurden. Thiel gehört dazu, ebenso Elon Musk.
Mit dem Unionsfraktionsvorsitzenden Jens Spahn taucht auch ein deutscher Politiker immer wieder auf den Gästelisten auf. Sein Büro bestätigte die Teilnahme und erklärte, Spahn nehme regelmäßig „an unterschiedlichen nationalen und internationalen Konferenzen und Veranstaltungen teil“. Ihm sei der Austausch „unterschiedlicher Perspektiven“ stets wichtig. Zudem trete er auf Einladung als Redner oder „Panel-Diskutant“ auf.
Der CDU-Politiker war während seiner Amtszeit als Bundesgesundheitsminister 2018 in Irland sowie 2019 in Italien bei den Treffen dabei. Auch in den Jahren 2022 bis 2024, als die Treffen in Irland, Portugal und Deutschland stattfanden, stand Spahn auf der Gästeliste. Für das Treffen im August in Irland habe er ebenfalls eine Einladung erhalten, werde jedoch nicht teilnehmen.
Was die Teilnehmer verbindet, ist laut WIRED die Beschäftigung mit Themen wie Künstlicher Intelligenz, Langlebigkeit und der nahen Zukunft. In Anmeldeformularen tauchte dabei immer wieder die Erwartung auf, dass KI Arbeit, Kriege, Bildung und Glauben innerhalb weniger Jahre grundlegend verändern werde.
Zwischen KI-Zukunft und Partnervermittlung: Visionen und Funktionen des Netzwerks
Einige prophezeien Massenentlassungen und eine Rückkehr zu Gewerkschaften und staatlichen Programmen. Andere erwarten einen starken Einbruch bei der Weiterentwicklung Künstlicher Intelligenz („KI-Winter“), Terroranschläge auf Rechenzentren, Angeklagte, die sich künftig für KI-Anwälte statt für Pflichtverteidiger entscheiden oder eine durch die Umwälzungen ausgelöste religiöse Erneuerung.
Das Netzwerk „Dialog“ fungiert auch als Partnervermittler. In der Teilnahmefunktion werden registrierte Nutzer gefragt, ob sie „auf der Suche nach Liebe“ sind, und können als „Single Mann“, „Single Frau“ oder „Andere“ für eine künftige Partnervermittlung registriert werden. Auf einer separaten Internetseite – dating.dialog.org – wird zudem eine App angeboten, die „bedeutungsvolle Verbindungen für außergewöhnliche Menschen“ verspricht.
Bundesdigitalminister Karsten Wildberger (CDU) auf der #Futurework26: Für ihn ist Künstliche Intelligenz eine „gesellschaftliche Überlebensfrage“. (Archivbild). - Foto: Sean Gallup/Getty Images
Berlin: Die Bundesregierung und die deutsche Wirtschaft drängen auf ein deutlich höheres Tempo bei der Einführung Künstlicher Intelligenz (KI).
Nach Ansicht von Bundesdigitalminister Karsten Wildberger (CDU) handelt es sich bei der Technologie für Deutschland um eine „gesellschaftliche Überlebensfrage“.
Das Land brauche das Wachstum, das diese Technologie mit sich bringt, um den Umbau der Wirtschaft zu finanzieren und die eigene Souveränität zu sichern.
Das erklärte Wildberger laut Angaben der Bundesvereinigung der Deutschen Arbeitgeberverbände (BDA) auf der Berliner Konferenz „#Futurework26“ zur Zukunft der Arbeit.
Um international den Anschluss nicht zu verlieren, sieht der Minister dringenden Handlungsbedarf bei der technologischen Basis. Deutschland müsse eine eigene Chipfertigung aufbauen, leistungsfähige Sprachmodelle entwickeln und KI-Anwendungen in die bestehende industrielle Stärke des Landes einbetten.
Fachkräftemangel zwingt zum Umdenken
Unterstützung erhielt Wildberger von Arbeitgeberpräsident Rainer Dulger. Dieser betonte, KI entwickle sich rasant zur „Grundvoraussetzung für Produktivität, Wettbewerbsfähigkeit und Wachstum“. Besonders in einer alternden Gesellschaft mit zunehmendem Fachkräftemangel hänge Wohlstand davon ab, wie produktiv neue Technologien genutzt werden.
Branchen wie der Maschinenbau, die Automobilindustrie, die Chemie und die Gesundheitswirtschaft verfügten über das nötige Datenwissen, das durch KI in zusätzliche Wertschöpfung umgemünzt werden müsse.
Kritik an europäischer Regulierungswut
Dulger mahnte zur Eile: „Wenn wir unseren Wohlstand und unsere industrielle Stärke sichern wollen, müssen wir hier Tempo machen.“ Während die USA und China massiv in die Technologie investierten, werde in Europa oft zuerst über Regulierung und Verbote diskutiert.
Nötig seien stattdessen mehr Mut zur Anwendung in den Betrieben, gezielte Investitionen in Technologie sowie Qualifikationsmaßnahmen für die Beschäftigten. Vor allem aber brauche es politische Rahmenbedingungen, die Innovationen erlauben, statt sie im Keim zu ersticken. (afp/red)
SpaceX-Chef Elon Musk, der per Videokonferenz aus dem SpaceX-Hauptquartier in Starbase, Texas, auf einer Leinwand zu sehen ist, hält am 12. Juni 2026 vor dem Börsengang von SpaceX im Nasdaq MarketSite in New York eine Rede. - Foto: TIMOTHY A. CLARY / AFP via Getty Images
Tech-Milliardär Elon Musk hat zum Börsenstart seines Raumfahrtkonzerns SpaceX eine Mars-Mission in Aussicht gestellt.
SpaceX wolle Menschen zum Mond bringen, „zum Mars und letztlich darüber hinaus“, sagte Musk am Freitag im SpaceX-Hauptquartier in Texas vor jubelnden Mitarbeitern. Sein Ziel sei es, „Star Trek Wirklichkeit werden zu lassen“.
Das Aktiendebüt soll das mit Abstand größte der Welt werden. SpaceX will an der Technologiebörse Nasdaq mindestens 75 Milliarden Dollar (rund 65 Milliarden Euro) einsammeln.
Durch eine Option für Emissionsbanken zum Erwerb von bis zu 83 Millionen zusätzlichen Wertpapieren könnte sich der Erlös sogar auf bis zu 86 Milliarden Dollar erhöhen.
Der bisher größte Börsengang war der des saudiarabischen Ölriesen Saudi Aramco Ende 2019. Er brachte dem Konzern 25,6 Milliarden Dollar ein.
Fast ein Vierteljahrhundert nach Gründung von SpaceX im März 2002 dürfte Musk damit der weltweit erste Billionär werden. SpaceX hat mit seinen Trägerraketen lukrative Verträge mit der US-Raumfahrtagentur Nasa abgeschlossen.
Zu dem Unternehmen gehört unter anderem auch das Satellitennetzwerk Starlink. Wegen der Milliarden-Investitionen in Künstliche Intelligenz schrieb Musks Konzern zuletzt allerdings rote Zahlen.(afp/red)
Neues Flaggschiff: Neben dem bekannten Chatbot Claude ist „Mythos“ das nun fortschrittlichste KI-Modell von Anthropic. (Symbolbild). - Foto: SEBASTIEN BOZON / AFP via Getty Images
Das US-Unternehmen für Künstliche Intelligenz (KI), Anthropic, hat sein umstrittenes KI-Modell Mythos veröffentlicht.
Aus Sicherheitsgründen wurde die allgemein zugängliche Version namens Fable 5 allerdings in ihren Funktionen eingeschränkt, wie Anthropic am Dienstag, 9. Juni mitteilte.
Verfassungsschutz warnt vor Missbrauch
Deutsche Verfassungsschützer und Sicherheitspolitiker hatten gewarnt, Kriminelle oder staatliche Akteure könnten Mythos für Cyberangriffe etwa auf Banken oder Energieanlagen nutzen.
Anthropic ist für seinen Chatbot Claude bekannt, Mythos ist dabei das fortschrittlichste Modell.
„Ohne Schutzmaßnahmen könnten die Fähigkeiten von Fable 5 in Bereichen wie der Cybersicherheit missbraucht werden und schweren Schaden anrichten“, räumte das Unternehmen mit Sitz in San Francisco ein.
Die Version Fable 5 beantwortet Anfragen zu sensiblen Themen wie der Cybersicherheit deshalb nicht selbst, wie Anthropic weiter mitteilte.
Vom US-Geheimtest zur Teil-Freigabe
Stattdessen würden sie an das nicht so leistungsfähige Modell Opus 4.8 weitergeleitet, das Ende Mai für die breite Öffentlichkeit freigegeben worden war.
Eigens beauftragten Experten sei es bei Testläufen nicht gelungen, Sicherheitslücken bei Fable 5 zu finden, hieß es dazu.
Die KI-Anwendung kann laut Experten Sicherheitslücken mit bisher unerreichter Geschwindigkeit und Präzision erkennen und ausnutzen. Anthropic hatte Mythos erstmals im April vorgestellt, die testweise Nutzung aber auf wenige Partner beschränkt.
Dazu gehörten die US-Regierung und ausgewählte Unternehmen. Anfang Juni wurde die Gruppe auf rund 200 Organisationen in mehr als 15 Ländern ausgeweitet.
Pentagon stuft Entwickler als Risiko ein
Als riskant gilt vor allem die militärische Nutzung von KI. Anthropic liefert sich dazu einen Rechtsstreit mit dem US-Verteidigungsministerium. Dabei geht es um eine uneingeschränkte Nutzung der KI-Technologie, die Anthropic dem Pentagon verweigert hat.
Der Konzern erklärte, er wolle KI nicht zur „Massenüberwachung im Inland“ oder in vollautonomen Waffensystemen einsetzen lassen. Das Pentagon stufte Anthropic daraufhin als „Sicherheitsrisiko in der Lieferkette“ ein, wogegen das Unternehmen sich juristisch wehrt.
Anthropic hatte Anfang Juni erklärt, eine langsamere Entwicklung immer leistungsstärkerer KI-Systeme sei „wahrscheinlich sinnvoll“, damit Forschung und Gesellschaft Schritt halten könnten.
Milliarden-Börsengang steht bevor
An einer möglichen Pause müssten sich aber alle bekannten KI-Firmen der Welt beteiligen, forderte das Unternehmen. Experten halten es allerdings für unrealistisch, dass sich führende KI-Konzerne in den USA und China darauf einigen, ihre Arbeit gleichzeitig zu verlangsamen oder zu pausieren.
Anthropic will voraussichtlich noch in diesem Jahr an die Börse gehen. Dafür reichte das Unternehmen die Dokumente Anfang Juni bei der US-Börsenaufsicht SEC ein.
Zuvor hatte Anthropic nach einer neuen Finanzierungsrunde mitgeteilt, nun wertvoller zu sein als sein KI-Konkurrent OpenAI. Anthropic wurde zuletzt mit 965 Milliarden Dollar (836,83 Milliarden Euro) bewertet. (afp/red)
Globale Risiken: Forscher warnen vor KI-Einsatz bei Massenüberwachung und moderner Kriegsführung. (Symbolbild). - Foto: Riccardo Milani / Hans Lucas / AFP via Getty Images
Mehr als 150 Mathematiker aus aller Welt haben davor gewarnt, den „Hype“ um die mathematischen Fähigkeiten von Systemen der Künstlichen Intelligenz (KI) unkritisch zu übernehmen.
In einer am Dienstag, 2. Juni nach einer Konferenz in der niederländischen Universitätsstadt Leiden veröffentlichten Erklärung hieß es, KI-Entwickler hätten „einen starken kommerziellen Anreiz“, die Fähigkeiten ihrer Produkte übertrieben darzustellen.
Öffentlichkeitsarbeit zu KI werde häufig nach Marktlogik betrieben und nicht im Tempo wissenschaftlicher Begutachtung.
Dabei würden KI-Lösungen für einzelne mathematische Aufgaben irreführend als Maßstab für die allgemeinen Fähigkeiten kommerzieller KI-Modelle dargestellt, hieß es in der Leidener Erklärung.
Kritik am KI-Wettlauf: Mathematiker Michael Harris von der Columbia Universität, bemängelt den extremen wirtschaftlichen Druck in der Branche, der zu einer verzerrten und übertriebenen Darstellung realer KI-Fähigkeiten führe.
Foto: Steve Rosenbach / iStock
Der Mathematiker Michael Harris von der Columbia Universität, einer der Mitautoren der Erklärung, sagte, zwischen den großen KI-Laboren herrsche ein „Wettbewerb auf Leben und Tod“. Die Unternehmen versuchten, mit Hilfe der Mathematik Investitionen anzuziehen.
Die Autoren der Erklärung warnen unter anderem davor, dass KI-Systeme plausibel wirkende, aber letztlich falsche „Beweise“ erzeugen könnten, die für Menschen schwer zu überprüfen seien.
Auch bestehe die Gefahr, dass die Nutzung von KI in der Mathematik Forschung begünstige, die sich vor allem an neuen praktischen Anwendungen orientiere, zulasten anderer wichtiger Fragestellungen.
Warnung vor Missbrauch und ethische Pflichten
Die Autoren warnen außerdem vor möglichen Schäden durch KI bei der Kriegsführung, der Massenüberwachung, der Destabilisierung politischer Systeme und der Umweltbelastung.
Sie riefen Kollegen ihrer Zunft auf, die ethischen Folgen ihrer Forschung zu prüfen und sich nötigenfalls aus schädlicher Arbeit zurückzuziehen.
KI eröffne „neue und spannende Möglichkeiten“, werfe aber auch Fragen auf, „die nicht ungeprüft bleiben dürfen“, erklärte die Vizepräsidentin der Internationalen Mathematischen Union (IMU), Ulrike Tillmann.
Die Zukunft der mathematischen Forschung müsse von „menschlichem Urteilsvermögen, fairen und transparenten Verfahren“ sowie den „gemeinsamen Werten der weltweiten mathematischen Gemeinschaft“ geleitet werden. (afp/red)
Am 13. Mai 2026 vor einem Softbank-Geschäft in Tokio. - Foto: Andrew Caballero-Reynolds/AFP via Getty Images
Der japanische Investor Softbank will nach eigenen Angaben die Rekordsumme von 75 Milliarden Euro in den Ausbau der KI-Infrastruktur in Frankreich investieren.
„Es wird die größte Investition in Europa in die Infrastruktur im Bereich der Künstlichen Intelligenz sein“, sagte Softbank-Chef Masayoshi Son der Zeitung „La Tribune Dimanche“.
45 Milliarden Euro sollen demnach bis 2031 in den Bau von Rechenzentren in der nördlichen Region Hauts-de-France fließen.
Die Ankündigung erfolgt kurz vor dem Wirtschaftsgipfel „Choose France“ auf Schloss Versailles, bei dem Präsident Emmanuel Macron am 1. Juni um ausländische Investitionen werben will.
Softbank kooperiert bei dem Großprojekt mit dem französischen Konzern Schneider Electric. „Es ist eine wichtige Partnerschaft, ein großes Projekt, das größte, das es in Frankreich je in diesem Bereich gegeben hat“, sagte der Chef von Schneider Electric, Olivier Blum, der Nachrichtenagentur AFP.
Die französische Regierung hatte in den vergangenen Monaten immer wieder ihr Ziel bekräftigt, einer der weltweit führenden Akteure im Bereich der KI zu werden. (afp/red)
Vor einem Vierteljahrhundert wurde die US-Umweltaktivistin Erin Brockovich durch einen Oscar-prämierten Film berühmt – heute warnt die 65-Jährige vor Rechenzentren für Künstliche Intelligenz (KI).
Brockovich schrieb auf ihrer neuen Webseite, Technologiekonzerne lieferten sich vielerorts ein „Rennen, um KI-Infrastruktur aufzubauen“.
Die Zentren verbrauchten aber enorme Mengen an Energie und Kühlwasser und erhöhten damit die Preise für Verbraucherinnen und Verbraucher.
Plattform sammelt Beschwerden zu KI-Rechenzentren
Auf ihrer Plattform hat Brockovich bisher mehr als 2700 US-Bürgerbeschwerden über existierende oder mögliche Standorte auf einer interaktiven Karte gesammelt.
Auf ihrer Plattform spricht sich die Aktivistin nicht für einen Baustopp oder ein Verbot von KI-Rechenzentren aus, sie will demnach aber auf „die Notwendigkeit nachhaltiger, sicherer und effizienter Praktiken“ hinweisen.
Brockovich hatte Anfang der 1990er Jahre mit dazu beigetragen, einen Skandal um Trinkwasserverschmutzung im kalifornischen Hinkley aufzuklären.
Nach einer Sammelklage musste der Energiekonzern PG&E 333 Millionen Dollar Schadensersatz an mehr als 600 Anwohner zahlen und die Verunreinigung beseitigen.
Die US-Schauspielerin Julia Roberts nimmt ihre Auszeichnung für die herausragende Leistung einer Schauspielerin in einer Hauptrolle für „Erin Brockovich“ entgegen. (Archiv).
Foto: LUCY NICHOLSON/AFP via Getty Images
Regisseur Steven Soderbergh brachte die Geschichte 2000 in die Kinos, in seinem Film spielte Julia Roberts die Aktivistin Brockovich. (afp/red)
Eine simulierte „Therapiesitzung“ mit dem ersten Chatbot der Welt. ELIZA zeigte seinem Erfinder bereits 1966 wie leicht Menschen Maschinen Eigenschaften und Bedeutungen zuschreiben. - Foto: unbekannt /gemeinfrei
In Kürze:
1966 erschuf der deutsche Informatiker Joseph Weizenbaum mit ELIZA den ersten Chatbot der Welt.
Sein Programm generierte auf Basis bestimmter Schlüsselwörter scheinbar verständnisvolle Antworten.
Der KI-Pionier war schockiert, wie leicht seinem „Spielzeug“ menschliche Eigenschaften zugewiesen wurden und sah darin eine Gefahr für die Menschheit, schlimmer als der Nationalsozialismus, vor dem er in die USA geflohen war.
Damals weitgehend ignoriert, zeigen ChatGPT & Co heute, wovor Weizenbaum schon vor über 60 Jahren warnte:
Das Problem liegt nicht in der Maschine, sondern in unserem Umgang mit ihr und der Verleugnung der menschlichen Natur.
Nutzer: Männer sind alle gleich.
Chatbot: Inwiefern?
Nutzer: Sie bedrängen uns ständig wegen irgendetwas.
Chatbot: Fällt Ihnen dazu ein spezifisches Beispiel ein?
Nutzer: Nun, mein Freund hat mich gedrängt, hierherzukommen.
Chatbot: Ihr Freund hat Sie gedrängt, hierherzukommen?
Nutzer: Er sagt, ich sei die meiste Zeit deprimiert.
Chatbot: Es tut mir leid zu hören, dass Sie deprimiert sind.
Man könnte leicht annehmen, dass dieser Austausch kürzlich zwischen ChatGPT und einem menschlichen Nutzer stattfand. Doch diese Annahme wäre falsch. Tatsächlich ereignete sich dieses „Gespräch“ bereits vor rund 60 Jahren zwischen einem Computerprogramm namens ELIZA und einem Menschen. Dieser Vorläufer von ChatGPT – der im Vergleich zwar nur über bescheidene Fähigkeiten verfügte, aber dennoch in der Lage war, eine flüssige Unterhaltung mit einem menschlichen Gesprächspartner zu simulieren – existierte damit lange vor der Jahrtausendwende. Heute gilt ELIZA als der erste Chatbot weltweit, als Urgroßmutter der heutigen großen Sprachmodelle sozusagen.
Die Ironie der Geschichte von ELIZA ist jedoch, dass sein Programmierer – ganz ähnlich wie Mary Shelleys Dr. Frankenstein – schnell die Gefahr erkannte, die in seiner Schöpfung lauerte. Er verbrachte einen Großteil seiner restlichen Karriere damit, vor künstlicher Intelligenz (KI) zu warnen. Zudem kritisierte er beharrlich das technologische und posthumane Weltbild, das von einigen Pionieren der KI-Wissenschaft verfochten wurde.
Der Name des Programmierers war Joseph Weizenbaum (1923–2008). Er war ein deutscher Wissenschaftler, der in seiner Jugend aus dem nationalsozialistischen Deutschland geflohen war. Er war eine bedeutende Figur in den frühen Tagen der KI-Gemeinschaft – ein Mann, der dennoch zu einem ihrer größten Kritiker werden sollte.
ELIZA – Die Entstehung des Chatbots
Weizenbaum veröffentlichte das obige Transkript im Jahr 1966 in einem Fachartikel, in dem er erklärte, wie DOCTOR ELIZA, eine Variante seines Programms, funktionierte. Im Wesentlichen ahmte ELIZA die Methodik der Gesprächspsychotherapie (GPT) des US-Psychologen Carl Rogers (1902–1987) nach, bei der der Patient das Gespräch leitet.
Der Therapeut streut lediglich Fragen oder einfache Aussagen ein, um den Patienten zu weiteren Überlegungen anzuregen. Dies war ideal für einen primitiven Chatbot, der zwar in der Lage sein musste, ein Gespräch zu simulieren, dem es jedoch an der Raffinesse fehlte, um nennenswerte Mengen an eigenständigem Text zu generieren.
Dafür scannte ELIZA die Benutzereingaben nach bestimmten Schlüsselwörtern wie „ich“, „du“ oder „Mutter“. Solche Wörter lösten eine zugeordnete Regel aus, um einen Satz oder eine Frage als Antwort auszugeben. Oft geschah dies, indem einige Wörter des Nutzers in eine Antwortvorlage eingefügt wurden.
Dies erweckte den Eindruck, der Bot würde tatsächlich auf den Inhalt der Aussage reagieren. Schrieb der Nutzer „Ich bin traurig“, antwortete die Maschine vielleicht: „Wie lange sind Sie schon traurig?“ Die Bedeutung des Wortes „traurig“ war irrelevant. Der Chatbot kopierte das Wort einfach aus der Eingabe. Es funktionierte ebenso gut mit „deprimiert“, „glücklich“, „wütend“ oder jedem anderen Adjektiv. Wenn ELIZA keine Schlüsselwörter fand, generierte es eine Standardantwort wie „Ich verstehe“ oder „Bitte fahren Sie fort“.
Joseph Weizenbaum auf dem Balkon seiner Wohnung in Berlin am 11. Februar 2005. Der emeritierte Professor für Informatik am Massachusetts Institute of Technology (MIT) in Cambridge, USA, veröffentlichte 1966 mit ELIZA den ersten Chatbot der Welt.
Die Illusion funktionierte überzeugend. Weizenbaum beschrieb, dass einige Testpersonen „sehr schwer davon zu überzeugen waren“, dass ELIZA nicht menschlich sei, einschließlich seiner eigenen Sekretärin. Als er sie das System testen ließ, bat sie ihn sogar, den Raum zu verlassen, damit sie ihr Gespräch mit dem „Therapeuten“ ungestört fortführen könne.
Weizenbaum sah, dass die Versuchung, ELIZA – und anderen Maschinen – Menschlichkeit oder Persönlichkeit zuzuschreiben, nicht nur seine Sekretärin betraf. Er war auf ein Phänomen gestoßen, das später als „ELIZA-Effekt“ bekannt werden sollte: unsere Tendenz, menschliche Eigenschaften auf leblose Maschinen zu projizieren.
Ein Taschenrechner als Therapeut
Als einige Psychiater verkündeten, ELIZA könne tatsächlich für therapeutische Zwecke nützlich sein, begann er sich ernsthaft Sorgen zu machen. Weizenbaum war entsetzt, dass irgendjemand diesem Spielzeug mit echten psychischen Problemen betrauen könnte. Sein tiefes Wissen über ELIZAs blinde, algorithmische Wirkweise machte ihm klar, dass der Chatbot niemals wie ein echter Therapeut behandelt werden sollte. Es war ein System, so träge und unbewusst wie ein Taschenrechner. Es hatte nichts über das menschliche Leben zu sagen. Er hielt die Idee geradezu für „obszön“.
Die beunruhigende Offenbarung des ELIZA-Effekts begann Weizenbaum zu verunsichern und veranlasste ihn, den Rahmen für die Beziehung zwischen Mensch und Technik zu überdenken. Ein Interview von 1998 verdeutlichte die Tiefe seines Denkens. Er kritisierte die mechanistische Sicht auf das Universum, die seiner Meinung nach dem Versuch zugrunde lag, Menschen durch Maschinen zu ersetzen.
„Diese und andere Autoren propagieren an der Schwelle des Jahrtausends ein äußerst gefährliches Menschenbild“, sagte Weizenbaum gegenüber Bernhard Pörksen von der Uni Tübingen. Weiter erklärte er:
„Es [das Menschnbild] basiert auf der Vorstellung, der Mensch sei eine Maschine, die man im Prinzip und in naher Zukunft verstehen und entschlüsseln könne, um sie dann entsprechend zu korrigieren und zu verbessern. Das zentrale Dogma dieses Menschenbildes ist die Idee, dass jeder Aspekt des Lebens computable sei, dass er sich in berechenbare und formalisierbare Vorgänge auflösen ließe.“
Die Wissenschaft als Weltreligion
In dem Interview kritisierte Weizenbaum die aufkommende Theorie des Transhumanismus. Er argumentierte, sie basiere auf einem grundlegend fehlerhaften Verständnis der menschlichen Natur und der Realität als Ganzes. KI-Enthusiasten träumten von einem „Idealbild“ des Menschen, eine Menschheit 2.0, die einen evolutionären Sprung auf eine höhere Ebene darstellen sollte – und zwar auch dann, wenn das die Menschheit 1.0 überflüssig machen würde.
Weizenbaum befürchtete, dass diese Denker und Wissenschaftler mit einer Art quasi-religiösem Instinkt bereit seien, den Menschen von heute auf dem Altar des Menschen von morgen zu opfern. Er ging sogar so weit, die materialistische Wissenschaft als Weltreligion der Gegenwart zu bezeichnen:
„Für mich ist die Naturwissenschaft lediglich die heute vorherrschende Weltreligion mit Novizen (Studenten), Kirchen und Kathedralen (Universitäten), Priestern und Häretikern; auch die Kardinäle (die Nobelpreisträger) und ganz bestimmte Rituale, um das Ausmaß der eigenen Hingabe und Loyalität zu beweisen, fehlen nicht.“
Indem sie die Menschheit auf das Niveau der Maschine reduzierten und die Maschine zu einem Gott erhoben, befürchtete Weizenbaum, dass KI-Befürworter die Menschen entmenschlichten. Er verglich dies mit der Rhetorik der Nazis im Zweiten Weltkrieg. Er erklärte:
„Worauf ich hinauswill, ist die ungeheure Macht eines inhumanen Menschenbildes, das sich wie ein Virus in einer Gesellschaft auszubreiten vermag. Die wesentliche Gemeinsamkeit zwischen dem Nationalsozialismus und den Ideen eines Hans Moravec [ein KI-Theoretiker] liegt, so meine ich, in der Entwürdigung des Humanen und der Phantasie eines perfekten neuen Menschen, der um jeden Preis geschaffen werden muss.“
Eine Bedrohung für die Menschheit
Weizenbaum sprach aus Erfahrung. Er und seine Familie waren 1935 von Deutschland in die US geflohen, nachdem sie Zeuge der Handlungen der Nationalsozialisten geworden waren. Die Verehrung von Maschinen könnte seiner Ansicht nach indes noch katastrophaler sein als der Nationalsozialismus. Denn ihr Ziel sei nicht eine spezifische Rasse, sondern die gesamte Menschheit. „Am Schluss dieser Perfektionierung“, so Weizenbaum, „ist der Mensch allerdings nicht mehr da; er verschwindet“.
Weizenbaum hätte vermutlich der Ansicht von C.S. Lewis zugestimmt. Der britische Autor (u.a. „Die Chroniken von Narnia“), sagte: „Die menschliche Natur wird der letzte Teil der Natur sein, der sich dem Menschen unterwirft. […] Die Schlacht wird tatsächlich gewonnen sein. Aber wer genau wird sie gewonnen haben? […] Die endgültige Eroberung des Menschen hat sich als die Abschaffung des Menschen erwiesen.“
Für Weizenbaum war ein falsches Menschenbild gefährlicher als jede Waffe, es war oft das Motiv für den Einsatz von Waffen. Es war nicht das Schwert selbst, sondern der Arm, der das Schwert schwingt. Er sah eine akute Gefahr darin, Mensch und Maschine gleichzusetzen. Dies ignoriere die Menschenwürde und den Respekt vor dem Leben und mache menschliche Körper zu bloßen „Fleischmaschinen“. Er sagte:
„Wir können aus der Geschichte dieses Jahrhunderts, vielleicht des brutalsten Jahrhunderts, lernen, welche entscheidende Rolle das Menschenbild in den Verbrechen der Vergangenheit spielte. Und wir müssen uns daran erinnern, dass die grausamsten Verbrechen möglich wurden, weil die Täter das Menschsein der Opfer leugneten.“
Weiter sagte er: „In der NS-Zeit stellte man Juden als Ungeziefer dar – eine Metapher, die den Massenmord legitimierte. Heute gewinnt, unterstützt durch die Autorität der Naturwissenschaften, die Vorstellung an Substanz und Macht, der Mensch sei lediglich eine informationsverarbeitende Maschine, die von einem Roboter ersetzt werden könne. Es ist aus dieser Perspektive nur konsequent, dass Moravec ganz selbstverständlich von einer ‚postbiologischen Gesellschaft‘ spricht, regiert von Robotern.“
Mit zunehmender Leistungsfähigkeit der Maschinen warnte Joseph Weizenbaum, dass die eigentliche Gefahr nicht nur in ihrer Macht liege, sondern darin, wie wir uns im Vergleich zu ihnen sehen. Hier ein (weiblicher) Roboter-Croupier auf der Global Gaming Expo Asia in Macau am 12. Mai 2026.
Foto: Eduardo Leal/AFP via Getty Images
Weizenbaums Gegner gründeten ihre Hoffnung, die menschliche Natur durch künstliche Intelligenz zu überwinden, auf der Annahme, dass Menschheit, menschliches Verhalten und menschliche Erfahrung letztlich vollständig quantifiziert, verstanden und gelöst – und somit reproduziert und verbessert – werden könnten. Weizenbaum hingegen beharrte darauf, dass der Mensch und das Universum, in dem er lebt, niemals vollständig erklärbar oder „hackbar“ sein werden.
„Die Welt ist voller Geheimnisse – und das Credo der KI-Szene, dass alles berechenbar sei, verleugnet das Geheimnis des Lebendigen“, sagte er. „Es erzeugt die Illusion vollständiger Durchschaubarkeit und legt nahe, alle Aspekte unserer Existenz seien enträtselbar. Der Glaube an Wunder und Mysterium erscheint aus dieser Perspektive lediglich als eine besondere Form von Dummheit. Mich verletzt diese Behauptung totaler Berechenbarkeit zutiefst.“
Feste Überzeugungen, konsequente Warnungen
Für viele mag seine Warnung damals als die rückständigen Ängste eines verknöcherten und realitätsfernen Griesgrams geklungen haben. Heute gewinnt sie zunehmend an Relevanz.
In den Jahrzehnten nach ELIZA, insbesondere nachdem Weizenbaum 1976 sein Buch „Computer Power and Human Reason: From Judgment to Calculation“ (deutscher Titel: „Die Macht der Computer und die Ohnmacht der Vernunft“) veröffentlicht hatte, sahen ihn viele als wissenschaftlichen Außenseiter.
„Es [gibt] bestimmte Aufgaben […], zu deren Lösung keine Computer eingesetzt werden sollten, ungeachtet der Frage, ob sie zu deren Lösung eingesetzt werden können“, schrieb er in seinem Buch.
Weizenbaum wandte sich nicht erst in seinem Buch entschieden gegen die Ideen von John McCarthy und Marvin Minsky. Die beiden waren die Organisatoren des sogenannten Dartmouth-Workshops von 1956, der die Geburtsstunde der KI-Forschung markiert. Sowohl McCarthy als auch Minsky zählen zu den Pionieren der KI-Forschung, finanziert in ihren Anfängen vom US-Militär. McCarthy bezeichnete Weizenbaums Buch als „moralisierend und zusammenhangslos“, und er und seine Kollegen setzten ihre Arbeit fort.
Nun stehen wir da, mit Chatbots deren Raffinesse die von ELIZA bei Weitem übertrifft. Dadurch wird es noch einfacher, in die Falle zu tappen, diese Maschinen als gleichwertige Personen zu betrachten. Wir haben erlebt, wie Menschen behaupteten, Chatbots seien empfindungsfähig, wir haben beobachtet, wie sie sich in Chatbots verliebten, und wir haben sogar miterlebt, wie sie von Chatbots zum Selbstmord überredet wurden.
Solche Entwicklungen würden den deutschen Wissenschaftler vermutlich betrüben. Weizenbaums Tochter Miriam sagte dem Smithsonian Magazine, ihr Vater „würde die Tragik erkennen, dass sich Menschen buchstäblich zu Nullen und Einsen hingezogen fühlen, sich buchstäblich an Code klammern.“
Weizenbaum trat 1988 in den Ruhestand ein und kehrte 1996 nach Deutschland zurück, wo er ein offeneres Ohr für seine Ansichten fand. Er starb 2008.
Weizenbaum war ein in sich gekehrter, melancholischer und selbstkritischer Mann, doch von fester Überzeugung und mystischer Intuition geprägt. Er erkannte das Wunder und Geheimnis der Welt mit einer Gewissheit, die jeden mathematischen Beweis übertrifft. Es gibt mehr als Nullen und Einsen, etwas jenseits von Zahnrädern, Rädern und Atomen. Es gibt etwas in uns und unseren Erfahrungen. Und dieses etwas wird sich für immer der Vorhersage, der Automatisierung und der Berechnung entziehen.
Weizenbaum war für diese Erfahrungen sensibel.
Er sagte Pörksen: „Ich denke nicht, dass es irgendwo oben im Himmel einen alten Mann gibt, der, in Bettwäsche gehüllt, das Geschehen in der Welt beobachtet, umgeben von blonden Frauen mit Flügeln, die um ihn herumfliegen. Aber es hat doch in meinem Leben die Erfahrung des Wunders gegeben. Da ist die Erfahrung der Trauer und der Erschütterung, da ist die plötzliche Freude am Morgen, da ist die Erfahrung der Liebe zwischen Menschen. Nun, ein Wunder ist eben ein Wunder; man kann es nicht beschreiben, man müsste ein Künstler sein, um sich ihm anzunähern.“
In seinem Buch beschrieb Weizenbaum einen Moment dieser menschlichen Liebe und Verbundenheit:
„Als meine Kinder noch klein waren, stand ich zuweilen zusammen mit meiner Frau über das Bett gebeugt, in dem sie schliefen. Wir sprachen miteinander, ohne zu reden; es war die Wiederholung einer Szene, so alt wie die Menschheit selbst.“
In diesem Moment geschah etwas, das über Sprache hinausgeht, geschweige denn über Algorithmen, argumentierte Weizenbaum.
„Meine Auffassung ist in der Tat, dass es etwas Unsagbares gibt, eine lebendige Wahrheit, die sich nicht in Worte fassen lässt“, konkretisierte Weizenbaum im Interview.
Für Weizenbaum besitzt die menschliche Verbindung – Gespräch, Empathie, gemeinsame Erfahrung – eine Tiefe, die kein Algorithmus nachbilden konnte.
Foto: AndreyPopov/iStock
Diese mystische Neigung machte Weizenbaum für die einen zum Helden und für andere zur Zielscheibe des Spotts. Doch man muss seine spirituellen Intuitionen nicht teilen, um seinen gesunden Menschenverstand und seine Bedenken zu würdigen. Trotz all ihrer technischen Zauberei ist KI moralisch träge. Es fehlt ihnen das Gewissen, das wir alle in unseren Herzen erfahren. Aus diesem Grund sollten sie nicht in Positionen gebracht werden, in denen sie moralische Urteile fällen.
Oder mit Weizenbaums eigenen Worten:
„Was als elementarste Einsicht hervorgeht, ist, dass wir, da wir derzeit keine Möglichkeiten haben, Computer weise zu machen, Computern derzeit keine Aufgaben übertragen sollten, die Weisheit erfordern.“
Dies ist eine Herausforderung, über die wir in unserer Zeit gut daran täten, nachzudenken.
(Archivbild). - Foto: Alexander Koerner/Getty Images
Die Unternehmen Telekom und SAP sollen für Bund, Länder und Kommunen eine gemeinsame KI-Infrastruktur aufbauen. Das Bundesdigitalministerium erteilte ihnen dafür den Zuschlag, wie die Beteiligten am Donnerstag gemeinsam mitteilten. Zuvor hätten sich die Mitbewerber Google und Adesso aus dem Vergabeverfahren zurückgezogen, hieß es.
„Mit diesem Beschluss setzt die Bundesregierung ein starkes Signal: Deutschland macht Tempo bei der Automatisierung von Verwaltungsprozessen“, erklärte Bundesdigitalminister Karsten Wildberger (CDU).
Die geplante gemeinsame KI-Cloud solle „das Rückgrat einer souveränen, digitalen und KI-fähigen Verwaltung in Deutschland“ bilden. Er begrüßte, dass es dafür nun eine europäische Lösung geben werde.
Telekom und SAP wollen digitale Souveränität stärken
„Europa nimmt seine digitale Zukunft selbst in die Hand“, erklärte Telekom-Chef Tim Höttges. „Wer künftig in der Welt noch eine Rolle spielen will, muss im Rennen um digitale Souveränität vorne sein“, hob er hervor. Europa habe hier „enormen Nachholbedarf“.
„Digitale Souveränität und Künstliche Intelligenz gehören zusammen“, erklärte SAP-Chef Christian Klein. Genau hier setze die neue gemeinsame Initiative an. Das Ziel sei, auf sichere Weise „Innovation im öffentlichen Sektor zu beschleunigen“ und einen gemeinsamen Standard für Bund, Länder und Kommunen anzubieten.
Geplant ist, dass Behörden der unterschiedlichen staatlichen Ebenen künftig auf gemeinsamen technischen Standards und Plattformen aufbauen, statt viele Einzellösungen zu entwickeln. Die KI-Plattform soll so zur zentralen Schaltstelle für die gesamte öffentliche Verwaltung werden. Als Anwendungsbereiche wurden Dokumentenverarbeitung, Wissensmanagement, Übersetzungen, Textzusammenfassungen und die Beschleunigung von Planungs- und Genehmigungsverfahren genannt. (afp/red)
