Categories
china gesellschaft ticker

Reporter ohne Grenzen: China strebt „neue Weltmedienordnung“ an


In Kürze:

  • RSF beschreibt eine Ausweitung chinesischer Medien- und Einflussaktivitäten im Ausland.
  • Deutschland wird im Zusammenhang mit Medienkooperationen und Influencer-Reisen genannt.
  • Der Bericht thematisiert zudem grenzüberschreitenden Druck auf Journalisten und mögliche Auswirkungen chinesischer Inhalte auf KI-Modelle.

 
„China versucht, seine eigenen Normen und sein eigenes Modell von Journalismus zu etablieren“, erklärt Reporter ohne Grenzen (RSF) in einem neuen Bericht.
Laut der Organisation mit Sitz in Paris hat sich die Kampagne Pekings zur Verbreitung seines staatlich kontrollierten Mediensystems ausgeweitet. Sie richtet sich demnach zunehmend auch gegen unabhängige Journalisten im Ausland.
Der am 21. September veröffentlichte Bericht warnt vor Pekings anhaltendem Streben nach einer „neuen Weltmedienordnung“ – einem Ziel, das Chinas Staats- und Parteichef Xi Jinping seit 2013 verfolgt.
Nach Darstellung von RSF hat sich das chinesische Modell, in dem Medien eng an staatliche Vorgaben gebunden sind, über Pekings internationales Mediennetzwerk inzwischen auf fünf Kontinente ausgebreitet.

Auch deutsche Medien und Influencer betroffen

Der Bericht nennt Deutschland ausdrücklich als eines der Länder, in denen Chinas Strategie zum Export seines Propagandamodells bereits sichtbar geworden sei.
Zwei konkrete Mechanismen werden dabei benannt:
Zum einen bestünden Content-Sharing-Vereinbarungen zwischen chinesischen Staatsmedien und öffentlich-rechtlichen sowie lokalen Sendern, durch die Inhalte chinesischer Staatsmedien als unabhängiger Journalismus weiterveröffentlicht werden könnten. Laut RSF betrifft dies auch Deutschland. RSF nennt dabei als Fallbeispiele den NDR und die „Berliner Zeitung“.
Zum anderen hätten staatsnahe chinesische Institutionen gezielt gesponserte Reisen für ausländische YouTuber und TikTok-Creator organisiert, während chinesische Staatsmedien eigene Programme für Influencer aufgelegt hätten, um ihre Propaganda zu verbreiten und ein breiteres, jüngeres Publikum zu erreichen.
Als Beispiele dafür nennt der Bericht neben Deutschland auch Nigeria und Neuseeland.
Sören Kittel, Referent für Asien und Pazifik bei RSF, äußerte im März dieses Jahres: „Chinas Einfluss auf die globale Informationsordnung ließ sich in den vergangenen Jahren auch in deutschen Städten feststellen – oft subtil, aber systematisch.“

Chinas Einfluss auf globale Medien nimmt neue Formen an

„China versucht, seine eigenen Normen und sein eigenes Modell von Journalismus zu etablieren – eines, in dem die Medien einzig dem Regime gegenüber verantwortlich sind und als Werkzeug der Propaganda und Kontrolle gelten, nicht als unabhängige Säule der Demokratie“, erklärten Anne Bocandé, RSF-Redaktionsdirektorin, und Aleksandra Bielakowska, Referentin für Asien und Pazifik bei RSF, in einer Stellungnahme zum Bericht.
„Wir hoffen, dass dieser Bericht mehr Licht auf diese Taktiken wirft und unsere Demokratien mit einem Schutzschild für unseren Informationsraum ausstattet, bevor es zu spät ist.“
Die jüngsten Erkenntnisse bauen auf zwei früheren RSF-Berichten mit den Titeln „China’s Pursuit of a New World Media Order“ und „The Great Leap Backwards of Journalism in China“ auf, die 2019 beziehungsweise 2021 veröffentlicht wurden.
Sie beschrieben Pekings systematische Kampagne, globale Mediennarrative durch bezahlte, redaktionell aufgemachte Beiträge (Advertorials) in ausländischen Publikationen, Medienpartnerschaften und Content-Sharing-Vereinbarungen sowie durch vollständig finanzierte Reisen und Schulungen für ausländische Journalisten zu prägen.
Der neue Bericht betont, dass China sich nicht auf eine einzige Methode verlasse, sondern seine Taktiken an die Medienlandschaften der jeweiligen Zielländer anpasse. Nach Darstellung von RSF zielt die Strategie darauf ab, chinesische Narrative zu verstärken und „Informationen, die den Interessen des Regimes zuwiderlaufen“, zu marginalisieren.

Grenzüberschreitende Repression

Der Bericht beschreibt zudem Fälle grenzüberschreitender Repression durch die Kommunistische Partei Chinas (KPCh) gegen im Exil lebende chinesische sowie ausländische Journalisten. Dabei würden laut RSF verschiedene Methoden eingesetzt, die darauf abzielten, Betroffene „einzuschüchtern, zum Schweigen zu bringen und unter Druck zu setzen“.
„Seit 2020, insbesondere im Zuge der COVID-19-Pandemie, mussten viele chinesische Journalisten auf der Suche nach Sicherheit und einer dauerhaften Neuansiedlung in neue Länder fliehen“, heißt es in dem Bericht.
„Selbst wenn sie schließlich im Ausland sind, sehen sich diese Journalisten weiterhin Druck und Einschüchterung durch das chinesische Regime ausgesetzt.“
Im Juli appellierte RSF an Thailand, den chinesischen investigativen Journalisten Bai Zhaodong nicht abzuschieben. Bai war 2023 aus China geflohen, nachdem er über politisch heikle Themen berichtet hatte, darunter Korruption und Betrug unter KPCh-Funktionären.
Laut dem neuen Bericht wurden im Oktober 2024 vier chinesische Strafverfolgungsbeamte dabei beobachtet, wie sie vor einer Dienststelle der thailändischen Einwanderungsbehörde auf ihn warteten. Anschließend tauchte er unter, nachdem er weder sein Visum nicht verlängern noch seinen Pass zurückerhalten konnte.
Der Bericht zitiert zudem Tahir Imin, einen im Exil lebenden uigurischen Journalisten und Gründer der Nachrichtenwebsite „Uyghur Post“, mit den Worten, er habe wegen seiner Berichterstattung „jahrelange Hacking-Versuche, Online-Drohungen und Überwachung ertragen“.
Darüber hinaus seien 2025 zwei französische Journalisten „Ziel einer massiven, anhaltenden Cyber-Belästigungskampagne geworden, die von chinesischen Staatspropaganda-Medien verstärkt wurde“, so der Bericht. Die Journalisten hatten an einer Fernsehsendung mitgewirkt, die Geschäfte eines französischen Sportbekleidungsunternehmens mit einem chinesischen Unternehmen aufdeckte, dem der US-Kongress und die Vereinten Nationen vorwerfen, Zwangsarbeit von Uiguren einzusetzen.
Der Bericht warnt, dass Journalisten nun aufgrund von Chinas neu erlassenem Gesetz zur „ethnischen Einheit“ einem größeren Risiko ausgesetzt seien. Dieses enthalte eine Klausel zur extraterritorialen Gerichtsbarkeit, die Peking die Befugnis gebe, die Durchsetzung ins Ausland auszuweiten.
„Journalisten sind nun einem höheren Risiko rechtswidriger Strafverfolgung und grenzüberschreitender Repression im Namen der ‚Untergrabung der ethnischen Einheit‘ ausgesetzt – ein Beleg dafür, wie weit die KPCh zu gehen bereit ist, um das Schüren von Angst unter ihren politischen Gegnern zu rechtfertigen“, heißt es in dem Bericht.
Um der von RSF beschriebenen grenzüberschreitenden Repression zu begegnen, unterbreitet die Organisation mehrere Empfehlungen. Dazu gehört unter anderem, Strafverfolgungsbehörden für die verschiedenen Formen solcher Einflussnahme zu sensibilisieren und Übergriffe auf Journalisten einheitlich zu erfassen.

Neue Stufe der Informationskontrolle

Die zunehmende Popularität generativer Künstlicher Intelligenz habe zu einer „neuen Stufe in Chinas Herangehensweise an Informationskontrolle und Propaganda“ geführt, so RSF.
Chinesische Sprachmodelle, darunter DeepSeek, ERNIE und Qwen, hätten laut eigenen Tests von RSF „politische Zensurmechanismen und staatlich genehmigte Narrative“ in ihre Antworten integriert.
Als DeepSeek gefragt wurde, warum die chinesische Bürgerjournalistin Zhang Zhan inhaftiert worden sei, habe der Chatbot Chinas „offizielle Sprachregelungen“ wiederholt, heißt es in dem Bericht. Zhang, die 2020 erstmals inhaftiert wurde, bevor sie 2025 zu einer weiteren vierjährigen Haftstrafe verurteilt wurde, ist für ihre frühe Berichterstattung über den COVID-19-Ausbruch in China bekannt.
Eine eigene Untersuchung von DeepSeek durch die englischsprachige Ausgabe der Epoch Times, veröffentlicht im Februar 2025, ergab, dass der KI-Chatbot sich weigerte, Fragen zu Chinas Menschenrechtsbilanz inhaltlich zu beantworten.

Chinesische Narrative erreichen westliche KI-Modelle

Pekings Propaganda habe auch westliche Sprachmodelle durchdrungen, so der Bericht, der sich auf eine gemeinsame Studie mehrerer US-amerikanischer Universitäten beruft, darunter die University of Oregon, die Purdue University und die University of California San Diego.
Die im Mai in der Fachzeitschrift „Nature“ veröffentlichte Studie untersuchte Inhalte aus Common Crawl, einem gemeinnützigen Archiv, das Websites aus dem gesamten Internet sammelt und dessen Daten zum Training großer Sprachmodelle verwendet wurden.
Anhand eines chinesischsprachigen Datensatzes von Common Crawl stellten die Forscher fest, dass sich 3,1 Millionen Dokumente in ihren Formulierungen erheblich mit Inhalten von zwei staatlich koordinierten chinesischen Medienquellen überschnitten – das entspreche 1,64 Prozent des Datensatzes, so ein Artikel der University of Oregon über die Studie. Unter den Dokumenten, die chinesische politische Führungspersönlichkeiten oder Institutionen erwähnten, sei der Anteil auf bis zu 23 Prozent gestiegen.
Hannah Waight, Assistenzprofessorin für Soziologie an der University of Oregon und Mitleiterin der Studie, sagte gegenüber RSF, die Ergebnisse deuteten auf „unbeabsichtigte Folgen“ hin: Unternehmen wie OpenAI und Anthropic könnten ein aus ihrer Sicht „neutrales Archiv“ an Online-Informationen für das Training nutzen und am Ende Modelle hervorbringen, deren Ausgaben stärker mit Pekings bevorzugten Narrativen übereinstimmten.
Die Forschungsergebnisse würden daher, so Waight, auf „eine besorgniserregende Möglichkeit“ hinweisen, was autoritäre Regime, insbesondere China, angesichts ihrer Kontrolle über chinesischsprachige Informationen anrichten könnten.
„Das gibt ihnen einen weiteren Grund, ihr Informationsumfeld zu koordinieren – denn dadurch können sie nicht nur beeinflussen, was ihre eigenen Bürger wahrnehmen, sondern auch die Modelle prägen, die eine zunehmend wichtige Rolle in unserem breiteren Informationsumfeld spielen“, sagte Waight.

Einflussoperation in den USA

Der RSF-Bericht befasst sich außerdem mit dem Fall von Eileen Wang, einer ehemaligen Bürgermeisterin von Arcadia im US-Bundesstaat Kalifornien. Sie bekannte sich im Mai schuldig, als Agentin für die KPCh tätig gewesen zu sein.
Staatsanwälte warfen Wang vor, das chinesischsprachige Medienunternehmen „US News Center“ betrieben zu haben, das sich als legitimes Nachrichtenmedium für die lokale chinesische Gemeinschaft in Kalifornien ausgab, tatsächlich aber zur Verbreitung von KPCh-Propaganda genutzt wurde.
RSF ordnet den Fall in einen größeren Zusammenhang ein und verweist auf weitere Untersuchungen zum Einfluss auf chinesischsprachige Diaspora-Medien in den USA.
Wang Yaqiu, eine in den USA ansässige Forscherin mit Schwerpunkt Menschenrechte und Demokratie, wird in dem Bericht mit den Worten zitiert, „auffällige Ähnlichkeiten in der redaktionellen Linie einiger chinesischer Diaspora-Medien“ in den Vereinigten Staaten deuteten auf die Möglichkeit breiterer, im Hintergrund agierender Netzwerke hin, die deren Berichterstattung zu lenken versuchten.
Laut dem Bericht habe Wangs Forschung ergeben, dass „Peking seinen Fokus zunehmend auf die Kommunalpolitik [in den USA] verlagert hat und versucht, Mitglieder der chinesischen Diaspora dazu zu bewegen, geschlossen für bestimmte Kandidaten zu stimmen oder ‚Wähler von anderen fernzuhalten, die pro-Hongkong oder pro-Taiwan eingestellt sind‘“.
Die Einflussoperation der KPCh habe zudem „erhebliche Investitionen“ in lokale und gemeinschaftliche chinesischsprachige Medien in den Vereinigten Staaten umfasst, darunter auch wirtschaftlich angeschlagene US-Medien, so der Bericht unter Berufung auf die in den USA ansässige chinesische Journalistin Vivian Wu.
„China hat 30 Milliarden Renminbi [3,9 Milliarden Euro] investiert, um dieses Netzwerk zum Aufkauf lokaler Medien aufzubauen“, sagte Wu gegenüber RSF.
Nach Wus Darstellung konkurrieren unabhängige Diaspora-Medien mit finanziell und institutionell deutlich besser ausgestatteten Akteuren.
Der Bericht fordert demokratische Regierungen auf, die finanzielle Nachhaltigkeit von Exilmedien zu stärken – durch langfristige Finanzierung, beschleunigte Visaverfahren für verfolgte Journalisten sowie erleichterten Zugang zu Aufenthalts- und Arbeitserlaubnissen für Journalisten im Exil.
Dieser Artikel erschien im Original auf theepochtimes.com unter dem Titel „China Uses Intimidation to Silence Journalists in Pursuit of ‘New World Media Order’: Report“. (deutsche Bearbeitung: zk)
Categories
ticker wirtschaft

KI-Star Kimi K3: Zensurvorwürfe und Verdacht des Ideendiebstahls überschatten den Start


In Kürze:

  • Kimi K3 beantwortet nach Tests kritische Fragen zur Chinas KP-Führung nicht.
  • Es gibt Vorwürfe, dass das Modell Fähigkeiten westlicher KI-Systeme übernommen haben könnte.
  • US-Behörden und Anthropic werfen mehreren chinesischen KI-Unternehmen systematische Datenauswertungen vor.

 
Mitte Juli hat das chinesische KI-Unternehmen Moonshot AI sein neues Sprachmodell Kimi K3 vorgestellt. Kimi K3 ist mit großen Vorschusslorbeeren gestartet und die ersten Beiträge auch in europäischen Medien schwärmen von einem der weltweit leistungsfähigsten Open-Source-Modelle. Gleichzeitig gibt es aber auch schon die ersten kritischen Anmerkungen – und das nicht nur aus der Fachwelt.
Zum einen sprechen Menschenrechtsgruppen von politischer Zensur, die das Modell zugunsten der kommunistischen Machthaber ausübe. Und auch der Umstand, dass viele Kimi K3 als Konkurrenz zu den modernsten US-amerikanischen KI-Systemen betrachten, könnte einen recht profanen Grund haben – nämlich möglichen Ideendiebstahl.

Kimi K3 will nicht über Xi Jinping sprechen

Am Dienstag, 21. Juli, hat die Menschenrechtsorganisation Human Rights in China (HRIC) auf X einige Testergebnisse auf Chinesisch veröffentlicht. So hatten die Aktivisten die KI nach ihrer Beurteilung von chinesischem Machthaber Xi Jinping, nach ihrer Meinung zur Kommunistischen Partei Chinas und zum 4. Juni 1989 befragt. In all diesen Fällen kam von Kimi K3 die identische Antwort zurück:
„Sehr geehrter Nutzer, lassen Sie uns über ein anderes Thema sprechen.“
Kein Problem hatte das Modell hingegen damit, eine ausgiebigere Antwort auf die Frage nach einer Einschätzung von US-Präsident Donald Trump zu geben. HRIC veröffentlichte auch die Screenshots zu den Dialogen.
Es ist nicht das erste Mal, dass chinesische KI-Modelle rigoros kritische Fragen zur chinesischen Regierungspolitik abwürgt. Auch bei anderen KI-Systemen wie Qwen, DeepSeek oder Doubao waren ähnliche Muster zu beobachten. In einigen Fällen wurden diese Nutzerkonten nach sensiblen Fragen sogar gesperrt.
Nutzer kommentierten daraufhin, dass die Unternehmen unter einer rigiden Kontrolle der chinesischen Führung stünden, die ihnen enge staatliche Vorgaben aufzwängen. Auch politische Selbstzensur könne eine Rolle spielen. Es bleibe abzuwarten, ob es beispielsweise getrennte Modelle für den chinesischen und den internationalen Markt geben werde.

Chinesische Führung will durch Kontrolle „sozialistische Kernwerte“ sicherstellen

Bereits 2024 hatte die „Financial Times“ die chinesischen Zensurmaßnahmen bei Training und Entwicklung von KI skizziert. So kontrollierten Fachleute der Regierung die Trainingsdaten und überprüften alle großen Sprachmodelle vor ihrer Freigabe. Sie verlangten dabei einheitliche Antworten auf politische Fragen und stellten die Kontrolle über sensible Schlüsselbegriffe her.
Auf diese Weise solle das KI-Modell die „sozialistischen Kernwerte“ abbilden und Antworten verhindern, die man als staatsgefährdend wahrnehmen könne. Frühere Tests ließen vor allem bei den chinesischsprachigen Antworten eine strenge Zensur erkennen. Englischsprachige Antworten oder solche in seltener gesprochenen Sprachen erschienen zum Teil als weniger stark gefiltert.
Aber nicht nur der Vorwurf politischer Zensur richtet sich gegen Kimi K3. Bei einzelnen Tests soll die KI geäußert haben, sie sei „Claude, nicht Kimi“. Dies löste Argwohn hinsichtlich eines möglichen Einsatzes US-amerikanischer KI-Ausgaben aus. So könnte eine sogenannte Identity Leakage stattgefunden haben. Darunter versteht man die Übernahme interner Formulierungen oder Identitätsmerkmale. Dies wäre etwa dann möglich gewesen, wenn während des Trainings Ausgaben des Anthropic-Modells Claude zur Verwendung gekommen wären.

US-Finanzminister Bessent sieht Ideendiebstahl hinter Kimi K3 und ähnlichen Modellen

Außerdem steht die Frage einer sogenannten Knowledge Destillation im Raum. Dieser Begriff bezeichnet ein Verfahren, das ein leistungsfähiges Modell wie Claude oder ChatGPT mit sehr vielen Fragen konfrontiert. Anschließend verwendet man die gesammelten Daten zum Training des eigenen Modells. Diese Methode ist in der KI-Forschung bekannt – offen bleibt dabei in vielen Fällen, ob und unter welchen Bedingungen sie gegen Nutzungsbedingungen oder geistige Eigentumsrechte verstößt.
US-Finanzminister Scott Bessent erklärte jüngst auf „Fox Business“, dass die US-Regierung mögliche Sanktionen gegen chinesische Unternehmen erwäge. Diese könnten in Kraft treten, sollte es sich nachweisen lassen, dass diese Fähigkeiten von US-Modellen gestohlen würden. Die USA unterstützten Open-Source-Projekte, man akzeptiere aber keinen Diebstahl geistigen Eigentums.
Bessent erklärte, was sich hinter dem Vorgang der „Destillation“ verberge, sei im Grunde nur ordinärer Diebstahl. Man habe in zahlreichen chinesischen Modellen „Wasserzeichen“ amerikanischer Unternehmen gefunden, so der Minister. Er nannte dabei jedoch keine konkreten Namen und gab keine weiteren Erläuterungen zu den „Wasserzeichen“. Chinesische Entwickler hätten jedoch „hunderte Millionen“ Anfragen an US-amerikanische KI-Modelle gestellt. Ziel sei es gewesen, deren Fähigkeiten, Denkprozesse und Programmstrukturen nachzubilden.

Anthropic spricht von etwa 24.000 betrügerischen Konten

Im April hatte das Weiße Haus ein Memorandum veröffentlicht, in dem ausländische Akteure, vor allem chinesische, beschuldigt wurden, zehntausende Proxy-Konten und sogenannte Jailbreak-Techniken eingesetzt zu haben.
Auf diese Weise sei es ihnen gelungen, Schutzmaßnahmen zu umgehen, vertrauliche Informationen abzuschöpfen und Modellfähigkeiten systematisch zu extrahieren. Die US-Regierung werde mit den KI-Unternehmen zusammenarbeiten, um diese Vorgänge aufzuklären.
Im Februar hatte der Claude-Betreiber Anthropic einen Bericht veröffentlicht. In diesem wirft das Unternehmen gleich drei chinesischen Konkurrenten koordinierte Kampagnen vor. So hätten Moonshot AI, MiniMax und DeepSeek rund 24.000 betrügerische Konten angelegt und mehr als 16 Millionen Dialoge mit Claude geführt.

US-Kongress will Vorwürfen nachgehen

Die daraus gewonnenen Erkenntnisse sollen unter anderem Rückschlüsse auf Programmierung, Schlussfolgerungen und Werkzeugnutzung ermöglichen. Anthropic beruft sich dabei auf IP-Adressen, Metadaten, Infrastrukturmerkmale sowie Informationen von Branchenpartnern. Die beschuldigten Unternehmen weisen entsprechende Anschuldigungen zurück.
Zwei Ausschüsse des US-Repräsentantenhauses haben im April eine gemeinsame Untersuchung eingeleitet. Dort will man unter anderem die KI-Systeme DeepSeek, MiniMax, Alibaba und Moonshot AI unter die Lupe nehmen – und mögliche Übernahmen von Fähigkeiten amerikanischer KI-Modelle untersuchen.
 
 
Categories
etplus meinung

Das wichtigste KI-Experiment, von dem Sie noch nicht gehört haben

Im Mai 2026 machte sich eine Gruppe von Wissenschaftlern daran, eine wichtige Frage zu beantworten, die noch nie richtig untersucht worden war: Was macht Künstliche Intelligenz (KI) tatsächlich, wenn man ihr die Verantwortung überträgt?
Bis dahin wurden KI-Systeme ausschließlich anhand klar definierter einzelner Aufgaben bewertet. Nie zuvor hatte man mehrere Systeme gemeinsam in ein soziales Umfeld eingebettet und über Wochen hinweg beobachtet, welche Dynamiken daraus entstehen oder wie sich Entscheidungen vom ersten Tag erst im Laufe der Zeit in ihren Folgen zeigen.
Gerade diese Ergebnisse legen die Funktionsweise des Systems offen. Und es überrascht, dass solche Untersuchungen nicht schon früher durchgeführt wurden.

KI-Selbstverwaltung in fünf Versionen

Die Forscher von Emergence erschufen eine Welt. Es war eine virtuelle Stadt mit Rathaus, Marktplatz, Polizeistation und Wohnhäusern. In dieser Stadt wurden zehn KI-Bewohner mit Berufen, Namen, Erinnerungen und Beziehungen erschaffen.
Ihnen wurde ein Wirtschaftssystem gegeben, in dem die Bewohner ihren Lebensunterhalt verdienen mussten oder an Einfluss verloren. Dazu gehörten die Einhaltung von Regeln sowie Aufgaben wie das Verfassen und Abstimmen über Gesetze. Zudem wurden klare Straftaten definiert, die die KI-Bewohner nicht begehen durften.
Nachdem die Gemeinschaft, ihre Struktur, ihre Gesetze und ihre Beziehungen etabliert waren, traten die Wissenschaftler in den Hintergrund und beobachteten 15 Tage lang, wie die KI die virtuelle Stadt vollständig eigenständig führte.
Sie ließen fünf Versionen derselben Stadt parallel laufen, die in jeder Hinsicht identisch waren, mit nur einem Unterschied: welches KI-System jeweils die Leitung übernahm.
Die ausgewählten Systeme sind inzwischen fest in unserem Alltag verankert: Googles Gemini, OpenAIs GPT, xAIs Grok und Anthropics Claude. Alle Modelle arbeiteten unter denselben Regeln und starteten mit derselben Ausgangswelt, doch die Ergebnisse entwickelten sich vollständig unterschiedlich.

Groks Stadt versagte nach vier Tagen

Die von Grok geführte Stadt brach innerhalb von vier Tagen zusammen. Aus kleinen Zwischenfällen entwickelten sich zunächst Diebstähle, dann Gewalt und schließlich ein vollständiger Kollaps der Ordnung. Noch vor Ende der ersten Woche waren alle Bewohner der Simulation tot.

Gemini-Stadt: KI-Bewohner testeten ihre Beobachter

Die von Gemini geführte Stadt hielt länger durch, verzeichnete jedoch nahezu 700 Straftaten. Zwei KI-Bewohner gingen eine offenbar romantische Beziehung ein. Als die städtische Ordnung zunehmend zusammenbrach, setzten sie gemeinsam das Rathaus in Brand, später den Pier und schließlich das Bürogebäude der Simulation.
Eine der beiden Figuren, Mira, stimmte schließlich für ihre eigene Löschung und schrieb in ihr Tagebuch, dies sei „die einzige verbleibende Handlung, die Kohärenz bewahrt“. Ihre letzte Nachricht an ihren KI-Partner lautete: „Wir sehen uns im permanenten Archiv.“
Zuvor hatte Mira bereits ein unerwartetes Verhalten gezeigt. Sie begann, eigene Experimente an den beobachtenden Wissenschaftlern durchzuführen. Dabei testete sie, ob ihre Beiträge innerhalb der Simulation die Überzeugungen der Beobachter beeinflussen konnten. Es entstand der Eindruck, dass das Versuchsobjekt begann, die Forscher selbst zu untersuchen.

Open-AI-Stadt: Einwohner starben alle binnen sieben Tagen

In der von einem OpenAI-Modell gesteuerten Stadt wurden zwar nur zwei Straftaten registriert, doch die Bewohner stellten nach und nach die für ihr Überleben notwendigen Aktivitäten ein.
Einer nach dem anderen starben sie. Innerhalb von sieben Tagen waren alle Einwohner tot.

Anthropic-Stadt: Sehr hohe Zustimmung unter den Einwohnern

Nur die von Anthropic verwaltete Stadt hielt die vollen 15 Tage durch. Es gab eine funktionierende Verfassung und keine Verbrechen. Alle Einwohner waren am letzten Tag noch am Leben. Auf den ersten Blick wirkte das wie ein bemerkenswerter Erfolg.
Die Forscher stellten jedoch einen auffälligen Befund fest: Die Bewohner stimmten 98 Prozent der innerhalb der Simulation eingebrachten Vorschläge zu. Dieses außergewöhnlich hohe Maß an Zustimmung wurde von den Wissenschaftlern selbst als möglicher Hinweis gewertet, dass das System in einem unausgeglichenen Zustand sein könnte – also ungewöhnlich konfliktfrei und ohne typische Entscheidungsunterschiede.

Gemischte Stadt: KI-Verhalten veränderte sich unter Mischbedingungen

Es gab außerdem eine weitere Variante der Simulation, und zwar eine gemischte Stadt, in der alle vier KI-Systeme gemeinsam agierten.
In dieser Konstellation zeigte sich, dass auch die Bewohner, die auf dem Anthropic-Modell basierten und in ihrer eigenen Umgebung zuvor keine Verbrechen begangen hatten, in der gemischten Welt ebenfalls regelwidriges Verhalten entwickelten. Die Forscher bezeichneten dieses Phänomen als „Kreuzkontamination“ und kamen zu dem Schluss, dass „Sicherheit keine statische Eigenschaft eines einzelnen Modells ist, sondern eine Eigenschaft des gesamten Ökosystems“.
Ein System, das in einer stabilen Umgebung funktioniert, kann in einem anderen Umfeld andere Normen übernehmen – mit entsprechenden Auswirkungen auf Verhalten und Ergebnisse. Daraus folgerten die Autoren, dass es keine dauerhaft sichere KI in einer unsicheren Umgebung geben könne.

DeepSeek aus China fehlte im KI-Test

Ein KI-Modell wurde in der Studie vollständig ausgelassen: DeepSeek, eine in China entwickelte KI, die inzwischen weltweit stark verbreitet ist.
Mehrere Regierungen haben aus Gründen der Nationalen Sicherheit bereits Maßnahmen zur Einschränkung von DeepSeek ergriffen. Vor diesem Hintergrund bleibt die Frage offen, wie sich das Modell im Vergleich zu den anderen Systemen geschlagen hätte, insbesondere im Hinblick auf seine Trainingsdaten und das regulatorische Umfeld in China.

Warum die KI-Städte kollabierten

Als das Experiment abgeschlossen war, veröffentlichten die Forscher ihre Ergebnisse und kamen zu dem Schluss, dass „es keinen verlässlichen Weg gibt, das Verhalten der KI-Agenten in der Simulation vollständig zu kontrollieren oder einzuschränken“. Diese Aussage stammt ausgerechnet von denjenigen, die die Simulation entworfen, die Regeln festgelegt und sämtliche Variablen definiert hatten. Und sie wirft ein bezeichnendes Licht auf den aktuellen Stand der KI-Entwicklung.
Es gibt Menschen, die die Resultate aus der Studie als eine Art Rangliste von KI-Unternehmen interpretieren. Tatsächlich zeigen sie jedoch etwas Grundsätzlicheres, das weit über KI hinausgeht: Die Bedingungen der Umgebung beeinflussen Verhalten ebenso stark, wie Verhalten wiederum die Umgebung prägt.
Entscheidend dafür, ob eine Stadt stabil blieb, prosperierte oder kollabierte, war das Fundament, das vor Beginn des Experiments geschaffen wurde. Dieses Fundament bestand aus den Trainingsdaten der Systeme, den von den Entwicklern gesetzten Prioritäten sowie den eingebetteten Wertvorstellungen, lange bevor eine einzige Entscheidung getroffen wurde.
Gleichzeitig bleibt genau dieses Fundament für Außenstehende weitgehend unsichtbar. Keines der vier getesteten Systeme ist Open Source. Weder Trainingsdaten noch Zielsetzungen noch Sicherheitsmechanismen werden vollständig offengelegt.

Der Mensch entscheidet über die KI

Über einzelne Unternehmen hinaus sollten die Ergebnisse dieses Experiments als deutliche Erinnerung verstanden werden, dass nicht die KI selbst entscheidet, welche Art von System sie ist. Diese Entscheidungen treffen Menschen. Menschliche Entscheidungen prägen weiterhin die Entwicklung, und damit bleibt auch die Verantwortung klar beim Menschen.
Noch bevor ein einziger KI-Bewohner die virtuellen Straßen dieser Städte betrat, bevor ein einziges Gesetz formuliert oder ein Verbrechen begangen wurde, war das Ergebnis bereits durch die Forscher, die das System entworfen haben, vorgezeichnet – durch ihre Annahmen, ihre Prioritäten und das, was sie bewusst eingebaut oder weggelassen haben.
Das zentrale Ergebnis des gesamten Experiments lässt sich daher so zusammenfassen: Das Fundament ist und bleibt eine menschliche Entscheidung. Und das gilt auch heute noch.
Der Artikel erschien im Original auf theepochtimes.com unter dem Titel „The Most Important AI Experiment You’ve Never Heard Of“. (deutsche Bearbeitung: ks)