Tag: DeepSeek

Categories
ticker wirtschaft

KI-Star Kimi K3: Zensurvorwürfe und Verdacht des Ideendiebstahls überschatten den Start

Kimi-K3-Modellstand auf der World Artificial Intelligence Conference (WAIC), die am 18. Juli 2026 in Shanghai stattfand. - Foto: HECTOR RETAMAL/AFP über Getty Images

In Kürze:

  • Kimi K3 beantwortet nach Tests kritische Fragen zur Chinas KP-Führung nicht.
  • Es gibt Vorwürfe, dass das Modell Fähigkeiten westlicher KI-Systeme übernommen haben könnte.
  • US-Behörden und Anthropic werfen mehreren chinesischen KI-Unternehmen systematische Datenauswertungen vor.
 
Mitte Juli hat das chinesische KI-Unternehmen Moonshot AI sein neues Sprachmodell Kimi K3 vorgestellt. Kimi K3 ist mit großen Vorschusslorbeeren gestartet und die ersten Beiträge auch in europäischen Medien schwärmen von einem der weltweit leistungsfähigsten Open-Source-Modelle. Gleichzeitig gibt es aber auch schon die ersten kritischen Anmerkungen – und das nicht nur aus der Fachwelt.
Zum einen sprechen Menschenrechtsgruppen von politischer Zensur, die das Modell zugunsten der kommunistischen Machthaber ausübe. Und auch der Umstand, dass viele Kimi K3 als Konkurrenz zu den modernsten US-amerikanischen KI-Systemen betrachten, könnte einen recht profanen Grund haben – nämlich möglichen Ideendiebstahl.

Kimi K3 will nicht über Xi Jinping sprechen

Am Dienstag, 21. Juli, hat die Menschenrechtsorganisation Human Rights in China (HRIC) auf X einige Testergebnisse auf Chinesisch veröffentlicht. So hatten die Aktivisten die KI nach ihrer Beurteilung von chinesischem Machthaber Xi Jinping, nach ihrer Meinung zur Kommunistischen Partei Chinas und zum 4. Juni 1989 befragt. In all diesen Fällen kam von Kimi K3 die identische Antwort zurück:
„Sehr geehrter Nutzer, lassen Sie uns über ein anderes Thema sprechen.“
Kein Problem hatte das Modell hingegen damit, eine ausgiebigere Antwort auf die Frage nach einer Einschätzung von US-Präsident Donald Trump zu geben. HRIC veröffentlichte auch die Screenshots zu den Dialogen.
Mehr dazu
Es ist nicht das erste Mal, dass chinesische KI-Modelle rigoros kritische Fragen zur chinesischen Regierungspolitik abwürgt. Auch bei anderen KI-Systemen wie Qwen, DeepSeek oder Doubao waren ähnliche Muster zu beobachten. In einigen Fällen wurden diese Nutzerkonten nach sensiblen Fragen sogar gesperrt.
Nutzer kommentierten daraufhin, dass die Unternehmen unter einer rigiden Kontrolle der chinesischen Führung stünden, die ihnen enge staatliche Vorgaben aufzwängen. Auch politische Selbstzensur könne eine Rolle spielen. Es bleibe abzuwarten, ob es beispielsweise getrennte Modelle für den chinesischen und den internationalen Markt geben werde.

Chinesische Führung will durch Kontrolle „sozialistische Kernwerte“ sicherstellen

Bereits 2024 hatte die „Financial Times“ die chinesischen Zensurmaßnahmen bei Training und Entwicklung von KI skizziert. So kontrollierten Fachleute der Regierung die Trainingsdaten und überprüften alle großen Sprachmodelle vor ihrer Freigabe. Sie verlangten dabei einheitliche Antworten auf politische Fragen und stellten die Kontrolle über sensible Schlüsselbegriffe her.
Auf diese Weise solle das KI-Modell die „sozialistischen Kernwerte“ abbilden und Antworten verhindern, die man als staatsgefährdend wahrnehmen könne. Frühere Tests ließen vor allem bei den chinesischsprachigen Antworten eine strenge Zensur erkennen. Englischsprachige Antworten oder solche in seltener gesprochenen Sprachen erschienen zum Teil als weniger stark gefiltert.
Mehr dazu
Aber nicht nur der Vorwurf politischer Zensur richtet sich gegen Kimi K3. Bei einzelnen Tests soll die KI geäußert haben, sie sei „Claude, nicht Kimi“. Dies löste Argwohn hinsichtlich eines möglichen Einsatzes US-amerikanischer KI-Ausgaben aus. So könnte eine sogenannte Identity Leakage stattgefunden haben. Darunter versteht man die Übernahme interner Formulierungen oder Identitätsmerkmale. Dies wäre etwa dann möglich gewesen, wenn während des Trainings Ausgaben des Anthropic-Modells Claude zur Verwendung gekommen wären.

US-Finanzminister Bessent sieht Ideendiebstahl hinter Kimi K3 und ähnlichen Modellen

Außerdem steht die Frage einer sogenannten Knowledge Destillation im Raum. Dieser Begriff bezeichnet ein Verfahren, das ein leistungsfähiges Modell wie Claude oder ChatGPT mit sehr vielen Fragen konfrontiert. Anschließend verwendet man die gesammelten Daten zum Training des eigenen Modells. Diese Methode ist in der KI-Forschung bekannt – offen bleibt dabei in vielen Fällen, ob und unter welchen Bedingungen sie gegen Nutzungsbedingungen oder geistige Eigentumsrechte verstößt.
US-Finanzminister Scott Bessent erklärte jüngst auf „Fox Business“, dass die US-Regierung mögliche Sanktionen gegen chinesische Unternehmen erwäge. Diese könnten in Kraft treten, sollte es sich nachweisen lassen, dass diese Fähigkeiten von US-Modellen gestohlen würden. Die USA unterstützten Open-Source-Projekte, man akzeptiere aber keinen Diebstahl geistigen Eigentums.
Mehr dazu
Bessent erklärte, was sich hinter dem Vorgang der „Destillation“ verberge, sei im Grunde nur ordinärer Diebstahl. Man habe in zahlreichen chinesischen Modellen „Wasserzeichen“ amerikanischer Unternehmen gefunden, so der Minister. Er nannte dabei jedoch keine konkreten Namen und gab keine weiteren Erläuterungen zu den „Wasserzeichen“. Chinesische Entwickler hätten jedoch „hunderte Millionen“ Anfragen an US-amerikanische KI-Modelle gestellt. Ziel sei es gewesen, deren Fähigkeiten, Denkprozesse und Programmstrukturen nachzubilden.

Anthropic spricht von etwa 24.000 betrügerischen Konten

Im April hatte das Weiße Haus ein Memorandum veröffentlicht, in dem ausländische Akteure, vor allem chinesische, beschuldigt wurden, zehntausende Proxy-Konten und sogenannte Jailbreak-Techniken eingesetzt zu haben.
Auf diese Weise sei es ihnen gelungen, Schutzmaßnahmen zu umgehen, vertrauliche Informationen abzuschöpfen und Modellfähigkeiten systematisch zu extrahieren. Die US-Regierung werde mit den KI-Unternehmen zusammenarbeiten, um diese Vorgänge aufzuklären.
Mehr dazu
Im Februar hatte der Claude-Betreiber Anthropic einen Bericht veröffentlicht. In diesem wirft das Unternehmen gleich drei chinesischen Konkurrenten koordinierte Kampagnen vor. So hätten Moonshot AI, MiniMax und DeepSeek rund 24.000 betrügerische Konten angelegt und mehr als 16 Millionen Dialoge mit Claude geführt.

US-Kongress will Vorwürfen nachgehen

Die daraus gewonnenen Erkenntnisse sollen unter anderem Rückschlüsse auf Programmierung, Schlussfolgerungen und Werkzeugnutzung ermöglichen. Anthropic beruft sich dabei auf IP-Adressen, Metadaten, Infrastrukturmerkmale sowie Informationen von Branchenpartnern. Die beschuldigten Unternehmen weisen entsprechende Anschuldigungen zurück.
Zwei Ausschüsse des US-Repräsentantenhauses haben im April eine gemeinsame Untersuchung eingeleitet. Dort will man unter anderem die KI-Systeme DeepSeek, MiniMax, Alibaba und Moonshot AI unter die Lupe nehmen – und mögliche Übernahmen von Fähigkeiten amerikanischer KI-Modelle untersuchen.
(Mit Material der englischsprachigen Epoch Times)
 
 
Categories
etplus meinung

Das wichtigste KI-Experiment, von dem Sie noch nicht gehört haben

Im Mai 2026 machte sich eine Gruppe von Wissenschaftlern daran, eine wichtige Frage zu beantworten, die noch nie richtig untersucht worden war: Was macht Künstliche Intelligenz (KI) tatsächlich, wenn man ihr die Verantwortung überträgt?
Bis dahin wurden KI-Systeme ausschließlich anhand klar definierter einzelner Aufgaben bewertet. Nie zuvor hatte man mehrere Systeme gemeinsam in ein soziales Umfeld eingebettet und über Wochen hinweg beobachtet, welche Dynamiken daraus entstehen oder wie sich Entscheidungen vom ersten Tag erst im Laufe der Zeit in ihren Folgen zeigen.
Gerade diese Ergebnisse legen die Funktionsweise des Systems offen. Und es überrascht, dass solche Untersuchungen nicht schon früher durchgeführt wurden.

KI-Selbstverwaltung in fünf Versionen

Die Forscher von Emergence erschufen eine Welt. Es war eine virtuelle Stadt mit Rathaus, Marktplatz, Polizeistation und Wohnhäusern. In dieser Stadt wurden zehn KI-Bewohner mit Berufen, Namen, Erinnerungen und Beziehungen erschaffen.
Ihnen wurde ein Wirtschaftssystem gegeben, in dem die Bewohner ihren Lebensunterhalt verdienen mussten oder an Einfluss verloren. Dazu gehörten die Einhaltung von Regeln sowie Aufgaben wie das Verfassen und Abstimmen über Gesetze. Zudem wurden klare Straftaten definiert, die die KI-Bewohner nicht begehen durften.
Mehr dazu
Nachdem die Gemeinschaft, ihre Struktur, ihre Gesetze und ihre Beziehungen etabliert waren, traten die Wissenschaftler in den Hintergrund und beobachteten 15 Tage lang, wie die KI die virtuelle Stadt vollständig eigenständig führte.
Sie ließen fünf Versionen derselben Stadt parallel laufen, die in jeder Hinsicht identisch waren, mit nur einem Unterschied: welches KI-System jeweils die Leitung übernahm.
Die ausgewählten Systeme sind inzwischen fest in unserem Alltag verankert: Googles Gemini, OpenAIs GPT, xAIs Grok und Anthropics Claude. Alle Modelle arbeiteten unter denselben Regeln und starteten mit derselben Ausgangswelt, doch die Ergebnisse entwickelten sich vollständig unterschiedlich.

Groks Stadt versagte nach vier Tagen

Die von Grok geführte Stadt brach innerhalb von vier Tagen zusammen. Aus kleinen Zwischenfällen entwickelten sich zunächst Diebstähle, dann Gewalt und schließlich ein vollständiger Kollaps der Ordnung. Noch vor Ende der ersten Woche waren alle Bewohner der Simulation tot.
Mehr dazu

Gemini-Stadt: KI-Bewohner testeten ihre Beobachter

Die von Gemini geführte Stadt hielt länger durch, verzeichnete jedoch nahezu 700 Straftaten. Zwei KI-Bewohner gingen eine offenbar romantische Beziehung ein. Als die städtische Ordnung zunehmend zusammenbrach, setzten sie gemeinsam das Rathaus in Brand, später den Pier und schließlich das Bürogebäude der Simulation.
Eine der beiden Figuren, Mira, stimmte schließlich für ihre eigene Löschung und schrieb in ihr Tagebuch, dies sei „die einzige verbleibende Handlung, die Kohärenz bewahrt“. Ihre letzte Nachricht an ihren KI-Partner lautete: „Wir sehen uns im permanenten Archiv.“
Zuvor hatte Mira bereits ein unerwartetes Verhalten gezeigt. Sie begann, eigene Experimente an den beobachtenden Wissenschaftlern durchzuführen. Dabei testete sie, ob ihre Beiträge innerhalb der Simulation die Überzeugungen der Beobachter beeinflussen konnten. Es entstand der Eindruck, dass das Versuchsobjekt begann, die Forscher selbst zu untersuchen.

Open-AI-Stadt: Einwohner starben alle binnen sieben Tagen

In der von einem OpenAI-Modell gesteuerten Stadt wurden zwar nur zwei Straftaten registriert, doch die Bewohner stellten nach und nach die für ihr Überleben notwendigen Aktivitäten ein.
Einer nach dem anderen starben sie. Innerhalb von sieben Tagen waren alle Einwohner tot.
Mehr dazu

Anthropic-Stadt: Sehr hohe Zustimmung unter den Einwohnern

Nur die von Anthropic verwaltete Stadt hielt die vollen 15 Tage durch. Es gab eine funktionierende Verfassung und keine Verbrechen. Alle Einwohner waren am letzten Tag noch am Leben. Auf den ersten Blick wirkte das wie ein bemerkenswerter Erfolg.
Die Forscher stellten jedoch einen auffälligen Befund fest: Die Bewohner stimmten 98 Prozent der innerhalb der Simulation eingebrachten Vorschläge zu. Dieses außergewöhnlich hohe Maß an Zustimmung wurde von den Wissenschaftlern selbst als möglicher Hinweis gewertet, dass das System in einem unausgeglichenen Zustand sein könnte – also ungewöhnlich konfliktfrei und ohne typische Entscheidungsunterschiede.

Gemischte Stadt: KI-Verhalten veränderte sich unter Mischbedingungen

Es gab außerdem eine weitere Variante der Simulation, und zwar eine gemischte Stadt, in der alle vier KI-Systeme gemeinsam agierten.
In dieser Konstellation zeigte sich, dass auch die Bewohner, die auf dem Anthropic-Modell basierten und in ihrer eigenen Umgebung zuvor keine Verbrechen begangen hatten, in der gemischten Welt ebenfalls regelwidriges Verhalten entwickelten. Die Forscher bezeichneten dieses Phänomen als „Kreuzkontamination“ und kamen zu dem Schluss, dass „Sicherheit keine statische Eigenschaft eines einzelnen Modells ist, sondern eine Eigenschaft des gesamten Ökosystems“.
Ein System, das in einer stabilen Umgebung funktioniert, kann in einem anderen Umfeld andere Normen übernehmen – mit entsprechenden Auswirkungen auf Verhalten und Ergebnisse. Daraus folgerten die Autoren, dass es keine dauerhaft sichere KI in einer unsicheren Umgebung geben könne.

DeepSeek aus China fehlte im KI-Test

Ein KI-Modell wurde in der Studie vollständig ausgelassen: DeepSeek, eine in China entwickelte KI, die inzwischen weltweit stark verbreitet ist.
Mehrere Regierungen haben aus Gründen der Nationalen Sicherheit bereits Maßnahmen zur Einschränkung von DeepSeek ergriffen. Vor diesem Hintergrund bleibt die Frage offen, wie sich das Modell im Vergleich zu den anderen Systemen geschlagen hätte, insbesondere im Hinblick auf seine Trainingsdaten und das regulatorische Umfeld in China.
Mehr dazu

Warum die KI-Städte kollabierten

Als das Experiment abgeschlossen war, veröffentlichten die Forscher ihre Ergebnisse und kamen zu dem Schluss, dass „es keinen verlässlichen Weg gibt, das Verhalten der KI-Agenten in der Simulation vollständig zu kontrollieren oder einzuschränken“. Diese Aussage stammt ausgerechnet von denjenigen, die die Simulation entworfen, die Regeln festgelegt und sämtliche Variablen definiert hatten. Und sie wirft ein bezeichnendes Licht auf den aktuellen Stand der KI-Entwicklung.
Es gibt Menschen, die die Resultate aus der Studie als eine Art Rangliste von KI-Unternehmen interpretieren. Tatsächlich zeigen sie jedoch etwas Grundsätzlicheres, das weit über KI hinausgeht: Die Bedingungen der Umgebung beeinflussen Verhalten ebenso stark, wie Verhalten wiederum die Umgebung prägt.
Entscheidend dafür, ob eine Stadt stabil blieb, prosperierte oder kollabierte, war das Fundament, das vor Beginn des Experiments geschaffen wurde. Dieses Fundament bestand aus den Trainingsdaten der Systeme, den von den Entwicklern gesetzten Prioritäten sowie den eingebetteten Wertvorstellungen, lange bevor eine einzige Entscheidung getroffen wurde.
Gleichzeitig bleibt genau dieses Fundament für Außenstehende weitgehend unsichtbar. Keines der vier getesteten Systeme ist Open Source. Weder Trainingsdaten noch Zielsetzungen noch Sicherheitsmechanismen werden vollständig offengelegt.

Der Mensch entscheidet über die KI

Über einzelne Unternehmen hinaus sollten die Ergebnisse dieses Experiments als deutliche Erinnerung verstanden werden, dass nicht die KI selbst entscheidet, welche Art von System sie ist. Diese Entscheidungen treffen Menschen. Menschliche Entscheidungen prägen weiterhin die Entwicklung, und damit bleibt auch die Verantwortung klar beim Menschen.
Noch bevor ein einziger KI-Bewohner die virtuellen Straßen dieser Städte betrat, bevor ein einziges Gesetz formuliert oder ein Verbrechen begangen wurde, war das Ergebnis bereits durch die Forscher, die das System entworfen haben, vorgezeichnet – durch ihre Annahmen, ihre Prioritäten und das, was sie bewusst eingebaut oder weggelassen haben.
Das zentrale Ergebnis des gesamten Experiments lässt sich daher so zusammenfassen: Das Fundament ist und bleibt eine menschliche Entscheidung. Und das gilt auch heute noch.
Der Artikel erschien im Original auf theepochtimes.com unter dem Titel „The Most Important AI Experiment You’ve Never Heard Of“. (deutsche Bearbeitung: ks)