Category: wirtschaft

 

Mitte Juli hat das chinesische KI-Unternehmen Moonshot AI sein neues Sprachmodell Kimi K3 vorgestellt. Kimi K3 ist mit großen Vorschusslorbeeren gestartet und die ersten Beiträge auch in europäischen Medien schwärmen von einem der weltweit leistungsfähigsten Open-Source-Modelle. Gleichzeitig gibt es aber auch schon die ersten kritischen Anmerkungen – und das nicht nur aus der Fachwelt.

Zum einen sprechen Menschenrechtsgruppen von politischer Zensur, die das Modell zugunsten der kommunistischen Machthaber ausübe. Und auch der Umstand, dass viele Kimi K3 als Konkurrenz zu den modernsten US-amerikanischen KI-Systemen betrachten, könnte einen recht profanen Grund haben – nämlich möglichen Ideendiebstahl.

Am Dienstag, 21. Juli, hat die Menschenrechtsorganisation Human Rights in China (HRIC) auf X einige Testergebnisse auf Chinesisch veröffentlicht. So hatten die Aktivisten die KI nach ihrer Beurteilung von chinesischem Machthaber Xi Jinping, nach ihrer Meinung zur Kommunistischen Partei Chinas und zum 4. Juni 1989 befragt. In all diesen Fällen kam von Kimi K3 die identische Antwort zurück:

„Sehr geehrter Nutzer, lassen Sie uns über ein anderes Thema sprechen.“

Kein Problem hatte das Modell hingegen damit, eine ausgiebigere Antwort auf die Frage nach einer Einschätzung von US-Präsident Donald Trump zu geben. HRIC veröffentlichte auch die Screenshots zu den Dialogen.

Es ist nicht das erste Mal, dass chinesische KI-Modelle rigoros kritische Fragen zur chinesischen Regierungspolitik abwürgt. Auch bei anderen KI-Systemen wie Qwen, DeepSeek oder Doubao waren ähnliche Muster zu beobachten. In einigen Fällen wurden diese Nutzerkonten nach sensiblen Fragen sogar gesperrt.

Nutzer kommentierten daraufhin, dass die Unternehmen unter einer rigiden Kontrolle der chinesischen Führung stünden, die ihnen enge staatliche Vorgaben aufzwängen. Auch politische Selbstzensur könne eine Rolle spielen. Es bleibe abzuwarten, ob es beispielsweise getrennte Modelle für den chinesischen und den internationalen Markt geben werde.

Bereits 2024 hatte die „Financial Times“ die chinesischen Zensurmaßnahmen bei Training und Entwicklung von KI skizziert. So kontrollierten Fachleute der Regierung die Trainingsdaten und überprüften alle großen Sprachmodelle vor ihrer Freigabe. Sie verlangten dabei einheitliche Antworten auf politische Fragen und stellten die Kontrolle über sensible Schlüsselbegriffe her.

Auf diese Weise solle das KI-Modell die „sozialistischen Kernwerte“ abbilden und Antworten verhindern, die man als staatsgefährdend wahrnehmen könne. Frühere Tests ließen vor allem bei den chinesischsprachigen Antworten eine strenge Zensur erkennen. Englischsprachige Antworten oder solche in seltener gesprochenen Sprachen erschienen zum Teil als weniger stark gefiltert.

Aber nicht nur der Vorwurf politischer Zensur richtet sich gegen Kimi K3. Bei einzelnen Tests soll die KI geäußert haben, sie sei „Claude, nicht Kimi“. Dies löste Argwohn hinsichtlich eines möglichen Einsatzes US-amerikanischer KI-Ausgaben aus. So könnte eine sogenannte Identity Leakage stattgefunden haben. Darunter versteht man die Übernahme interner Formulierungen oder Identitätsmerkmale. Dies wäre etwa dann möglich gewesen, wenn während des Trainings Ausgaben des Anthropic-Modells Claude zur Verwendung gekommen wären.

Außerdem steht die Frage einer sogenannten Knowledge Destillation im Raum. Dieser Begriff bezeichnet ein Verfahren, das ein leistungsfähiges Modell wie Claude oder ChatGPT mit sehr vielen Fragen konfrontiert. Anschließend verwendet man die gesammelten Daten zum Training des eigenen Modells. Diese Methode ist in der KI-Forschung bekannt – offen bleibt dabei in vielen Fällen, ob und unter welchen Bedingungen sie gegen Nutzungsbedingungen oder geistige Eigentumsrechte verstößt.

US-Finanzminister Scott Bessent erklärte jüngst auf „Fox Business“, dass die US-Regierung mögliche Sanktionen gegen chinesische Unternehmen erwäge. Diese könnten in Kraft treten, sollte es sich nachweisen lassen, dass diese Fähigkeiten von US-Modellen gestohlen würden. Die USA unterstützten Open-Source-Projekte, man akzeptiere aber keinen Diebstahl geistigen Eigentums.

Bessent erklärte, was sich hinter dem Vorgang der „Destillation“ verberge, sei im Grunde nur ordinärer Diebstahl. Man habe in zahlreichen chinesischen Modellen „Wasserzeichen“ amerikanischer Unternehmen gefunden, so der Minister. Er nannte dabei jedoch keine konkreten Namen und gab keine weiteren Erläuterungen zu den „Wasserzeichen“. Chinesische Entwickler hätten jedoch „hunderte Millionen“ Anfragen an US-amerikanische KI-Modelle gestellt. Ziel sei es gewesen, deren Fähigkeiten, Denkprozesse und Programmstrukturen nachzubilden.

Im April hatte das Weiße Haus ein Memorandum veröffentlicht, in dem ausländische Akteure, vor allem chinesische, beschuldigt wurden, zehntausende Proxy-Konten und sogenannte Jailbreak-Techniken eingesetzt zu haben.

Auf diese Weise sei es ihnen gelungen, Schutzmaßnahmen zu umgehen, vertrauliche Informationen abzuschöpfen und Modellfähigkeiten systematisch zu extrahieren. Die US-Regierung werde mit den KI-Unternehmen zusammenarbeiten, um diese Vorgänge aufzuklären.

Im Februar hatte der Claude-Betreiber Anthropic einen Bericht veröffentlicht. In diesem wirft das Unternehmen gleich drei chinesischen Konkurrenten koordinierte Kampagnen vor. So hätten Moonshot AI, MiniMax und DeepSeek rund 24.000 betrügerische Konten angelegt und mehr als 16 Millionen Dialoge mit Claude geführt.

Die daraus gewonnenen Erkenntnisse sollen unter anderem Rückschlüsse auf Programmierung, Schlussfolgerungen und Werkzeugnutzung ermöglichen. Anthropic beruft sich dabei auf IP-Adressen, Metadaten, Infrastrukturmerkmale sowie Informationen von Branchenpartnern. Die beschuldigten Unternehmen weisen entsprechende Anschuldigungen zurück.

Zwei Ausschüsse des US-Repräsentantenhauses haben im April eine gemeinsame Untersuchung eingeleitet. Dort will man unter anderem die KI-Systeme DeepSeek, MiniMax, Alibaba und Moonshot AI unter die Lupe nehmen – und mögliche Übernahmen von Fähigkeiten amerikanischer KI-Modelle untersuchen.