Das KI-Unternehmen Anthropic hat vor dem Einsatz von Künstlicher Intelligenz zum Ausspionieren von Regierungsgegnern und Minderheiten gewarnt und dabei unter anderem China und den Iran genannt.
Anthropic erklärte am Donnerstag, 10. September, in einem Bericht über die missbräuchliche Verwendung der Technologie, in mehreren solchen Fällen den Einsatz seiner KI-Modelle gestoppt zu haben. Dies sei zwischen Januar und Juli erfolgt. Neben China und dem Iran sei es auch um Westafrika gegangen.
Dissidenten im Visier
Das Ausspionieren habe „dieselben Diaspora- und Dissidentengruppen zum Ziel gehabt, die historisch von diesen Regimen ins Visier genommen wurden“, erklärte Anthropic. Betroffen gewesen seien Demokratieaktivisten in Hongkong, Gruppen von Tibetern und Falun-Gong-Übenden in Asien sowie Minderheiten im Iran und im Ausland lebende iranische Regierungsgegner.
In einem Fall hätten iranische Akteure ein Werkzeug entwickelt, um Menschen anhand ihrer Social-Media-Profile zu identifizieren. In einem anderen Fall habe ein Auftragnehmer der malischen Sicherheitsbehörden das KI-Modell Claude genutzt, um eine Überwachungssoftware zu entwickeln.
Die Akteure aus China sammelten Geburtsdaten, Geburtsorte, Einwanderungsdaten und Social-Media-Konten ihrer Zielpersonen. Zudem spähten sie religiöse Einrichtungen aus und erstellten Grundrisse sowie Darstellungen der Außenansicht und der Gebäudestruktur.
Waffenentwicklung und Forschung zu Biostoffen
Anthropic ging nach eigenen Angaben auch gegen Versuche von Nutzern vor, Waffen zu entwerfen oder zu möglichen biologischen Kampfstoffen zu forschen.
Mit Blick auf die biologische Forschung betonte das Unternehmen jedoch, es habe sich um Wissenschaftler gehandelt, die sich mit einem Virus befasst hätten.
Den Forschern werde nicht vorgeworfen, böse Absichten verfolgt zu haben.
Vorwürfe gegen Moonshot
Das in San Francisco ansässige KI-Unternehmen warf außerdem chinesischen Entwicklern vor, heimlich Claude zu nutzen, um Nutzeranfragen zu beantworten – und dabei zugleich die eigenen Modelle mithilfe des Anthropic-Modells zu trainieren.
So habe die chinesische KI-Firma Moonshot innerhalb von zehn Tagen mit 5380 falschen Nutzerkonten fast 300.000 Nutzerfragen über Anthropic geleitet. (afp/red)