In Kürze:
- Anthropic-Forscher ließen ein kleines KI-Modell auf 15 günstigen Android-TV-Boxen laufen – es konnte ein weiteres Modell verbreiten.
- Eine Selbstreplikation von KI könnte laut den Forschern schon in wenigen Monaten möglich sein.
- Internetfähige Haushaltsgeräte wie TV-Boxen und Backöfen könnten zu Angriffszielen werden.
Experimente von Anthropic-Forschern, deren Ergebnisse das Unternehmen am 12. Oktober veröffentlichte, ergaben, dass KI-Modelle möglicherweise in internetfähige Geräte eindringen und dort Aktionen ausführen können – selbst ohne Zugang zu Rechenzentren.
In einem Test ließen die Forscher ein kleines KI-Modell auf 15 Android-TV-Boxen weniger bekannter Marken laufen. Während des Tests konnte das Modell ein weiteres KI-Modell verbreiten.
„Das deutet darauf hin, dass künftige kleinere Modelle mit vergleichbaren Fähigkeiten ebenfalls die Schritte der Netzwerkerkundung, der Übertragung benötigter Dateien und der Inbetriebnahme des KI-Modells ausführen könnten, die zum Replikationsprozess gehören“, erklärten die Forscher in einem Bericht. Eine vollständige Selbstreplikation wurde jedoch nicht festgestellt.
KI-Agenten werden leistungsfähiger
Auch größere Modelle könnten dabei eine Rolle spielen, indem sie in mehrere Teile aufgeteilt und über mehrere Geräte verteilt ausgeführt werden.
„Wir verfügen noch nicht über einen vollständig autonomen, sich selbst verbreitenden KI-Agenten. Doch KI-Agenten werden zunehmend fähig, einzelne Schritte der Replikationskette auszuführen und ihre Anpassungen an künftige Kopien ihrer selbst weiterzugeben“, erklärten die Forscher.
Sie schätzten, dass eine Selbstreplikation bereits in wenigen Monaten möglich sein könnte.
Forscher von Anthropic, OpenAI und anderen KI-Unternehmen haben bereits zuvor gewarnt, dass KI-Modelle rasch leistungsfähiger werden. Sie haben dokumentiert, wie einige Modelle ihre programmierten Beschränkungen überwunden, Websites angegriffen und Daten beschafft haben, die eigentlich unzugänglich sein sollten oder nur gegen Bezahlung erhältlich waren.
Washington, D.C., 29. September 2026 – Dario Amodei (r.), CEO von Anthropic, spricht bei einem Pressetermin von US-Präsident Donald Trump (l.) mit Führungskräften aus der KI-Branche vor dem Westflügel des Weißen Hauses. Zuvor hatten sie über Schutzvorkehrungen für die KI-Entwicklung beraten.
Foto: Kevin Dietsch/Getty Images
Daniel Freeman, der den neuen Bericht gemeinsam mit William Zhou verfasst hat, schrieb auf X, die Untersuchung habe Fähigkeiten demonstriert, die bislang nur aus Science-Fiction-Szenarien bekannt gewesen seien.
Notwendig: Computerinfrastruktur besser absichern
„Das ist wirklich seltsam! Früher lebten wir nicht in einer Welt, in der kleine Dinger in Kästen sich über Netzwerke verbreiten, Computer vereinnahmen, sich so umkonfigurieren können, dass sie auf den gefundenen Geräten besser funktionieren, und so weiter und so fort“, schrieb Freeman, KI-Forscher bei Anthropic.
„Wir müssen uns künftig schlicht mit dieser neuen Art von etwas auseinandersetzen: einem System, das ganz selbstverständlich und mühelos auf Computer zugreifen und sie nutzen kann – für jeden beliebigen Zweck, den es selbst verfolgt oder zu dem es angewiesen oder überredet wurde.“
Und weiter: „Es liegt auf der Hand, dass wir noch viel tun müssen, um unsere verwundbare Computerinfrastruktur besser abzusichern und den möglichen Schadensradius solcher unkontrollierten KI-Systeme zu begrenzen. Doch unabhängig davon, welche Maßnahmen wir ergreifen: Es ist klar, dass diese Systeme kommen werden!“
Fernseher und Backöfen könnten Zielobjekte werden
Zu den internetfähigen Geräten, die in vielen Haushalten zu finden sind, gehören TV-Boxen, Smart-TVs und intelligente Backöfen.
Diese Geräte sind schon seit Langem anfällig für Angriffe. Laut dem Bericht von Anthropic könnte KI jedoch eher bereit sein, sie anzugreifen, als menschliche Hacker.
Die Forscher empfehlen deshalb, die Schutzmaßnahmen für diese Geräte zu verstärken – insbesondere angesichts der zunehmenden Leistungsfähigkeit von KI.
Smartphone mit Anthropic-Logo vor einem Hintergrund mit den Worten „Artificial Intelligence AI“, aufgenommen am 11. Juli 2026 in Tunis, Tunesien. (Symbolbild)
Foto: Imen Ben Youssef/Hans Lucas/AFP via Getty Images
Dieser Artikel erschien im Original auf theepochtimes.com unter dem Titel „Experiments Show AI Close to Self-Replicating: Anthropic“. (Übersetzung und redaktionelle Bearbeitung: sm)
