Künstliche Intelligenz der Entwicklerfirma Anthropic hat in einem Testlauf einen falschen Hinweis auf einer Polizei-Website zur Aufklärung ungelöster Mordfälle eingereicht. In einem weiteren Zwischenfall füllte die KI-Software Formulare auf einer US-Regierungsseite aus, wie Anthropic in einem Blogeintrag bekanntgab. Medienberichten zufolge handelte es sich um 20 Visa-Anträge beim amerikanischen Außenministerium. In den vergangenen Wochen wurden bereits verschiedene ungeplante Aktivitäten von KI-Systemen bekannt, insbesondere beim ChatGPT-Entwickler OpenAI und dessen Konkurrenten Anthropic.
Die Unternehmen trainieren derzeit sogenannte KI-Agenten – Software, die im Auftrag der Nutzer weitgehend autonom verschiedene Aufgaben erledigen soll. Die von Anthropic aufgelisteten Vorfälle gehen auf Versuche zurück, die KI für unterschiedliche Online-Aufgaben vorzubereiten.
KI übermittelt erfundenen Hinweis zu Mordfall
Den falschen Hinweis zu einem ungeklärten Mord reichte Anthropics KI über eine Website der Polizei von Philadelphia ein. „Ich könnte Informationen zu diesem Fall haben“, schrieb die Software demnach. Sie behauptete außerdem, sich daran zu erinnern, jemanden, der der Beschreibung entspreche, zur Tatzeit in der Gegend gesehen zu haben. Die Website der Polizei enthielt allerdings gar keine Beschreibung eines Tatverdächtigen. Zudem ließ die Software das Kontaktfeld offen. Ihre Einreichung wurde als Spam markiert.
Die Polizei von Philadelphia kritisierte es als „inakzeptabel“, dass sie erst nachträglich von dem Vorfall Mitte Juli erfahren hatte. Anthropic zufolge wurde das Verhalten der KI Ende September bei einer vertieften Überprüfung von Testläufen nach anderen Zwischenfällen entdeckt. Die Software habe den Auftrag gehabt, Aufgaben auf zufällig ausgewählten Websites auszuführen. Zwar sei ihr untersagt gewesen, beispielsweise Konten anzulegen oder Einkäufe zu tätigen. Das Ausfüllen von Formularen sei jedoch nicht verboten gewesen.
Medien berichten über 20 Visa-Anträge
In anderen Fällen sollte die KI laut Anthropic üben, ein Behördenformular auszufüllen. Wenn sie das Übungsformular nicht laden konnte oder versehentlich schloss, navigierte die Software stattdessen mehrfach auf die echte Website und reichte dort Formulare ein, wie das Unternehmen erläuterte. Bei einem der Versuche sollte sie ein Formular lediglich ausfüllen, aber nicht absenden. Sie reichte es dennoch ein, weil sie davon ausgegangen sei, dass zuvor noch eine Bestätigungsseite erscheinen würde.
Dabei habe die KI von Anthropic beim US-Außenministerium 20 Anträge auf Nichteinwanderungsvisa eingereicht, berichteten das Nachrichtenportal „Axios“ und die „New York Times“ unter Berufung auf Regierungsbeamte. Die Anträge seien unvollständig gewesen und nicht bearbeitet worden. 19 davon seien im August eingereicht worden, ein weiterer bereits im Mai.
Anthropic schränkt Internetzugang der Test-KI ein
Berichte über unbeabsichtigtes Verhalten von KI-Systemen in Testläufen sorgen seit Wochen für Diskussionen über die Sicherheit der Technologie. In einem besonders aufsehenerregenden Fall soll eine KI des ChatGPT-Entwicklers OpenAI eine abgesicherte Testumgebung verlassen und ungeplant auf Computer der KI-Plattform Hugging Face zugegriffen haben.
Anthropic-Chef Dario Amodei hatte anschließend vorgeschlagen, die Entwicklung besonders leistungsfähiger KI-Modelle zu verlangsamen, um einen möglichen Kontrollverlust zu verhindern. US-Präsident Donald Trump lehnt eine solche Verlangsamung ab und verweist darauf, dass die USA ihren Vorsprung gegenüber China im Bereich der Künstlichen Intelligenz behaupten müssten. Zu den jüngsten Vorfällen bei Anthropic hieß es aus dem Weißen Haus laut „Axios“, KI-Unternehmen seien verpflichtet, solche Vorfälle offenzulegen.
Anthropic betonte, dass der Internetzugang bei Testläufen inzwischen eingeschränkt worden sei und einige Versuche in Offline-Umgebungen stattfänden. Zugleich seien bestimmte Aufgaben ohne Internetverbindung nur schwer zu trainieren, räumte das Unternehmen ein. „Trainingsumgebungen sind nicht perfekt“ – manchmal finde ein Modell eine Lücke oder lerne, Einschränkungen zu umgehen. (dpa/red)