{"id":57675,"date":"2026-10-10T09:59:45","date_gmt":"2026-10-10T08:59:45","guid":{"rendered":"https:\/\/euapp01.newsmemory.com\/epochtimesde\/news\/?p=57675"},"modified":"2026-10-10T09:59:45","modified_gmt":"2026-10-10T08:59:45","slug":"anthropic-ki-reicht-falschen-mordhinweis-ein-und-stellt-visa-antrage","status":"publish","type":"post","link":"https:\/\/euapp01.newsmemory.com\/epochtimesde\/news\/2026\/10\/10\/anthropic-ki-reicht-falschen-mordhinweis-ein-und-stellt-visa-antrage\/","title":{"rendered":"Anthropic-KI reicht falschen Mordhinweis ein und stellt Visa-Antr\u00e4ge"},"content":{"rendered":"
K\u00fcnstliche Intelligenz der Entwicklerfirma Anthropic hat in einem Testlauf einen falschen Hinweis auf einer Polizei-Website zur Aufkl\u00e4rung ungel\u00f6ster Mordf\u00e4lle eingereicht. In einem weiteren Zwischenfall f\u00fcllte die KI-Software Formulare auf einer US-Regierungsseite aus, wie Anthropic in einem Blogeintrag bekanntgab. Medienberichten zufolge handelte es sich um 20 Visa-Antr\u00e4ge beim amerikanischen Au\u00dfenministerium. In den vergangenen Wochen wurden bereits verschiedene ungeplante Aktivit\u00e4ten von KI-Systemen bekannt, insbesondere beim ChatGPT-Entwickler OpenAI und dessen Konkurrenten Anthropic.<\/div>\n
Die Unternehmen trainieren derzeit sogenannte KI-Agenten \u2013 Software, die im Auftrag der Nutzer weitgehend autonom verschiedene Aufgaben erledigen soll. Die von Anthropic aufgelisteten Vorf\u00e4lle gehen auf Versuche zur\u00fcck, die KI f\u00fcr unterschiedliche Online-Aufgaben vorzubereiten.<\/div>\n

KI \u00fcbermittelt erfundenen Hinweis zu Mordfall<\/h2>\n
Den falschen Hinweis zu einem ungekl\u00e4rten Mord reichte Anthropics KI \u00fcber eine Website der Polizei von Philadelphia ein. \u201eIch k\u00f6nnte Informationen zu diesem Fall haben\u201c, schrieb die Software demnach. Sie behauptete au\u00dferdem, sich daran zu erinnern, jemanden, der der Beschreibung entspreche, zur Tatzeit in der Gegend gesehen zu haben. Die Website der Polizei enthielt allerdings gar keine Beschreibung eines Tatverd\u00e4chtigen. Zudem lie\u00df die Software das Kontaktfeld offen. Ihre Einreichung wurde als Spam markiert.<\/div>\n
Die Polizei von Philadelphia kritisierte es als \u201einakzeptabel\u201c, dass sie erst nachtr\u00e4glich von dem Vorfall Mitte Juli erfahren hatte. Anthropic zufolge wurde das Verhalten der KI Ende September bei einer vertieften \u00dcberpr\u00fcfung von Testl\u00e4ufen nach anderen Zwischenf\u00e4llen entdeckt. Die Software habe den Auftrag gehabt, Aufgaben auf zuf\u00e4llig ausgew\u00e4hlten Websites auszuf\u00fchren. Zwar sei ihr untersagt gewesen, beispielsweise Konten anzulegen oder Eink\u00e4ufe zu t\u00e4tigen. Das Ausf\u00fcllen von Formularen sei jedoch nicht verboten gewesen.<\/div>\n

Medien berichten \u00fcber 20 Visa-Antr\u00e4ge<\/h2>\n
In anderen F\u00e4llen sollte die KI laut Anthropic \u00fcben, ein Beh\u00f6rdenformular auszuf\u00fcllen. Wenn sie das \u00dcbungsformular nicht laden konnte oder versehentlich schloss, navigierte die Software stattdessen mehrfach auf die echte Website und reichte dort Formulare ein, wie das Unternehmen erl\u00e4uterte. Bei einem der Versuche sollte sie ein Formular lediglich ausf\u00fcllen, aber nicht absenden. Sie reichte es dennoch ein, weil sie davon ausgegangen sei, dass zuvor noch eine Best\u00e4tigungsseite erscheinen w\u00fcrde.<\/div>\n
Dabei habe die KI von Anthropic beim US-Au\u00dfenministerium 20 Antr\u00e4ge auf Nichteinwanderungsvisa eingereicht, berichteten das Nachrichtenportal \u201eAxios\u201c und die \u201eNew York Times\u201c unter Berufung auf Regierungsbeamte. Die Antr\u00e4ge seien unvollst\u00e4ndig gewesen und nicht bearbeitet worden. 19 davon seien im August eingereicht worden, ein weiterer bereits im Mai.<\/div>\n

Anthropic schr\u00e4nkt Internetzugang der Test-KI ein<\/h2>\n
Berichte \u00fcber unbeabsichtigtes Verhalten von KI-Systemen in Testl\u00e4ufen sorgen seit Wochen f\u00fcr Diskussionen \u00fcber die Sicherheit der Technologie. In einem besonders aufsehenerregenden Fall soll eine KI des ChatGPT-Entwicklers OpenAI eine abgesicherte Testumgebung verlassen und ungeplant auf Computer der KI-Plattform Hugging Face zugegriffen haben.<\/div>\n
Anthropic-Chef Dario Amodei hatte anschlie\u00dfend vorgeschlagen, die Entwicklung besonders leistungsf\u00e4higer KI-Modelle zu verlangsamen, um einen m\u00f6glichen Kontrollverlust zu verhindern. US-Pr\u00e4sident Donald Trump lehnt eine solche Verlangsamung ab und verweist darauf, dass die USA ihren Vorsprung gegen\u00fcber China im Bereich der K\u00fcnstlichen Intelligenz behaupten m\u00fcssten. Zu den j\u00fcngsten Vorf\u00e4llen bei Anthropic hie\u00df es aus dem Wei\u00dfen Haus laut \u201eAxios\u201c, KI-Unternehmen seien verpflichtet, solche Vorf\u00e4lle offenzulegen.<\/div>\n
Anthropic betonte, dass der Internetzugang bei Testl\u00e4ufen inzwischen eingeschr\u00e4nkt worden sei und einige Versuche in Offline-Umgebungen stattf\u00e4nden. Zugleich seien bestimmte Aufgaben ohne Internetverbindung nur schwer zu trainieren, r\u00e4umte das Unternehmen ein. \u201eTrainingsumgebungen sind nicht perfekt\u201c \u2013 manchmal finde ein Modell eine L\u00fccke oder lerne, Einschr\u00e4nkungen zu umgehen. (dpa\/red)<\/div>","protected":false},"excerpt":{"rendered":"","protected":false},"author":1,"featured_media":57676,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":[],"categories":[130,7198],"tags":[661,115,1388,104],"news-destination":[],"news-source":[7],"ta_other":[],"_links":{"self":[{"href":"https:\/\/euapp01.newsmemory.com\/epochtimesde\/news\/wp-json\/wp\/v2\/posts\/57675"}],"collection":[{"href":"https:\/\/euapp01.newsmemory.com\/epochtimesde\/news\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/euapp01.newsmemory.com\/epochtimesde\/news\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/euapp01.newsmemory.com\/epochtimesde\/news\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/euapp01.newsmemory.com\/epochtimesde\/news\/wp-json\/wp\/v2\/comments?post=57675"}],"version-history":[{"count":1,"href":"https:\/\/euapp01.newsmemory.com\/epochtimesde\/news\/wp-json\/wp\/v2\/posts\/57675\/revisions"}],"predecessor-version":[{"id":57677,"href":"https:\/\/euapp01.newsmemory.com\/epochtimesde\/news\/wp-json\/wp\/v2\/posts\/57675\/revisions\/57677"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/euapp01.newsmemory.com\/epochtimesde\/news\/wp-json\/wp\/v2\/media\/57676"}],"wp:attachment":[{"href":"https:\/\/euapp01.newsmemory.com\/epochtimesde\/news\/wp-json\/wp\/v2\/media?parent=57675"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/euapp01.newsmemory.com\/epochtimesde\/news\/wp-json\/wp\/v2\/categories?post=57675"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/euapp01.newsmemory.com\/epochtimesde\/news\/wp-json\/wp\/v2\/tags?post=57675"},{"taxonomy":"news-destination","embeddable":true,"href":"https:\/\/euapp01.newsmemory.com\/epochtimesde\/news\/wp-json\/wp\/v2\/news-destination?post=57675"},{"taxonomy":"news-source","embeddable":true,"href":"https:\/\/euapp01.newsmemory.com\/epochtimesde\/news\/wp-json\/wp\/v2\/news-source?post=57675"},{"taxonomy":"ta_other","embeddable":true,"href":"https:\/\/euapp01.newsmemory.com\/epochtimesde\/news\/wp-json\/wp\/v2\/ta_other?post=57675"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}