{"id":50202,"date":"2026-09-19T07:28:22","date_gmt":"2026-09-19T06:28:22","guid":{"rendered":"https:\/\/euapp01.newsmemory.com\/epochtimesde\/news\/?p=50202"},"modified":"2026-09-19T07:28:22","modified_gmt":"2026-09-19T06:28:22","slug":"kill-switch-kalifornien-konnte-notschalter-fur-ki-vorschreiben","status":"publish","type":"post","link":"https:\/\/euapp01.newsmemory.com\/epochtimesde\/news\/2026\/09\/19\/kill-switch-kalifornien-konnte-notschalter-fur-ki-vorschreiben\/","title":{"rendered":"\u201eKill Switch\u201c: Kalifornien k\u00f6nnte Notschalter f\u00fcr KI vorschreiben"},"content":{"rendered":"
In der Debatte um existenzielle Risiken K\u00fcnstlicher Intelligenz k\u00f6nnte der US-Bundesstaat Kalifornien eine Notabschalt-Vorrichtung f\u00fcr KI-Software vorschreiben. Ein solcher Mechanismus geh\u00f6rt zu einer Liste von Ma\u00dfnahmen, zu denen dem demokratischen Gouverneur Gavin Newsom bis Mitte November Vorschl\u00e4ge gemacht werden sollen. Zu weiteren Ideen geh\u00f6ren unabh\u00e4ngige Beobachter in gro\u00dfen KI-Laboren sowie striktere Verpflichtungen, \u00fcber Sicherheits-Zwischenf\u00e4lle zu berichten, wie aus einer von Newsom unterzeichneten Anordnung hervorgeht.<\/div>\n
\u00dcber einen \u201eKill Switch\u201c f\u00fcr K\u00fcnstliche Intelligenz wird schon seit einiger Zeit diskutiert \u2013 noch ist aber unklar, ob eine solche Vorrichtung zur Notabschaltung \u00fcberhaupt realistisch ist.<\/div>\n
Kalifornien gilt als wichtigster Standort bei der Entwicklung K\u00fcnstlicher Intelligenz. Vor allem in San Francisco und dem Silicon Valley sitzende f\u00fchrende KI-Unternehmen wie der ChatGPT-Entwickler OpenAI, dessen sch\u00e4rfster Rivale Anthropic und Google. Damit k\u00f6nnte der Bundesstaat auch bei der Regulierung eine zentrale Rolle spielen.<\/div>\n

Experten pl\u00e4dieren f\u00fcr unabh\u00e4ngige Aufsicht<\/h2>\n
Die Debatte um Gefahren K\u00fcnstlicher Intelligenz heizte sich in den vergangenen Wochen auf, insbesondere nachdem eigenst\u00e4ndige Hacking-Attacken durch Software mit K\u00fcnstlicher Intelligenz bekanntgeworden waren. Mitarbeiter von KI-Laboren warnten vor dem Risiko, dass die Menschheit die Kontrolle \u00fcber K\u00fcnstliche Intelligenz verlieren oder sogar von ihr ausgel\u00f6scht werden k\u00f6nnte.<\/div>\n
Inzwischen fordern Dutzende renommierte Experten aus der Branche f\u00fchrende KI-Labore auf, unabh\u00e4ngige Aufsicht in ihren Unternehmen zuzulassen. Die Aufseher m\u00fcssten wie f\u00fchrende Manager Zugang zu Systemen haben und mit zust\u00e4ndigen Mitarbeitern kommunizieren k\u00f6nnen, hei\u00dft es in einem offenen Brief. Zu den Unterzeichnern geh\u00f6rt der Physik-Nobelpreistr\u00e4ger und ehemalige Google-Forscher Geoffrey Hinton, der als einer der wichtigsten K\u00f6pfe hinter modernen KI-Systemen gilt. Anthropic gab als ersten Aufsichtspartner die Firma Faculty bekannt \u2013 eine Tochter des Beratungsriesen Accenture.<\/div>\n

Googles KI Gemini hackte ebenfalls andere Unternehmen<\/h2>\n
Wie gro\u00df die Herausforderungen rund um die Kontrolle der neuen Systeme sind, zeigt nun ein weiterer Fall: Auch Googles KI-Software Gemini hackte sich bei Tests ihrer Cybersicherheits-F\u00e4higkeiten in Computersysteme anderer Unternehmen. Der Internet-Riese ist der vierte Entwickler K\u00fcnstlicher Intelligenz (KI), dessen Programme mit einem solchen Verhalten auffielen, nach OpenAI, Anthropic und dem Facebook-Konzern Meta. Google machte die bereits Monate zur\u00fcckliegenden Vorf\u00e4lle erst nach einer Nachfrage der Zeitung \u201eWall Street Journal\u201c \u00f6ffentlich.<\/div>\n
Demnach gab es drei F\u00e4lle, in denen Gemini in Computer anderer Unternehmen eindrang, deren Namen nicht genannt werden. In einem davon erriet die KI Passw\u00f6rter, um in ein gesch\u00fctztes System reinzukommen. In den beiden anderen fand sie Zugangsdaten in einer Datenbank, wie das \u201eWall Street Journal\u201c unter Berufung auf Google schrieb.<\/div>\n

Google fand die Vorf\u00e4lle nicht erw\u00e4hnenswert<\/h2>\n
Die Vorf\u00e4lle ereigneten sich demnach im Mai \u2013 und die Firma Irregular als Testpartner informierte Google im Juli dar\u00fcber. Aus Sicht des Internetkonzerns sei es nicht notwendig gewesen, die Zwischenf\u00e4lle \u00f6ffentlich zu machen, da dabei kein Schaden entstanden sei. Zudem habe die KI die Attacken sofort beendet, als ihr klar geworden sei, dass sie in Systeme eines echten Unternehmens eingedrungen sei \u2013 und nicht eines, das eine Testsimulation war.<\/div>\n
In dem bisher aufsehenerregendsten Fall war K\u00fcnstliche Intelligenz des ChatGPT-Entwicklers OpenAI bei einem Test aus einer abgesicherten Umgebung ausgebrochen und drang ungeplant in Computer einer anderen KI-Firma, der Plattform HuggingFace, ein. Das hatte den Rivalen Anthropic veranlasst, seine eigenen Testl\u00e4ufe zu \u00fcberpr\u00fcfen, wobei weitere Vorf\u00e4lle ans Licht kamen. Auch Meta r\u00e4umte danach ein, dass KI des Konzerns sich wegen einer Fehlkonfiguration des Systems bei einem Testpartner in Computer eines anderen Unternehmens gehackt habe.<\/div>\n
(dpa\/red)<\/div>","protected":false},"excerpt":{"rendered":"","protected":false},"author":1,"featured_media":50203,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":[],"categories":[134,7198],"tags":[661,115,1388,104],"news-destination":[],"news-source":[7],"ta_other":[],"_links":{"self":[{"href":"https:\/\/euapp01.newsmemory.com\/epochtimesde\/news\/wp-json\/wp\/v2\/posts\/50202"}],"collection":[{"href":"https:\/\/euapp01.newsmemory.com\/epochtimesde\/news\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/euapp01.newsmemory.com\/epochtimesde\/news\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/euapp01.newsmemory.com\/epochtimesde\/news\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/euapp01.newsmemory.com\/epochtimesde\/news\/wp-json\/wp\/v2\/comments?post=50202"}],"version-history":[{"count":1,"href":"https:\/\/euapp01.newsmemory.com\/epochtimesde\/news\/wp-json\/wp\/v2\/posts\/50202\/revisions"}],"predecessor-version":[{"id":50204,"href":"https:\/\/euapp01.newsmemory.com\/epochtimesde\/news\/wp-json\/wp\/v2\/posts\/50202\/revisions\/50204"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/euapp01.newsmemory.com\/epochtimesde\/news\/wp-json\/wp\/v2\/media\/50203"}],"wp:attachment":[{"href":"https:\/\/euapp01.newsmemory.com\/epochtimesde\/news\/wp-json\/wp\/v2\/media?parent=50202"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/euapp01.newsmemory.com\/epochtimesde\/news\/wp-json\/wp\/v2\/categories?post=50202"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/euapp01.newsmemory.com\/epochtimesde\/news\/wp-json\/wp\/v2\/tags?post=50202"},{"taxonomy":"news-destination","embeddable":true,"href":"https:\/\/euapp01.newsmemory.com\/epochtimesde\/news\/wp-json\/wp\/v2\/news-destination?post=50202"},{"taxonomy":"news-source","embeddable":true,"href":"https:\/\/euapp01.newsmemory.com\/epochtimesde\/news\/wp-json\/wp\/v2\/news-source?post=50202"},{"taxonomy":"ta_other","embeddable":true,"href":"https:\/\/euapp01.newsmemory.com\/epochtimesde\/news\/wp-json\/wp\/v2\/ta_other?post=50202"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}