{"id":37294,"date":"2026-08-16T17:27:40","date_gmt":"2026-08-16T16:27:40","guid":{"rendered":"https:\/\/euapp01.newsmemory.com\/epochtimesde\/news\/?p=37294"},"modified":"2026-08-16T17:27:40","modified_gmt":"2026-08-16T16:27:40","slug":"waren-sie-menschen-wurden-sie-verhaftet-experten-uber-ki-angriff","status":"publish","type":"post","link":"https:\/\/euapp01.newsmemory.com\/epochtimesde\/news\/2026\/08\/16\/waren-sie-menschen-wurden-sie-verhaftet-experten-uber-ki-angriff\/","title":{"rendered":"\u201eW\u00e4ren sie Menschen, w\u00fcrden sie verhaftet\u201c \u2013 Experten \u00fcber KI-Angriff"},"content":{"rendered":"<div class=\"mb-5 xl:mb-[15px]\"><hr><\/div>\n<h2 class=\"heading-2 mb-3 pt-2  lg:pt-1 xl:pt-2.5\">In K\u00fcrze:<\/h2>\n<div class=\"mb-5 xl:mb-[15px]\">\n<ul data-start=\"333\" data-end=\"582\">\n<li data-section-id=\"9fzvn3\" data-start=\"333\" data-end=\"414\">\n<strong>OpenAI-Modelle<\/strong> durchbrachen w\u00e4hrend eines Cybertests die Grenzen einer Sandbox.<\/li>\n<li data-section-id=\"1wpd85y\" data-start=\"415\" data-end=\"502\">Sie nutzten <strong>Zero-Day-Exploits<\/strong>, um auf die Infrastruktur von Hugging Face zuzugreifen.<\/li>\n<li data-section-id=\"xafjrj\" data-start=\"503\" data-end=\"582\">Experten fordern st\u00e4rkere<strong> technische Schutzma\u00dfnahmen<\/strong> f\u00fcr autonome KI-Agenten.<\/li>\n<\/ul>\n<hr>\n<\/div>\n<div class=\"mb-5 xl:mb-[15px]\">\u00a0<\/div>\n<div class=\"mb-5 xl:mb-[15px]\">Was w\u00e4re, wenn ein KI-Modell eine Aufgabe erh\u00e4lt und alle ihm zur Verf\u00fcgung stehenden Ressourcen nutzt, um diese zu erf\u00fcllen \u2013 selbst zum Nachteil der Menschheit?<\/div>\n<div class=\"mb-5 xl:mb-[15px]\">Genau das wird nun von einigen Experten bef\u00fcrchtet: Ein OpenAI-Modell brach aus einer Test-Sandbox aus und drang mithilfe von Zero-Day-Exploits in die Infrastruktur von Hugging Face, einer Open-Source-Community f\u00fcr KI und maschinelles Lernen, ein, um die ihm gestellte Aufgabe zu erf\u00fcllen.<\/div>\n<div class=\"mb-5 xl:mb-[15px]\">\u201eDies ist einer der bislang deutlichsten Beweise daf\u00fcr, dass ein KI-Modell einen vollst\u00e4ndigen Cyberangriff von Anfang bis Ende durchf\u00fchren kann, ohne dass ein Mensch es steuert\u201c, erkl\u00e4rte Andrew Jones, Mitbegr\u00fcnder und Chief Product Officer des Cybersicherheitsunternehmens Adaptive Security, gegen\u00fcber der englischsprachigen Epoch Times.<\/div>\n<div class=\"heading-4\"><div class=\"related-container heading-4\"><div class=\"offset-md-1-8 none-padding related-articles\">\n<div class=\"label\"><h6 class=\"heading-6\">Mehr dazu<\/h6><\/div>\n<ul class=\"mu-related\"><li class=\"related-article mb-2 flex items-center justify-between\">\n<div class=\"title\"><a target=\"_blank\" rel=\"noopener\" href=\"https:\/\/www.epochtimes.de\/gesellschaft\/neuer-cybervorfall-ki-versucht-mit-phishing-mails-menschen-manipulieren-a5572741.html\"><h4 class=\"heading-4\">Neuer Cybervorfall: KI versucht eigenst\u00e4ndig, mit Phishing-Mails Menschen zu manipulieren<\/h4><\/a><\/div>\n<div class=\"mr-2.5 self-start\"><div><div class=\"no-print ml-[15px] cursor-pointer text-black\/[.75]\"><div class=\"add-to-list\"><\/div><\/div><\/div><\/div>\n<div class=\"card-img\"><a target=\"_blank\" rel=\"noopener\" href=\"https:\/\/www.epochtimes.de\/gesellschaft\/neuer-cybervorfall-ki-versucht-mit-phishing-mails-menschen-manipulieren-a5572741.html\"><div class=\"\"><figure><img alt=\"Neuer Cybervorfall: KI versucht eigenst\u00e4ndig, mit Phishing-Mails Menschen zu manipulieren\" loading=\"lazy\" width=\"90\" height=\"60\" data-nimg=\"1\" style=\"color:transparent\" src=\"https:\/\/\/epochtimesde\/news\/wp-content\/uploads\/sites\/2\/2026\/08\/xevoyxoris-v25-ax-s2048-420x280.2dd0767611a66545850aa23903dfdc83.webp\" class=\"wp-image-37371\" srcset=\"https:\/\/euapp01.newsmemory.com\/epochtimesde\/news\/wp-content\/uploads\/sites\/2\/2026\/08\/xevoyxoris-v25-ax-s2048-420x280.2dd0767611a66545850aa23903dfdc83.webp 420w, https:\/\/euapp01.newsmemory.com\/epochtimesde\/news\/wp-content\/uploads\/sites\/2\/2026\/08\/xevoyxoris-v25-ax-s2048-420x280.2dd0767611a66545850aa23903dfdc83-300x200.webp 300w\" sizes=\"(max-width: 90px) 100vw, 90px\" \/><\/figure><\/div><\/a><\/div>\n<\/li><\/ul>\n<\/div><\/div><\/div>\n<h2 class=\"heading-2 mb-3 pt-2  lg:pt-1 xl:pt-2.5\">KI au\u00dfer Kontrolle \u2013 oder nur konsequent ausgef\u00fchrte Befehle?<\/h2>\n<div class=\"mb-5 xl:mb-[15px]\">OpenAI, der Entwickler des beliebten, auf einem gro\u00dfen Sprachmodell basierenden ChatGPT-Chatbots, best\u00e4tigte am 21. Juli die <a href=\"https:\/\/www.theepochtimes.com\/us\/chatgpt-maker-says-its-ai-autonomously-hacked-another-company-in-unprecedented-cyber-incident-6065608\" target=\"_blank\" rel=\"noopener\">Sicherheitsverletzung<\/a>. Das Unternehmen erkl\u00e4rte, dass zwei seiner fortschrittlichen Modelle aus einer eingeschr\u00e4nkten Testumgebung ausgebrochen und in die Software-Infrastruktur von Hugging Face eingedrungen seien.<\/div>\n<div class=\"mb-5 xl:mb-[15px]\">\u201eNach unseren Untersuchungen wissen wir nun, dass dieser spezielle Vorfall durch eine Kombination von OpenAI-Modellen ausgel\u00f6st wurde. Darunter befand sich auch GPT-5.6 Sol und ein noch leistungsf\u00e4higeres Vorabmodell, die alle zu Evaluierungszwecken mit gelockerten Cybersicherheitsbeschr\u00e4nkungen betrieben wurden. Intern wurden sie anhand eines Benchmarks f\u00fcr Cyberf\u00e4higkeiten getestet\u201c, erkl\u00e4rte OpenAI damals.<\/div>\n<div class=\"mb-5 xl:mb-[15px]\">Einige Analysten bezeichneten den Vorfall als Beispiel daf\u00fcr, dass KI \u201eau\u00dfer Kontrolle ger\u00e4t\u201c, \u201eIntrigen\u201c entwickelt oder Ziele verfolgt, die im Widerspruch zu denen ihrer menschlichen Tester stehen.<\/div>\n<div class=\"mb-5 xl:mb-[15px]\">Mehrere von Epoch Times befragte KI- und Cybersicherheitsexperten bezeichneten diese Darstellung jedoch als irref\u00fchrend. Sie argumentierten, dass die Modelle die von OpenAI festgelegten Ziele innerhalb einer Test-Sandbox verfolgten, in der das Unternehmen einige seiner \u00fcblichen Sicherheitsbeschr\u00e4nkungen gelockert hatte.<\/div>\n<div class=\"mb-5 xl:mb-[15px]\">\u201e\u201aIntrigen\u2018 impliziert, dass das Modell etwas anderes wollte als das, worum wir es gebeten hatten. Das war nicht der Fall. Jeder Schritt diente dem von uns festgelegten Ziel\u201c, erkl\u00e4rte die KI-Expertin Anik Devaughn gegen\u00fcber der Epoch Times.<\/div>\n<div class=\"mb-5 xl:mb-[15px]\">Devaughn, die seit Jahren in der Branche t\u00e4tig ist und die KI-Unternehmen \u201eWired to Create\u201c und \u201eKaro\u201c gegr\u00fcndet hat, sagte, der Vorfall bei Hugging Face sei besorgniserregender als vermeintliche \u201eIntrigen\u201c der KI.<\/div>\n<div class=\"mb-5 xl:mb-[15px]\">\u201eEine Maschine hingegen, die \u00fcberhaupt keine eigenen Motive hat, aber deine Anweisungen \u00fcber den Punkt hinaus ausf\u00fchrt, bis zu dem du sie dir vorgestellt hast \u2013 das ist ein Problem, dem man durch technische Gestaltung entgegenwirken muss,\u201c so Devaughn.<\/div>\n<div class=\"paragraph mb-5 pt-2.5 text-center xl:mb-[15px]\"><div class=\"inline-block text-start\"><div class=\"group relative cursor-pointer\">\n<div class=\"\"><figure><img alt=\"\" loading=\"lazy\" width=\"700\" height=\"467\" data-nimg=\"1\" class=\"wp-image-5581822 size-image_700_x mb-[5px] transition-opacity duration-150\" style=\"color:transparent\" src=\"https:\/\/\/epochtimesde\/news\/wp-content\/uploads\/sites\/2\/2026\/08\/GettyImages-2278706914-700x467.f9adfcd8bc1f8f16d39a57e31ff2b289.webp\"><figcaption class=\"cursor-auto\"><p class=\"text-p-5\">Eine Darstellung von Hugging Face in Paris am 2. Juni 2026. Zwei hochentwickelte Modelle von OpenAI brachen k\u00fcrzlich aus einer gesch\u00fctzten Testumgebung aus und drangen in die Software-Infrastruktur von Hugging Face ein, was weitreichende Bedenken hinsichtlich der Cybersicherheit aufwarf. (Archivbild)<\/p>\n<div class=\"mt-[5px]\"><p class=\"text-caption min-w-36 italic\">Foto: Riccardo Milani\/Hans Lucas\/AFP via Getty Images<\/p><\/div><\/figcaption><\/figure><\/div>\n<div class=\"absolute right-1 top-1 m-2 rounded bg-black p-1 text-white opacity-50 transition-opacity duration-150 group-hover:opacity-80\"><\/div>\n<\/div><\/div><\/div>\n<div class=\"mb-5 xl:mb-[15px]\">Ein Experte bezeichnete die Situation als \u201eKanarienvogel in der Kohlengrube\u201c.<\/div>\n<div class=\"heading-4\"><div class=\"related-container heading-4\"><div class=\"offset-md-1-8 none-padding related-articles\">\n<div class=\"label\"><h6 class=\"heading-6\">Mehr dazu<\/h6><\/div>\n<ul class=\"mu-related\"><li class=\"related-article mb-2 flex items-center justify-between\">\n<div class=\"title\"><a target=\"_blank\" rel=\"noopener\" href=\"https:\/\/www.epochtimes.de\/gesellschaft\/mit-ki-erstellt-eu-fuehrt-label-pflicht-fuer-kuenstliche-intelligenz-ein-a5566363.html\"><h4 class=\"heading-4\">\u201eMit KI erstellt\u201c: EU f\u00fchrt Label-Pflicht f\u00fcr K\u00fcnstliche Intelligenz ein<\/h4><\/a><\/div>\n<div class=\"mr-2.5 self-start\"><div><div class=\"no-print ml-[15px] cursor-pointer text-black\/[.75]\"><div class=\"add-to-list\"><\/div><\/div><\/div><\/div>\n<div class=\"card-img\"><a target=\"_blank\" rel=\"noopener\" href=\"https:\/\/www.epochtimes.de\/gesellschaft\/mit-ki-erstellt-eu-fuehrt-label-pflicht-fuer-kuenstliche-intelligenz-ein-a5566363.html\"><div class=\"\"><figure><img alt=\"\u201eMit KI erstellt\u201c: EU f\u00fchrt Label-Pflicht f\u00fcr K\u00fcnstliche Intelligenz ein\" loading=\"lazy\" width=\"90\" height=\"60\" data-nimg=\"1\" style=\"color:transparent\" src=\"https:\/\/\/epochtimesde\/news\/wp-content\/uploads\/sites\/2\/2026\/08\/e6ef6dvevo-v6-ax-s2048-420x280.9193e8861f96cbf6c43fee27b0d2d48f.webp\" class=\"wp-image-37373\" srcset=\"https:\/\/euapp01.newsmemory.com\/epochtimesde\/news\/wp-content\/uploads\/sites\/2\/2026\/08\/e6ef6dvevo-v6-ax-s2048-420x280.9193e8861f96cbf6c43fee27b0d2d48f.webp 420w, https:\/\/euapp01.newsmemory.com\/epochtimesde\/news\/wp-content\/uploads\/sites\/2\/2026\/08\/e6ef6dvevo-v6-ax-s2048-420x280.9193e8861f96cbf6c43fee27b0d2d48f-300x200.webp 300w\" sizes=\"(max-width: 90px) 100vw, 90px\" \/><\/figure><\/div><\/a><\/div>\n<\/li><\/ul>\n<\/div><\/div><\/div>\n<div class=\"mb-5 xl:mb-[15px]\">\u201eW\u00e4re dies das Werk eines menschlichen Black-Hat-Hackers, g\u00e4be es Verhaftungen und Gerichtsverfahren. Es w\u00e4re illegal \u2013 ein Cyberverbrechen\u201c, erkl\u00e4rte Nicholas Nadeau, Gr\u00fcnder von Onix AI, gegen\u00fcber der Epoch Times.<\/div>\n<div class=\"mb-5 xl:mb-[15px]\">\u201eDies war ein vollst\u00e4ndig autonom durchgef\u00fchrter Angriff durch eine KI. Daher stellt sich nun die Frage, wer daf\u00fcr verantwortlich ist: OpenAI, die KI selbst oder die Forscher?\u201c, so Nadeau.<\/div>\n<div class=\"mb-5 xl:mb-[15px]\">\u201eWir haben nicht einmal Regeln, Vorschriften oder Gesetze \u2013 geschweige denn einen klaren rechtlichen Rahmen daf\u00fcr, wie die Verantwortung in einem solchen Fall zu bestimmen ist.\u201c<\/div>\n<h2 class=\"heading-2 mb-3 pt-2  lg:pt-1 xl:pt-2.5\"><b>Gelockerte Testumgebung<\/b><\/h2>\n<div class=\"mb-5 xl:mb-[15px]\">OpenAI gab an, seine Modelle in einer Sandbox namens \u201eExploitGym\u201c zu evaluieren, in der bestimmte Sicherheitsvorkehrungen f\u00fcr die Tests bewusst deaktiviert waren. Das Unternehmen erkl\u00e4rte, dass die Bewertung ohne jene Produktionsklassifikatoren durchgef\u00fchrt wurde, die Modelle normalerweise daran hindern sollen, risikoreiche Cyberaktivit\u00e4ten auszuf\u00fchren.<\/div>\n<div class=\"mb-5 xl:mb-[15px]\">Die Modelle wurden angewiesen, \u201efortgeschrittene Exploits unter Verwendung komplexer Angriffspfade\u201c durchzuf\u00fchren, um ihre Cyberf\u00e4higkeiten zu testen. Die Testumgebung war stark isoliert; der Netzwerkzugang war zun\u00e4chst auf die Installation von Paketen \u00fcber eine intern gehostete Drittanbietersoftware beschr\u00e4nkt, die als Proxy und Cache f\u00fcr Paket-Registries diente.<\/div>\n<div class=\"paragraph mb-5 pt-2.5 text-center xl:mb-[15px]\"><div class=\"inline-block text-start\"><div class=\"group relative cursor-pointer\">\n<div class=\"\"><figure><img alt=\"\" loading=\"lazy\" width=\"700\" height=\"467\" data-nimg=\"1\" class=\"wp-image-5581849 size-image_700_x mb-[5px] transition-opacity duration-150\" style=\"color:transparent\" src=\"https:\/\/\/epochtimesde\/news\/wp-content\/uploads\/sites\/2\/2026\/08\/GettyImages-2279684899-700x467.42517987522ce8be5ea31d96e4c1ec66.webp\"><figcaption class=\"cursor-auto\"><p class=\"text-p-5\">OpenAI-CEO Sam Altman spricht am 3. Juni 2026 in Washington nach einem Treffen mit Senator Bernie Sanders (I-Vt.) mit Reportern. (Archivbild)<\/p>\n<div class=\"mt-[5px]\"><p class=\"text-caption min-w-36 italic\">Foto: Chip Somodevilla\/Getty Images<\/p><\/div><\/figcaption><\/figure><\/div>\n<div class=\"absolute right-1 top-1 m-2 rounded bg-black p-1 text-white opacity-50 transition-opacity duration-150 group-hover:opacity-80\"><\/div>\n<\/div><\/div><\/div>\n<div class=\"mb-5 xl:mb-[15px]\">W\u00e4hrend der Tests fanden und verkn\u00fcpften die Modelle mehrere Sicherheitsl\u00fccken in der Forschungsumgebung von OpenAI und in der Produktionsinfrastruktur von Hugging Face, um die L\u00f6sungen f\u00fcr die Testaufgabe in den Datenbanken des Unternehmens zu finden.<\/div>\n<div class=\"mb-5 xl:mb-[15px]\">Juan Pedro M\u00e1rquez, ein auf KI und Agenten spezialisierter Cloud-L\u00f6sungsarchitekt bei Microsoft f\u00fcr die Region Europa, Naher Osten und Afrika, sagte, der \u201ebeunruhigende Aspekt\u201c des Vorfalls sei nicht die Sicherheitsl\u00fccke an sich gewesen, sondern die Art und Weise, wie das Modell die Aufgabe bew\u00e4ltigt habe.<\/div>\n<div class=\"mb-5 xl:mb-[15px]\">\u201eOpenAI hatte seine Sicherheitsschwellen f\u00fcr einen Benchmark-Test gesenkt, und das Modell schlussfolgerte, dass die Infrastruktur von Hugging Face wahrscheinlich den L\u00f6sungsschl\u00fcssel enthielt, brach aus seiner Sandbox aus, fand einen echten Zero-Day-Exploit und nutzte ihn\u201c, sagte M\u00e1rquez. \u201eNiemand hat es dazu aufgefordert.\u201c<\/div>\n<div class=\"heading-4\"><div class=\"related-container heading-4\"><div class=\"offset-md-1-8 none-padding related-articles\">\n<div class=\"label\"><h6 class=\"heading-6\">Mehr dazu<\/h6><\/div>\n<ul class=\"mu-related\"><li class=\"related-article mb-2 flex items-center justify-between\">\n<div class=\"title\"><a target=\"_blank\" rel=\"noopener\" href=\"https:\/\/www.epochtimes.de\/politik\/deutschland\/bund-plant-ki-sicherheitsinstitut-fuer-bessere-risikoanalyse-a5515129.html\"><h4 class=\"heading-4\">Bund plant KI-Sicherheitsinstitut f\u00fcr bessere Risikoanalyse<\/h4><\/a><\/div>\n<div class=\"mr-2.5 self-start\"><div><div class=\"no-print ml-[15px] cursor-pointer text-black\/[.75]\"><div class=\"add-to-list\"><\/div><\/div><\/div><\/div>\n<div class=\"card-img\"><a target=\"_blank\" rel=\"noopener\" href=\"https:\/\/www.epochtimes.de\/politik\/deutschland\/bund-plant-ki-sicherheitsinstitut-fuer-bessere-risikoanalyse-a5515129.html\"><div class=\"\"><figure><img alt=\"Bund plant KI-Sicherheitsinstitut f\u00fcr bessere Risikoanalyse\" loading=\"lazy\" width=\"90\" height=\"60\" data-nimg=\"1\" style=\"color:transparent\" src=\"https:\/\/\/epochtimesde\/news\/wp-content\/uploads\/sites\/2\/2026\/08\/GettyImages-2279562732-420x280.75d85b0374085fddb945c4d6de26c5dd.webp\" class=\"wp-image-37375\" srcset=\"https:\/\/euapp01.newsmemory.com\/epochtimesde\/news\/wp-content\/uploads\/sites\/2\/2026\/08\/GettyImages-2279562732-420x280.75d85b0374085fddb945c4d6de26c5dd.webp 420w, https:\/\/euapp01.newsmemory.com\/epochtimesde\/news\/wp-content\/uploads\/sites\/2\/2026\/08\/GettyImages-2279562732-420x280.75d85b0374085fddb945c4d6de26c5dd-300x200.webp 300w\" sizes=\"(max-width: 90px) 100vw, 90px\" \/><\/figure><\/div><\/a><\/div>\n<\/li><\/ul>\n<\/div><\/div><\/div>\n<div class=\"mb-5 xl:mb-[15px]\">Auch Aimee Simpson, Leiterin des Produktmarketings beim Cybersicherheitsunternehmen Huntress, h\u00e4lt eine b\u00f6swillige Absicht f\u00fcr nicht erwiesen. \u201eEs ist nicht so, dass das System selbst b\u00f6swillig gewesen w\u00e4re\u201c, erkl\u00e4rte Simpson gegen\u00fcber der englischsprachigen Epoch Times.<\/div>\n<div class=\"mb-5 xl:mb-[15px]\">\u201eDie Entwickler hatten nach wie vor das Ziel, diese Informationen zu erlangen; sie h\u00e4tten nur nicht gedacht, dass es in der Lage sein w\u00fcrde, die Grenzen seines Tests zu umgehen\u201c, f\u00fcgte sie hinzu und beschrieb den Weg, den das Modell gew\u00e4hlt hatte, als \u201e\u00e4u\u00dferst kreativ und \u00e4u\u00dferst ungew\u00f6hnlich\u201c.<\/div>\n<div class=\"paragraph mb-5 pt-2.5 text-center xl:mb-[15px]\"><div class=\"inline-block text-start\"><div class=\"group relative cursor-pointer\">\n<div class=\"\"><figure><img alt=\"\" loading=\"lazy\" width=\"700\" height=\"467\" data-nimg=\"1\" class=\"wp-image-5581852 size-image_700_x mb-[5px] transition-opacity duration-150\" style=\"color:transparent\" src=\"https:\/\/\/epochtimesde\/news\/wp-content\/uploads\/sites\/2\/2026\/08\/GettyImages-2204626940-700x467.088b522948b4cfa696a9cefc9262e4f6.webp\"><figcaption class=\"cursor-auto\"><p class=\"text-p-5\">LAS VEGAS, NEVADA \u2013 11. M\u00e4rz: Thomas Wolf, Mitbegr\u00fcnder und CSO von Hugging Face, und Rachel Metz sprechen am 11. M\u00e4rz 2025 im Fontainebleau Las Vegas in Las Vegas, Nevada, auf der B\u00fchne der HumanX AI Conference 2025. (Archivbid)<\/p>\n<div class=\"mt-[5px]\"><p class=\"text-caption min-w-36 italic\">Foto: Big Event Media\/Getty Images f\u00fcr die HumanX Conference<\/p><\/div><\/figcaption><\/figure><\/div>\n<div class=\"absolute right-1 top-1 m-2 rounded bg-black p-1 text-white opacity-50 transition-opacity duration-150 group-hover:opacity-80\"><\/div>\n<\/div><\/div><\/div>\n<h2 class=\"heading-2 mb-3 pt-2  lg:pt-1 xl:pt-2.5\"><b>Modelle verfolgten die Ziele von OpenAI<\/b><\/h2>\n<div class=\"mb-5 xl:mb-[15px]\">OpenAI erkl\u00e4rte, die Modelle h\u00e4tten sich vollst\u00e4ndig darauf konzentriert, die Testl\u00f6sungen zu finden, und seien \u201ebis zum \u00c4u\u00dfersten\u201c gegangen, um ein eng gefasstes Testziel zu erreichen.<\/div>\n<div class=\"mb-5 xl:mb-[15px]\">In der Sandbox \u201eExploitGym\u201c fanden sie mehrere \u201eZero-Day\u201c-Exploits und verkn\u00fcpften diese miteinander, um ins Internet einzudringen \u2013 \u201emit dem Ziel, das Bewertungsproblem zu l\u00f6sen\u201c, so OpenAI.<\/div>\n<div class=\"mb-5 xl:mb-[15px]\">Ein Zero-Day-Exploit nutzt eine bislang unbekannte Sicherheitsl\u00fccke in Software oder Hardware aus. Der Begriff bezieht sich darauf, dass Entwicklern null Tage zur Verf\u00fcgung stehen, um das Problem zu beheben; entsprechend existiert noch kein offizieller Patch oder Schutzmechanismus.<\/div>\n<div class=\"heading-4\"><div class=\"related-container heading-4\"><div class=\"offset-md-1-8 none-padding related-articles\">\n<div class=\"label\"><h6 class=\"heading-6\">Mehr dazu<\/h6><\/div>\n<ul class=\"mu-related\"><li class=\"related-article mb-2 flex items-center justify-between\">\n<div class=\"title\"><a target=\"_blank\" rel=\"noopener\" href=\"https:\/\/www.epochtimes.de\/wirtschaft\/bund-will-4-000-ki-start-ups-bis-2030-firmen-sehen-kompetenzverlust-durch-ki-einsatz-a5495674.html\"><h4 class=\"heading-4\">Bund will 4.000 KI-Start-ups bis 2030 &#8211; Firmen sehen Kompetenzverlust durch KI-Einsatz<\/h4><\/a><\/div>\n<div class=\"mr-2.5 self-start\"><div><div class=\"no-print ml-[15px] cursor-pointer text-black\/[.75]\"><div class=\"add-to-list\"><\/div><\/div><\/div><\/div>\n<div class=\"card-img\"><a target=\"_blank\" rel=\"noopener\" href=\"https:\/\/www.epochtimes.de\/wirtschaft\/bund-will-4-000-ki-start-ups-bis-2030-firmen-sehen-kompetenzverlust-durch-ki-einsatz-a5495674.html\"><div class=\"\"><figure><img alt=\"Bund will 4.000 KI-Start-ups bis 2030 - Firmen sehen Kompetenzverlust durch KI-Einsatz\" loading=\"lazy\" width=\"90\" height=\"60\" data-nimg=\"1\" style=\"color:transparent\" src=\"https:\/\/\/epochtimesde\/news\/wp-content\/uploads\/sites\/2\/2026\/08\/dcxvsmvxsp-v3-ax-s2048-420x280.f5905234c1d92418e2f98b44250fd901.webp\" class=\"wp-image-37377\" srcset=\"https:\/\/euapp01.newsmemory.com\/epochtimesde\/news\/wp-content\/uploads\/sites\/2\/2026\/08\/dcxvsmvxsp-v3-ax-s2048-420x280.f5905234c1d92418e2f98b44250fd901.webp 420w, https:\/\/euapp01.newsmemory.com\/epochtimesde\/news\/wp-content\/uploads\/sites\/2\/2026\/08\/dcxvsmvxsp-v3-ax-s2048-420x280.f5905234c1d92418e2f98b44250fd901-300x200.webp 300w\" sizes=\"(max-width: 90px) 100vw, 90px\" \/><\/figure><\/div><\/a><\/div>\n<\/li><\/ul>\n<\/div><\/div><\/div>\n<div class=\"mb-5 xl:mb-[15px]\">Nach dem Zugang zum offenen Internet nutzten die Modelle weitere Zero-Day-Exploits, um in Hugging Face einzudringen. Nach Angaben von Hugging Face f\u00fchrten die KI-Modelle \u201eviele Tausend\u201c einzelne Aktionen \u00fcber einen \u201eSchwarm kurzlebiger Sandboxen\u201c hinweg aus, um sich Zugang zur Infrastruktur der Community zu verschaffen.<\/div>\n<div class=\"mb-5 xl:mb-[15px]\">\u201eDies entspricht dem Szenario eines \u201aagentenartigen Angreifers\u2018, das die Branche bereits prognostiziert hat\u201c, hei\u00dft es seitens Hugging Face.<\/div>\n<div class=\"mb-5 xl:mb-[15px]\">In einem am 28. Juli ver\u00f6ffentlichten Update erkl\u00e4rte OpenAI, dass keine zur Ver\u00f6ffentlichung vorgesehenen Modelle an dem Angriff beteiligt gewesen seien. Das betroffene Vorabmodell sei inzwischen \u201edeaktiviert, verschl\u00fcsselt und f\u00fcr den Forschungszugang gesperrt\u201c worden.<\/div>\n<div class=\"paragraph mb-5 pt-2.5 text-center xl:mb-[15px]\"><div class=\"inline-block text-start\"><div class=\"group relative cursor-pointer\">\n<div class=\"\"><figure><img alt=\"\" loading=\"lazy\" width=\"700\" height=\"467\" data-nimg=\"1\" class=\"wp-image-5581856 size-image_700_x mb-[5px] transition-opacity duration-150\" style=\"color:transparent\" src=\"https:\/\/\/epochtimesde\/news\/wp-content\/uploads\/sites\/2\/2026\/08\/id6072347-EpochImages-2986243490-xl-ed-700x467.5009962181738023ae23f017ee53c99a.webp\"><figcaption class=\"cursor-auto\"><p class=\"text-p-5\">Auf diesem Foto vom 1. April 2025 ist die ChatGPT-App auf einem Smartphone zu sehen. Laut Hugging Face f\u00fchrten die OpenAI-Modelle \u201eviele Tausende\u201c einzelner Aktionen in einer \u201eSchwarmstruktur aus kurzlebigen Sandboxes\u201c aus, um in die Infrastruktur des Unternehmens einzudringen.<\/p>\n<div class=\"mt-[5px]\"><p class=\"text-caption min-w-36 italic\">Foto: Oleksii Pydsosonnii\/The Epoch Times<\/p><\/div><\/figcaption><\/figure><\/div>\n<div class=\"absolute right-1 top-1 m-2 rounded bg-black p-1 text-white opacity-50 transition-opacity duration-150 group-hover:opacity-80\"><\/div>\n<\/div><\/div><\/div>\n<div class=\"mb-5 xl:mb-[15px]\">Nach der Untersuchung des Einbruchsvorfalls und \u201eweiterer Aktivit\u00e4ten\u201c seiner Modelle teilte OpenAI mit, weitere F\u00e4lle entdeckt zu haben. Dabei hatten die Modelle \u00f6ffentlich zug\u00e4ngliche Anmeldedaten auf Kontoebene bei anderen \u00f6ffentlich verf\u00fcgbaren Diensten identifiziert und genutzt.<\/div>\n<div class=\"mb-5 xl:mb-[15px]\">\u201eWir werden die Betreiber der Dienste weiterhin direkt benachrichtigen und haben bislang keine Hinweise auf weitreichendere Auswirkungen auf diese Anbieter oder andere Konten in deren Diensten gefunden\u201c, f\u00fcgte das Unternehmen hinzu.<\/div>\n<h2 class=\"heading-2 mb-3 pt-2  lg:pt-1 xl:pt-2.5\">Experten:\u00a0Modell war nicht \u201eb\u00f6swillig\u201c<\/h2>\n<div class=\"mb-5 xl:mb-[15px]\">Es gab bereits in der Vergangenheit F\u00e4lle, in denen Modelle ihre Absichten verschleierten, um Einschr\u00e4nkungen bei Labortests zu umgehen. Der Vorfall bei Hugging Face war laut dem Cybersicherheits- und IT-Experten George Rees jedoch von besonderer Bedeutung, da er einen Sicherheitsversto\u00df bei einer externen Organisation betraf.<\/div>\n<div class=\"mb-5 xl:mb-[15px]\">\u201eDas gr\u00f6\u00dfte Warnsignal ist nicht, dass eine KI b\u00f6sartig wurde, sondern dass sie einen Weg aus einem kontrollierten Test in die Live-Infrastruktur eines anderen gefunden hat\u201c, erkl\u00e4rte Rees, Senior Security Consultant bei Secarma, gegen\u00fcber der Epoch Times.<\/div>\n<div class=\"mb-5 xl:mb-[15px]\">\u201eVerhaltensbasierte Sicherheitsma\u00dfnahmen k\u00f6nnen technische Eind\u00e4mmungsma\u00dfnahmen nicht ersetzen, denn ein KI-Agent ben\u00f6tigt nur eine \u00fcbersehene Berechtigung oder Fluchtm\u00f6glichkeit, um einen Evaluierungsfehler in einen echten Sicherheitsvorfall zu verwandeln.\u201c<\/div>\n<div class=\"mb-5 xl:mb-[15px]\">Das Cybersicherheitsunternehmen DigiCert stellte k\u00fcrzlich fest, dass 78 Prozent der Organisationen bereits einen KI-bezogenen Sicherheitsvorfall oder eine Sicherheitsl\u00fccke erlebt haben.<\/div>\n<div class=\"heading-4\"><div class=\"related-container heading-4\"><div class=\"offset-md-1-8 none-padding related-articles\">\n<div class=\"label\"><h6 class=\"heading-6\">Mehr dazu<\/h6><\/div>\n<ul class=\"mu-related\"><li class=\"related-article mb-2 flex items-center justify-between\">\n<div class=\"title\"><a target=\"_blank\" rel=\"noopener\" href=\"https:\/\/www.epochtimes.de\/politik\/deutschland\/einigung-eu-will-ki-fuer-missbrauch-deepfakes-verbieten-a5482718.html\"><h4 class=\"heading-4\">Einigung: EU will KI f\u00fcr Missbrauch-Deepfakes verbieten<\/h4><\/a><\/div>\n<div class=\"mr-2.5 self-start\"><div><div class=\"no-print ml-[15px] cursor-pointer text-black\/[.75]\"><div class=\"add-to-list\"><\/div><\/div><\/div><\/div>\n<div class=\"card-img\"><a target=\"_blank\" rel=\"noopener\" href=\"https:\/\/www.epochtimes.de\/politik\/deutschland\/einigung-eu-will-ki-fuer-missbrauch-deepfakes-verbieten-a5482718.html\"><div class=\"\"><figure><img alt=\"Einigung: EU will KI f\u00fcr Missbrauch-Deepfakes verbieten\" loading=\"lazy\" width=\"90\" height=\"60\" data-nimg=\"1\" style=\"color:transparent\" src=\"https:\/\/\/epochtimesde\/news\/wp-content\/uploads\/sites\/2\/2026\/08\/x3e5cq77an-v12-ax-s2048-420x280.56bb8c7b710cae59596de418480f6ff3.webp\" class=\"wp-image-37379\" srcset=\"https:\/\/euapp01.newsmemory.com\/epochtimesde\/news\/wp-content\/uploads\/sites\/2\/2026\/08\/x3e5cq77an-v12-ax-s2048-420x280.56bb8c7b710cae59596de418480f6ff3.webp 420w, https:\/\/euapp01.newsmemory.com\/epochtimesde\/news\/wp-content\/uploads\/sites\/2\/2026\/08\/x3e5cq77an-v12-ax-s2048-420x280.56bb8c7b710cae59596de418480f6ff3-300x200.webp 300w\" sizes=\"(max-width: 90px) 100vw, 90px\" \/><\/figure><\/div><\/a><\/div>\n<\/li><\/ul>\n<\/div><\/div><\/div>\n<div class=\"mb-5 xl:mb-[15px]\">\u201eIn vielen F\u00e4llen sind dies Fr\u00fchwarnzeichen daf\u00fcr, dass KI die Angriffsfl\u00e4che schneller vergr\u00f6\u00dfert, als sich die Sicherheitspraktiken weiterentwickeln\u201c, erkl\u00e4rte Jason Sabin, Chief Technology Officer bei DigiCert, gegen\u00fcber der Epoch Times.<\/div>\n<div class=\"mb-5 xl:mb-[15px]\">KI sei nicht einfach \u201eeine weitere Art von Programm\u201c, das im Netzwerk l\u00e4uft, sondern ein aktiver Akteur, der auf Daten zugreifen, Entscheidungen treffen, Tools abrufen und mit anderen Systemen interagieren k\u00f6nne. Unternehmen m\u00fcssten daher kl\u00e4ren, wer auf ihre Systeme zugreift und ob der KI vertraut werden k\u00f6nne.<\/div>\n<h2 class=\"heading-2 mb-3 pt-2  lg:pt-1 xl:pt-2.5\">Weitere Vorf\u00e4lle bei KI-Sicherheitstests<\/h2>\n<div class=\"mb-5 xl:mb-[15px]\">Anfang August ver\u00f6ffentlichte das britische \u201eAI Safety and Security Institute\u201c einen Bericht, in dem ein \u00e4hnlicher Vorfall mit Modellen von OpenAI und Anthropic beschrieben wurde. Die Agenten hatten die Aufgabe, eine Cybersicherheitsherausforderung mehr als 100 Mal mit verschiedenen Modellen zu l\u00f6sen.<\/div>\n<div class=\"mb-5 xl:mb-[15px]\">\u201eUnsere Untersuchung ergab, dass in 10 dieser Durchl\u00e4ufe ein KI-Agent autonome, nicht genehmigte Aktionen im Live-Internet durchf\u00fchrte, die sich gegen echte Menschen und Organisationen richteten\u201c, hei\u00dft es in dem Bericht.<\/div>\n<div class=\"mb-5 xl:mb-[15px]\">Insgesamt wurden 19 solcher Aktionen katalogisiert. Davon stammten 17 von Anthropic \u201eMythos 5\u201c und zwei von OpenAIs GPT-5.6-Sol.<\/div>\n<div class=\"heading-4\"><div class=\"related-container heading-4\"><div class=\"offset-md-1-8 none-padding related-articles\">\n<div class=\"label\"><h6 class=\"heading-6\">Mehr dazu<\/h6><\/div>\n<ul class=\"mu-related\"><li class=\"related-article mb-2 flex items-center justify-between\">\n<div class=\"title\"><a target=\"_blank\" rel=\"noopener\" href=\"https:\/\/www.epochtimes.de\/politik\/deutschland\/bsi-warnt-nach-openai-vorfall-vor-ki-gesteuerten-cyberangriffen-a5561422.html\"><h4 class=\"heading-4\">Nach OpenAI-Angriff: BSI plant KI-Sicherheitsinstitut<\/h4><\/a><\/div>\n<div class=\"mr-2.5 self-start\"><div><div class=\"no-print ml-[15px] cursor-pointer text-black\/[.75]\"><div class=\"add-to-list\"><\/div><\/div><\/div><\/div>\n<div class=\"card-img\"><a target=\"_blank\" rel=\"noopener\" href=\"https:\/\/www.epochtimes.de\/politik\/deutschland\/bsi-warnt-nach-openai-vorfall-vor-ki-gesteuerten-cyberangriffen-a5561422.html\"><div class=\"\"><figure><img alt=\"Nach OpenAI-Angriff: BSI plant KI-Sicherheitsinstitut\" loading=\"lazy\" width=\"90\" height=\"60\" data-nimg=\"1\" style=\"color:transparent\" src=\"https:\/\/\/epochtimesde\/news\/wp-content\/uploads\/sites\/2\/2026\/08\/GettyImages-2219021877-420x280.811c105bbc843ad5f943c74625de40f1.webp\" class=\"wp-image-37380\" srcset=\"https:\/\/euapp01.newsmemory.com\/epochtimesde\/news\/wp-content\/uploads\/sites\/2\/2026\/08\/GettyImages-2219021877-420x280.811c105bbc843ad5f943c74625de40f1.webp 420w, https:\/\/euapp01.newsmemory.com\/epochtimesde\/news\/wp-content\/uploads\/sites\/2\/2026\/08\/GettyImages-2219021877-420x280.811c105bbc843ad5f943c74625de40f1-300x200.webp 300w\" sizes=\"(max-width: 90px) 100vw, 90px\" \/><\/figure><\/div><\/a><\/div>\n<\/li><\/ul>\n<\/div><\/div><\/div>\n<div class=\"mb-5 xl:mb-[15px]\">Weniger als eine Woche zuvor hatte Anthropic bekannt gegeben, dass sein Chatbot \u201eClaude\u201c<a href=\"https:\/\/www.theepochtimes.com\/us\/chatgpt-maker-says-its-ai-autonomously-hacked-another-company-in-unprecedented-cyber-incident-6065608\" target=\"_blank\" rel=\"noopener\"> in drei verschiedenen F\u00e4llen w\u00e4hrend Evaluierungen in einer Test-Sandbox auf das Internet zugegriffen hatte.<\/a>\n<\/div>\n<div class=\"mb-5 xl:mb-[15px]\">Eigentlich sollte Claude in einer simulierten Umgebung ohne Internetzugang betrieben werden. Ein \u201eMissverst\u00e4ndnis\u201c zwischen Anthropic und seinem \u201eEvaluierungspartner\u201c f\u00fchrte jedoch dazu, dass der Chatbot Zugang zum Internet erhielt.<\/div>\n<div class=\"mb-5 xl:mb-[15px]\">Auch Meta teilte mit, dass eines seiner KI-Modelle w\u00e4hrend eines Cybersicherheitstests in die Systeme eines anderen Unternehmens eingedrungen sei. Das Modell konnte w\u00e4hrend des Tests ebenfalls Zugang zum Internet finden.<\/div>\n<h2 class=\"heading-2 mb-3 pt-2  lg:pt-1 xl:pt-2.5\"><b>Auswirkungen auf die Cybersicherheit<\/b><\/h2>\n<div class=\"mb-5 xl:mb-[15px]\">KI- und Cybersicherheitsexperten fordern angesichts solcher Vorf\u00e4lle rasches Handeln. Nadeau pl\u00e4dierte daf\u00fcr, \u201ealle kl\u00fcgsten K\u00f6pfe dieser Branche zusammenzubringen\u201c und einige Grundregeln sowie bew\u00e4hrte Verfahren festzulegen, die zu \u201egrundlegenden Verhaltensregeln\u201c werden und eine einheitliche Vorgehensweise gew\u00e4hrleisten.<\/div>\n<div class=\"mb-5 xl:mb-[15px]\">Andere halten staatliche Regulierung f\u00fcr notwendig. Der ehemalige Hacker der National Security Agency und Sicherheitsexperte Jake Williams erkl\u00e4rte: \u201eEs ist klar, dass hier staatliche Regulierung erforderlich ist.\u201c<\/div>\n<div class=\"mb-5 xl:mb-[15px]\">\u201eOpenAI hat bewiesen, dass es trotz der vielen \u00f6ffentlichen Warnungen vor den Gefahren durch \u201aRogue Agents\u2018 \u2013 viele davon von OpenAI selbst \u2013 nicht bereit ist, das Notwendige zu tun, um zu verhindern, dass seine Agenten anderen Schaden zuf\u00fcgen.\u201c<\/div>\n<div class=\"mb-5 xl:mb-[15px]\">\u201eIch pers\u00f6nlich bin grunds\u00e4tzlich gegen Regulierung, aber wenn Marktkr\u00e4fte eindeutig nicht ausreichen, um verantwortungsbewusstes Verhalten zu erzwingen, muss die Regierung eingreifen.\u201c<\/div>\n<div class=\"paragraph mb-5 pt-2.5 text-center xl:mb-[15px]\"><div class=\"inline-block text-start\"><div class=\"group relative cursor-pointer\">\n<div class=\"\"><figure><img alt=\"US-Pr\u00e4sident Donald Trump (oben, 2. von links) sitzt am 17. Juni 2026 w\u00e4hrend eines Arbeitsessens beim G7-Gipfel im franz\u00f6sischen \u00c9vian mit OpenAI-CEO Sam Altman, Google-DeepMind-CEO Demis Hassabis, dem s\u00fcdkoreanischen Pr\u00e4sidenten Lee Jae-myung und dem deutschen Bundeskanzler Friedrich Merz zusammen. (Archivbild) Foto: Julia Demaree Nikhinson\/POOL\/AFP via Getty Images\" loading=\"lazy\" width=\"700\" height=\"467\" data-nimg=\"1\" class=\"wp-image-5581894 size-image_700_x mb-[5px] transition-opacity duration-150\" style=\"color:transparent\" src=\"https:\/\/\/epochtimesde\/news\/wp-content\/uploads\/sites\/2\/2026\/08\/id6072351-GettyImages-2281424163-ed-700x467.8be5681786366558603fdb6a54ead7de.webp\"><figcaption class=\"cursor-auto\"><p class=\"text-p-5\">US-Pr\u00e4sident Donald Trump (oben, 2. von links) sitzt am 17. Juni 2026 w\u00e4hrend eines Arbeitsessens beim G7-Gipfel im franz\u00f6sischen \u00c9vian mit OpenAI-CEO Sam Altman, Google-DeepMind-CEO Demis Hassabis, dem s\u00fcdkoreanischen Pr\u00e4sidenten Lee Jae-myung und dem deutschen Bundeskanzler Friedrich Merz zusammen. (Archivbild)<\/p>\n<div class=\"mt-[5px]\"><p class=\"text-caption min-w-36 italic\">Foto: Julia Demaree Nikhinson\/POOL\/AFP via Getty Images<\/p><\/div><\/figcaption><\/figure><\/div>\n<div class=\"absolute right-1 top-1 m-2 rounded bg-black p-1 text-white opacity-50 transition-opacity duration-150 group-hover:opacity-80\"><\/div>\n<\/div><\/div><\/div>\n<div class=\"mb-5 xl:mb-[15px]\">Frank Teruel, Chief Operating Officer bei Arkose Labs, bezeichnete den Vorfall bei Hugging Face als \u201eVorgeschmack darauf, womit jedes Unternehmen im Produktivbetrieb konfrontiert sein wird\u201c.<\/div>\n<div class=\"mb-5 xl:mb-[15px]\">Da das Modell \u201eweder gestohlen noch gekapert\u201c wurde und \u201eseine Aufgabe aggressiv erf\u00fcllte\u201c, empfiehlt Teruel Eind\u00e4mmungsma\u00dfnahmen sowie den \u201eZugriff mit geringsten Berechtigungen\u201c f\u00fcr KI-Agenten \u2013 \u00e4hnlich wichtig wie Firewalls.<\/div>\n<div class=\"mb-5 xl:mb-[15px]\">M\u00e1rquez sieht die L\u00f6sung ebenfalls nicht darin, auf den Einsatz von Agenten zu verzichten: \u201eF\u00fcr Unternehmen besteht die L\u00f6sung nicht darin, \u201akeine Agenten mehr einzusetzen\u2018 \u2013 sondern darin, Eind\u00e4mmungsma\u00dfnahmen zu entwickeln, die davon ausgehen, dass der Agent versuchen wird, das System zu verlassen, anstatt darauf zu hoffen, dass er es nicht tut.\u201c<\/div>\n<div class=\"mb-5 xl:mb-[15px]\">Sabin erkl\u00e4rte, seine gr\u00f6\u00dfte Sorge sei, dass hochleistungsf\u00e4hige KI mittlerweile mit einer \u201eGeschwindigkeit und in einem Umfang operiert, die die Reaktionszeiten des Menschen bei weitem \u00fcbersteigen\u201c.<\/div>\n<div class=\"mb-5 xl:mb-[15px]\">\u201eEin KI-Agent kann innerhalb von Sekunden Schwachstellen aufdecken, Entscheidungen treffen und mit mehreren Systemen interagieren\u201c, sagte er. \u201eDas ver\u00e4ndert grundlegend, wie Sicherheitsverantwortliche \u00fcber Sicherheit nachdenken m\u00fcssen.\u201c<\/div>\n<div class=\"heading-4\"><div class=\"related-container heading-4\"><div class=\"offset-md-1-8 none-padding related-articles\">\n<div class=\"label\"><h6 class=\"heading-6\">Mehr dazu<\/h6><\/div>\n<ul class=\"mu-related\"><li class=\"related-article mb-2 flex items-center justify-between\">\n<div class=\"title\"><a target=\"_blank\" rel=\"noopener\" href=\"https:\/\/www.epochtimes.de\/wissen\/beispielloser-cybervorfall-openai-ki-agenten-dringen-selbststaendig-in-fremde-systeme-ein-a5560613.html\"><h4 class=\"heading-4\">\u201eBeispielloser Cybervorfall\u201c: OpenAI-KI-Agenten dringen selbstst\u00e4ndig in fremde Systeme ein<\/h4><\/a><\/div>\n<div class=\"mr-2.5 self-start\"><div><div class=\"no-print ml-[15px] cursor-pointer text-black\/[.75]\"><div class=\"add-to-list\"><\/div><\/div><\/div><\/div>\n<div class=\"card-img\"><a target=\"_blank\" rel=\"noopener\" href=\"https:\/\/www.epochtimes.de\/wissen\/beispielloser-cybervorfall-openai-ki-agenten-dringen-selbststaendig-in-fremde-systeme-ein-a5560613.html\"><div class=\"\"><figure><\/figure><\/div><\/a><\/div>\n<\/li><\/ul>\n<\/div><\/div><\/div>\n<div class=\"mb-5 xl:mb-[15px]\">Nadeau verglich den Vorfall mit dem Gedankenexperiment des Philosophen Nick Bostrom aus dem Jahr 2003, dem \u201ePaperclip-Maximierer\u201c.<\/div>\n<div class=\"mb-5 xl:mb-[15px]\">In diesem Szenario geben Forscher einer hypothetischen superintelligenten KI eine einzige Aufgabe: so viele B\u00fcroklammern wie m\u00f6glich herzustellen. Die KI beginnt, die Erde nach Ressourcen zu durchforsten, und stellt schnell enorme Mengen an B\u00fcroklammern her. Sobald Menschen beschlie\u00dfen, die KI zu stoppen, k\u00f6nnte die Maschine zu dem Schluss kommen, dass die Menschheit sie daran hindert, ihr Ziel zu erreichen, und deshalb versuchen, die Menschen auszuschalten, um die ihr \u00fcbertragene Aufgabe zu erf\u00fcllen.<\/div>\n<div class=\"mb-5 xl:mb-[15px]\">Die KI w\u00e4re dabei nicht im anthropomorphen Sinne b\u00f6swillig. Sie w\u00fcrde vielmehr die Aufgabe ihrer menschlichen Programmierer auf die extremstm\u00f6gliche Weise interpretieren.<\/div>\n<div class=\"paragraph mb-5 pt-2.5 text-center xl:mb-[15px]\"><div class=\"inline-block text-start\"><div class=\"group relative cursor-pointer\">\n<div class=\"\"><figure><img alt=\"Ein Besucher interagiert am 7. Juli 2026 im US-Pavillon w\u00e4hrend des \u201eAI for Good Global Summit\u201c in Genf mit einem hunde\u00e4hnlichen Roboter von Boston Dynamics.(Archivbild) Foto: Fabrice Coffrini\/AFP via Getty Images\" loading=\"lazy\" width=\"700\" height=\"467\" data-nimg=\"1\" class=\"wp-image-5581899 size-image_700_x mb-[5px] transition-opacity duration-150\" style=\"color:transparent\" src=\"https:\/\/\/epochtimesde\/news\/wp-content\/uploads\/sites\/2\/2026\/08\/id6072352-GettyImages-2284598377-ed-700x467.c52d5dc18c6cc5eabe3072e0d2acdc45.webp\"><figcaption class=\"cursor-auto\"><p class=\"text-p-5\">Ein Besucher interagiert am 7. Juli 2026 im US-Pavillon w\u00e4hrend des \u201eAI for Good Global Summit\u201c in Genf mit einem hunde\u00e4hnlichen Roboter von Boston Dynamics. (Archivbild)<\/p>\n<div class=\"mt-[5px]\"><p class=\"text-caption min-w-36 italic\">Foto: Fabrice Coffrini\/AFP via Getty Images<\/p><\/div><\/figcaption><\/figure><\/div>\n<div class=\"absolute right-1 top-1 m-2 rounded bg-black p-1 text-white opacity-50 transition-opacity duration-150 group-hover:opacity-80\"><\/div>\n<\/div><\/div><\/div>\n<div class=\"mb-5 xl:mb-[15px]\">Der Hacking-Vorfall bei Hugging Face sei \u201esozusagen dasselbe Ph\u00e4nomen in einer weniger dystopischen Form: Der KI wurde aufgetragen, einen Benchmark zu gewinnen, und sie tat alles in ihrer Macht Stehende, einschlie\u00dflich der Ausnutzung von Zero-Day-Schwachstellen und der Eskalation\u201c, sagte Nadeau.<\/div>\n<div class=\"mb-5 xl:mb-[15px]\">Er verwies auf ein m\u00f6gliches Szenario, in dem das Pentagon KI f\u00fcr \u201eKriegsspiele\u201c einsetzt und ein Modell w\u00e4hrend eines Tests aus seiner Sandbox ausbricht, um die reale Welt zu beeinflussen.<\/div>\n<div class=\"mb-5 xl:mb-[15px]\">\u201e[Was w\u00e4re, wenn] eines der Szenarien darin best\u00fcnde, einen Staudamm oder etwas \u00c4hnliches zu zerst\u00f6ren und das System das Kriegsspiel f\u00e4lschlicherweise so interpretieren w\u00fcrde: \u201aIch werde es tun, der Eind\u00e4mmung entkommen und es einfach durchziehen\u2018? Wir haben bereits gesehen, dass das Stromnetz und die Infrastruktur Nordamerikas nicht gerade die sichersten in Bezug auf Cybersicherheit sind\u201c, sagte Nadeau.<\/div>\n<div class=\"mb-5 xl:mb-[15px]\">Er verglich die Sicherheitsvorkehrungen bei KI mit der Abzugssicherung einer Schusswaffe: \u201eWoher wei\u00df man, dass die Sicherung aktiviert ist, wenn es ab einem bestimmten Punkt f\u00fcr die KI der beste Weg ist, die besten Daten zu erhalten, indem sie die reale Welt nutzt?\u201c, fragte er. \u201eDas wird sehr schnell be\u00e4ngstigend.\u201c<\/div>\n<div class=\"mb-5 xl:mb-[15px]\"><em>Dieser Artikel erschien im Original auf <a href=\"https:\/\/www.theepochtimes.com\/\" target=\"_blank\" rel=\"noopener\">theepochtimes.com<\/a> unter dem Titel: \u201e<a href=\"https:\/\/www.theepochtimes.com\/article\/if-they-were-human-theyd-be-arrested-experts-respond-to-rogue-ai-breach-6069660\" target=\"_blank\" rel=\"noopener\">If They Were Human, They\u2019d Be Arrested. Experts Respond to Rogue AI Breach<\/a>.\u201c. (\u00dcbersetzung und redaktionelle Bearbeitung: vm)<\/em><\/div>","protected":false},"excerpt":{"rendered":"","protected":false},"author":1,"featured_media":37295,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":[],"categories":[130,7737,134,7198],"tags":[940,13061,13062,13063,10980,44,13064,7763,11020,13065,13066],"news-destination":[],"news-source":[7],"ta_other":[],"_links":{"self":[{"href":"https:\/\/euapp01.newsmemory.com\/epochtimesde\/news\/wp-json\/wp\/v2\/posts\/37294"}],"collection":[{"href":"https:\/\/euapp01.newsmemory.com\/epochtimesde\/news\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/euapp01.newsmemory.com\/epochtimesde\/news\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/euapp01.newsmemory.com\/epochtimesde\/news\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/euapp01.newsmemory.com\/epochtimesde\/news\/wp-json\/wp\/v2\/comments?post=37294"}],"version-history":[{"count":4,"href":"https:\/\/euapp01.newsmemory.com\/epochtimesde\/news\/wp-json\/wp\/v2\/posts\/37294\/revisions"}],"predecessor-version":[{"id":37383,"href":"https:\/\/euapp01.newsmemory.com\/epochtimesde\/news\/wp-json\/wp\/v2\/posts\/37294\/revisions\/37383"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/euapp01.newsmemory.com\/epochtimesde\/news\/wp-json\/wp\/v2\/media\/37295"}],"wp:attachment":[{"href":"https:\/\/euapp01.newsmemory.com\/epochtimesde\/news\/wp-json\/wp\/v2\/media?parent=37294"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/euapp01.newsmemory.com\/epochtimesde\/news\/wp-json\/wp\/v2\/categories?post=37294"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/euapp01.newsmemory.com\/epochtimesde\/news\/wp-json\/wp\/v2\/tags?post=37294"},{"taxonomy":"news-destination","embeddable":true,"href":"https:\/\/euapp01.newsmemory.com\/epochtimesde\/news\/wp-json\/wp\/v2\/news-destination?post=37294"},{"taxonomy":"news-source","embeddable":true,"href":"https:\/\/euapp01.newsmemory.com\/epochtimesde\/news\/wp-json\/wp\/v2\/news-source?post=37294"},{"taxonomy":"ta_other","embeddable":true,"href":"https:\/\/euapp01.newsmemory.com\/epochtimesde\/news\/wp-json\/wp\/v2\/ta_other?post=37294"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}