{"id":46758,"date":"2026-09-09T08:34:26","date_gmt":"2026-09-09T07:34:26","guid":{"rendered":"https:\/\/euapp01.newsmemory.com\/epochtimesde\/news\/?p=46758"},"modified":"2026-09-09T08:34:26","modified_gmt":"2026-09-09T07:34:26","slug":"anthropic-forscher-tritt-aus-sorge-vor-unkontrollierbarer-ki-zuruck","status":"publish","type":"post","link":"https:\/\/euapp01.newsmemory.com\/epochtimesde\/news\/2026\/09\/09\/anthropic-forscher-tritt-aus-sorge-vor-unkontrollierbarer-ki-zuruck\/","title":{"rendered":"Anthropic-Forscher tritt aus Sorge vor unkontrollierbarer KI zur\u00fcck"},"content":{"rendered":"<div class=\"mb-5 xl:mb-[15px]\">Ein Forscher der KI-Firma Anthropic ist mit einer drastischen Warnung zur\u00fcckgetreten: Die gro\u00dfen Entwickler K\u00fcnstlicher Intelligenz handelten unverantwortlich \u201eund spielen mit unseren Leben\u201c. Bald werde es Computersysteme geben, deren F\u00e4higkeiten die von Menschen \u00fcbertr\u00e4fen, betonte Jacob Coxon auf der Online-Plattform X. K\u00fcnstliche Intelligenz w\u00fcrde dann \u201ealles hacken k\u00f6nnen\u201c und die M\u00f6glichkeit haben, sich \u201eZugang zu echter Macht und Ressourcen\u201c zu verschaffen.<\/div>\n<div class=\"mb-5 xl:mb-[15px]\">\u201eDie Leute, die KI entwickeln, glauben ernsthaft, dass sie zum Ende des Jahrzehnts alle t\u00f6ten k\u00f6nnte\u201c, warnte Coxon. Dem \u201eWall Street Journal\u201c sagte der 27-j\u00e4hrige Brite, nach den \u201eaggressivsten Szenarien\u201c k\u00f6nnten die Dinge bereits Ende kommenden Jahres au\u00dfer Kontrolle geraten. Als eine zentrale Gefahr sieht er K\u00fcnstliche Intelligenz, die sich selbst weiterentwickeln kann \u2013 und damit schwerer zu kontrollieren wird.<\/div>\n<div class=\"mb-5 xl:mb-[15px]\">Anthropic-Forscher Evan Hubinger, der mit daf\u00fcr zust\u00e4ndig ist, dass KI mit den Interessen der Menschen im Einklang bleibt, best\u00e4tigte wenig sp\u00e4ter Coxons Sorgen. Er pers\u00f6nlich denke, die Gefahr, dass KI die Menschheit t\u00f6te, liege im kommenden Jahrzehnt bei mehr als zehn Prozent, schrieb er bei X.<\/div>\n<div class=\"heading-4\"><div class=\"related-container heading-4\"><div class=\"offset-md-1-8 none-padding related-articles\">\n<div class=\"label\"><h6 class=\"heading-6\">Mehr dazu<\/h6><\/div>\n<ul class=\"mu-related\"><li class=\"related-article mb-2 flex items-center justify-between\">\n<div class=\"title\"><a target=\"_blank\" rel=\"noopener\" href=\"https:\/\/www.epochtimes.de\/wissen\/ueber-50-prozent-traffic-ueber-bots-unternehmen-kaempfen-mit-den-auswirkungen-a5597851.html\"><h4 class=\"heading-4\">\u00dcber 50 Prozent Traffic \u00fcber Bots: Unternehmen k\u00e4mpfen mit den Auswirkungen<\/h4><\/a><\/div>\n<div class=\"mr-2.5 self-start\"><div><div class=\"no-print ml-[15px] cursor-pointer text-black\/[.75]\"><div class=\"add-to-list\"><\/div><\/div><\/div><\/div>\n<div class=\"card-img\"><a target=\"_blank\" rel=\"noopener\" href=\"https:\/\/www.epochtimes.de\/wissen\/ueber-50-prozent-traffic-ueber-bots-unternehmen-kaempfen-mit-den-auswirkungen-a5597851.html\"><div class=\"relative h-fit\">\n<figure><img alt=\"\u00dcber 50 Prozent Traffic \u00fcber Bots: Unternehmen k\u00e4mpfen mit den Auswirkungen\" loading=\"lazy\" width=\"90\" height=\"60\" data-nimg=\"1\" style=\"color:transparent\" src=\"https:\/\/\/epochtimesde\/news\/wp-content\/uploads\/sites\/2\/2026\/09\/iStock-2213689343-420x280.dac9136d9f509711b3d831d21d7a8840.webp\" class=\"wp-image-46761\" srcset=\"https:\/\/euapp01.newsmemory.com\/epochtimesde\/news\/wp-content\/uploads\/sites\/2\/2026\/09\/iStock-2213689343-420x280.dac9136d9f509711b3d831d21d7a8840.webp 420w, https:\/\/euapp01.newsmemory.com\/epochtimesde\/news\/wp-content\/uploads\/sites\/2\/2026\/09\/iStock-2213689343-420x280.dac9136d9f509711b3d831d21d7a8840-300x200.webp 300w\" sizes=\"(max-width: 90px) 100vw, 90px\" \/><\/figure>\n<\/div><\/a><\/div>\n<\/li><\/ul>\n<\/div><\/div><\/div>\n<h2 class=\"heading-2 mb-3 pt-2  lg:pt-1 xl:pt-2.5\">\u201eExtreme Vorsicht\u201c<\/h2>\n<div class=\"mb-5 xl:mb-[15px]\">Zuvor mahnte auch der Forschungschef des ChatGPT-Entwicklers und sch\u00e4rfsten Anthropic-Rivalen OpenAI, Jakub Pachocki, \u201eextreme Vorsicht\u201c an. Er sei besorgt, dass niemand auf eine rapide Weiterentwicklung der F\u00e4higkeiten K\u00fcnstlicher Intelligenz vorbereitet sei, schrieb Pachocki in einem Blogeintrag. Man sei an einem Moment der Geschichte angelangt, in dem die Intelligenz von Maschinen beginne, die der Menschen zu \u00fcbertreffen.<\/div>\n<div class=\"mb-5 xl:mb-[15px]\">Der OpenAI-Manager umschrieb ausf\u00fchrlicher, warum moderne KI-Systeme schwerer zu kontrollieren seien. Man lasse diese K\u00fcnstliche Intelligenz eher \u201ewachsen\u201c, statt sie zu designen. KI-Systeme seien ein Produkt komplexer Prozesse. \u201eUnsere gro\u00df angelegten Trainingsl\u00e4ufe sind Experimente \u2013 und wir sind manchmal \u00fcberrascht von ihren Ergebnissen.\u201c Und je mehr die F\u00e4higkeiten der Maschinen die menschlichen \u00fcbertr\u00e4fen, desto schwieriger werde es zu verstehen, zu was sie in der Lage seien.<\/div>\n<div class=\"mb-5 xl:mb-[15px]\">Zugleich sieht Pachocki ein Argument f\u00fcr die Fortsetzung rapider Forschung: K\u00fcnstliche Intelligenz zu entwickeln, die gegen die Gefahren anderer KI verteidigen k\u00f6nnte. Man werde sie unter anderem brauchen, um Infrastruktur zu sch\u00fctzen und ganz neue Verteidigungsmechanismen zu entwickeln.<\/div>\n<div class=\"heading-4\"><div class=\"related-container heading-4\"><div class=\"offset-md-1-8 none-padding related-articles\">\n<div class=\"label\"><h6 class=\"heading-6\">Mehr dazu<\/h6><\/div>\n<ul class=\"mu-related\"><li class=\"related-article mb-2 flex items-center justify-between\">\n<div class=\"title\"><a target=\"_blank\" rel=\"noopener\" href=\"https:\/\/www.epochtimes.de\/politik\/deutschland\/forscher-tausende-openai-ki-agenten-kapern-deutsche-website-a5600741.html\"><h4 class=\"heading-4\">Forscher: Tausende OpenAI-KI-Agenten kapern deutsche Website<\/h4><\/a><\/div>\n<div class=\"mr-2.5 self-start\"><div><div class=\"no-print ml-[15px] cursor-pointer text-black\/[.75]\"><div class=\"add-to-list\"><\/div><\/div><\/div><\/div>\n<div class=\"card-img\"><a target=\"_blank\" rel=\"noopener\" href=\"https:\/\/www.epochtimes.de\/politik\/deutschland\/forscher-tausende-openai-ki-agenten-kapern-deutsche-website-a5600741.html\"><div class=\"\"><figure><img alt=\"Forscher: Tausende OpenAI-KI-Agenten kapern deutsche Website\" loading=\"lazy\" width=\"90\" height=\"60\" data-nimg=\"1\" style=\"color:transparent\" src=\"https:\/\/\/epochtimesde\/news\/wp-content\/uploads\/sites\/2\/2026\/09\/wjnx2w3azw-v4-ax-s2048-420x280.0ca131100f50a25e15d0302d5e30e167.webp\" class=\"wp-image-46762\" srcset=\"https:\/\/euapp01.newsmemory.com\/epochtimesde\/news\/wp-content\/uploads\/sites\/2\/2026\/09\/wjnx2w3azw-v4-ax-s2048-420x280.0ca131100f50a25e15d0302d5e30e167.webp 420w, https:\/\/euapp01.newsmemory.com\/epochtimesde\/news\/wp-content\/uploads\/sites\/2\/2026\/09\/wjnx2w3azw-v4-ax-s2048-420x280.0ca131100f50a25e15d0302d5e30e167-300x200.webp 300w\" sizes=\"(max-width: 90px) 100vw, 90px\" \/><\/figure><\/div><\/a><\/div>\n<\/li><\/ul>\n<\/div><\/div><\/div>\n<h2 class=\"heading-2 mb-3 pt-2  lg:pt-1 xl:pt-2.5\">Hacking-Attacken als Alarmsignal<\/h2>\n<div class=\"mb-5 xl:mb-[15px]\">Ein Weckruf f\u00fcr die Branche waren in den vergangenen Monaten Hacking-Attacken, bei denen sogenannte KI-Agenten in Testl\u00e4ufen eigenst\u00e4ndig in Systeme anderer Unternehmen eindrangen. Solche Agenten sind Programme mit K\u00fcnstlicher Intelligenz, die selbstst\u00e4ndig Aufgaben f\u00fcr die Nutzer erf\u00fcllen sollen. Bei OpenAI fand ein KI-Modell in einem Test einen Weg, aus einer eigentlich isolierten Testumgebung ins offene Internet zu gelangen \u2013 und hackte sich dann ins Computersystem der KI-Plattform Hugging Face. Dabei suchte es nur nach einer L\u00f6sung f\u00fcr die Testaufgabe und richtete keinen Schaden an. Allerdings zeigte der Vorfall, wie weit KI-Systeme ungeplant auf eigene Faust gehen k\u00f6nnen, ohne dass ihre Entwickler das mitbekommen.<\/div>\n<div class=\"mb-5 xl:mb-[15px]\">Zuletzt wurde auch bekannt, dass KI-Agenten von OpenAI bereits im Fr\u00fchjahr eine deutschsprachige Wiki-Seite in gro\u00dfem Stil f\u00fcr Absprachen untereinander missbraucht hatten. Ein aktueller Schutzmechanismus der KI-Entwickler ist, dass die Modelle mit K\u00fcnstlicher Intelligenz ihr Handeln in menschlicher Sprache erkl\u00e4ren m\u00fcssen. Die KI-Agenten nutzten die Kommunikationsm\u00f6glichkeit in Testl\u00e4ufen, um sich \u00fcber Notizen auf der Wiki-Seite untereinander zu Antworten auf gestellte Fragen auszutauschen. (dpa\/red)<\/div>","protected":false},"excerpt":{"rendered":"","protected":false},"author":1,"featured_media":46759,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":[],"categories":[134,7198],"tags":[661,115,646,1388,104],"news-destination":[],"news-source":[7],"ta_other":[],"_links":{"self":[{"href":"https:\/\/euapp01.newsmemory.com\/epochtimesde\/news\/wp-json\/wp\/v2\/posts\/46758"}],"collection":[{"href":"https:\/\/euapp01.newsmemory.com\/epochtimesde\/news\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/euapp01.newsmemory.com\/epochtimesde\/news\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/euapp01.newsmemory.com\/epochtimesde\/news\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/euapp01.newsmemory.com\/epochtimesde\/news\/wp-json\/wp\/v2\/comments?post=46758"}],"version-history":[{"count":2,"href":"https:\/\/euapp01.newsmemory.com\/epochtimesde\/news\/wp-json\/wp\/v2\/posts\/46758\/revisions"}],"predecessor-version":[{"id":46763,"href":"https:\/\/euapp01.newsmemory.com\/epochtimesde\/news\/wp-json\/wp\/v2\/posts\/46758\/revisions\/46763"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/euapp01.newsmemory.com\/epochtimesde\/news\/wp-json\/wp\/v2\/media\/46759"}],"wp:attachment":[{"href":"https:\/\/euapp01.newsmemory.com\/epochtimesde\/news\/wp-json\/wp\/v2\/media?parent=46758"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/euapp01.newsmemory.com\/epochtimesde\/news\/wp-json\/wp\/v2\/categories?post=46758"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/euapp01.newsmemory.com\/epochtimesde\/news\/wp-json\/wp\/v2\/tags?post=46758"},{"taxonomy":"news-destination","embeddable":true,"href":"https:\/\/euapp01.newsmemory.com\/epochtimesde\/news\/wp-json\/wp\/v2\/news-destination?post=46758"},{"taxonomy":"news-source","embeddable":true,"href":"https:\/\/euapp01.newsmemory.com\/epochtimesde\/news\/wp-json\/wp\/v2\/news-source?post=46758"},{"taxonomy":"ta_other","embeddable":true,"href":"https:\/\/euapp01.newsmemory.com\/epochtimesde\/news\/wp-json\/wp\/v2\/ta_other?post=46758"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}