Überwachungskameras prägen das Straßenbild vieler Städte weltweit. - Foto: Roland Weihrauch/dpa/AFP via Getty Images
In Kürze:
Der Sicherheitsforscher Bill Swearingen entwickelt eine Methode, um die KI-Software der Überwachungskameras zu verwirren.
31,7 Millionen Tests auf der Suche nach „Tarnmustern“ wurden durchgeführt.
Auch Autos sollen mithilfe einer bedruckten Folie fast „unsichtbar“ gemacht werden.
Forscher beschäftigen sich schon länger mit Tarnkleidung, die neurale Systeme austricksen soll.
In seinem Lied „Somebody’s Watching Me“ erzählt der R&B-Sänger Rockwell die Geschichte eines Mannes, der sich ständig beobachtet fühlt. Selbst in seinen eigenen vier Wänden glaube er, nicht mehr sicher zu sein. Der Song erschien im Jahr 1983, also lange bevor digitale Kameras und automatisierte Bilderkennung die Überwachung des öffentlichen Raums stark verändert haben.
Während sich der Protagonist des Liedes fragt, ob er denn tatsächlich ständig beobachtet wird oder nur paranoid ist, erübrigt sich diese Frage fast angesichts der technischen Ausstattung an Bahnhöfen oder Flughäfen, großen Plätzen oder in der Umgebung von Sehenswürdigkeiten oder Einkaufsstraßen.
Die Schwächen der KI ausnutzen
Doch was ist, wenn es eine Möglichkeit gibt, dieser Überwachung zu entkommen? Diese Frage hat sich der Sicherheitsforscher Bill Swearingen gestellt.
Seine Idee: „Was wäre, wenn das Muster auf Ihrem Hemd die Gesichtserkennung austricksen könnte? Nicht indem es Ihr Gesicht verbirgt, sondern indem es Schwächen der KI selbst ausnutzt?“, fragt er in einem Beitrag auf dem Portal „LinkedIn“. Dabei stellt der US-Amerikaner sein Projekt „noRecognition“ (auf Deutsch: keine Erkennung) vor. Denn Datenschutz sei kein Luxus, sondern ein Recht.
Dafür habe er computergenerierte Muster für Bekleidungsstücke entwickelt, die die Überwachungssysteme so irritieren sollen, dass sie den Träger nicht mehr erkennen können.
„Wir testen mit realen Modellen. […] Mit den Systemen, die tatsächlich in Clearview AI, auf Körperkameras der Polizei und bei der Flughafensicherheit laufen. […] Personendetektoren, Gesichtsdetektoren und Erkennungssysteme“, führt er auf dem Portal weiter aus.
Modell findet neue Muster durch selbstständiges Lernen
31,7 Millionen Tests habe Swearingen durchgeführt, um Muster zu finden, die die von ihm getestete Software hinter den Überwachungskameras und Kennzeichenlesern irritierten.
Nachdem er nachgewiesen habe, dass sein Konzept grundsätzlich funktioniere, habe er daraus ein sogenanntes Reinforcement-Learning-Modell entwickelt. Dieses System erzeugt und testet selbstständig verschiedene Muster und lernt anhand der Ergebnisse, welche davon die jeweils getesteten Kameraalgorithmen besonders stark beeinträchtigen. Vereinfacht ausgedrückt, erklärte Swearingen gegenüber der Plattform „TechCrunch“, habe er seinem Modell gewissermaßen beigebracht, „malen zu lernen“.
Vergleich repräsentativer Methoden zur adversarialen Tarnung. (a) Die bisherige Methode stellt die adversariale Tarnung mithilfe von Voronoi-Diagrammen dar, die durch lernbare Kontrollpunkte parametrisiert sind. (b) Unsere Methode stellt die adversariale Tarnung als Anordnung von Kacheln dar, wobei die Auswahlwahrscheinlichkeiten der Kacheln und die räumlichen Anordnungen gemeinsam optimiert werden, um eine feinkörnigere adversariale Textur zu ermöglichen.
Foto: Jinlei Wang et al./arXiv:2608.06801 (CC BY 4.0)
Die Überwachungskameras werden dadurch jedoch nicht „geblendet“. Sie zeichnen die Personen auch weiterhin auf. Angegriffen wird hingegen die Software, die aus dem erstellten Bild eine Person, ein Gesicht, eine Bewegung oder ein Kennzeichen erkennen soll.
Jedes Mal, wenn ein Muster nicht die gewünschte Wirkung erzielte, weil der Erkennungsalgorithmus die Person weiterhin erkannte, erzeugte das Modell ein neues Muster. Sein Modell begann bald, Muster zu finden, die alle von ihm getesteten Open-Source-Erkennungsalgorithmen austricksten, darunter die Software von Flock-Kennzeichenlesegeräten, Axon-Körperkameras und Gesichtserkennungskameras von Clearview AI.
Nun generiert das Modell jede Minute neue Muster, wobei jede Charge mathematisch besser sei als die vorherige, erläutert Swearingen gegenüber „TechCrunch“. Überwachungssysteme könnten zwar auch darauf trainiert werden, Swearingens Muster zu umgehen, doch der Algorithmus des Forschers verbesserte sich mit jedem neuen Entwurf auch darin, weitere und zunächst unerkennbare Muster zu erstellen.
Praktischer Test in Las Vegas mit Auto gelingt
Auch Autos will Swearingen mithilfe von gemusterten Folien „unsichtbar“ machen, sodass Überwachungstechnologien sie nicht mehr erkennen könnten. Dass das funktionieren könnte, demonstrierte er bei einem ersten öffentlichen Test mithilfe eines Toyota Yaris auf der Hacker- und Sicherheitskonferenz DEF CON in Las Vegas Anfang August. Zuvor hatte er den 2009 gebauten Pkw mit einem seiner neuesten Muster beklebt. „Wir haben die Wirksamkeit bewiesen“, sagte Swearingen. Allerdings stellten die Felgen eine Herausforderung dar, sagte er, ohne dabei Einzelheiten zu nennen.
Mit der erfolgreichen Demonstration in Las Vegas liefere das Projekt einen ersten Beweis dafür, dass es möglich sei, algorithmische Erkennung im öffentlichen Raum zu umgehen. Der nächste Schritt sei nun, die Muster Interessenten anzubieten.
Für sein „noRecognition“-Projekt hat Swearingen eine Crowdfunding-Kampagne gestartet, um den Verkauf von Merchandise-Artikeln mit den Mustern zu finanzieren – von T-Shirts bis zu Hoodies. Zukünftig sollen auch Fahrzeugfolien mit den Mustern angeboten werden. Seine besten Muster werde er allerdings nicht im Internet veröffentlichen, betonte Swearingen. Er wolle damit verhindern, dass Kamerahersteller sie überlisten.
Eigenen Angaben zufolge hat der Sicherheitsforscher inzwischen bei allen elf von ihm getesteten Erkennungsmodellen Erfolge erzielt. Ein einzelnes Muster, das alle elf Modelle gleichzeitig täuscht, konnte er allerdings noch nicht präsentieren.
Das amerikanische Fachmedium für Cybersicherheit „Dark Reading“ sieht Swearingens Entwicklungen hingegen mit einer gewissen Skepsis. So seien die Modelle nicht einheitlich aufgebaut. Deshalb gebe es keine allgemeingültige Regel, nach der sich Muster erstellen ließen, die die Künstliche Intelligenz verwirrten. Das beschränke Swearingens Experimente auf Versuch und Irrtum und erschwere ihm bis zu einem gewissen Grad auch, selbst zu verstehen, warum seine Muster funktionierten.
Auch bei der Umsetzung seines Experiments als Geschäftsmodell werde er mit praktischen Einschränkungen konfrontiert sein, mutmaßt die Fachpublikation. Ein zweidimensionales Bild eines Kleidungsstücks, das gegen eine simulierte Kamera getestet werde, könne zu anderen Ergebnissen führen als echter Stoff unter realen Bedingungen. Und obwohl das Angebot des Sicherheitsforschers aus Sicht des Datenschutzes überzeugend sei, dürften die Designs nicht jedermanns Verständnis von gutem Stil entsprechen.
Hinzu komme die Tatsache, dass es für jeden solchen Angriff eine Gegenmaßnahme gibt. „Wenn ich tausend T-Shirts verkaufen würde, die genau gleich aussehen, würden sie für all diese Menschen auf die gleiche Weise funktionieren – bis das Modell aktualisiert wird“, räumte Swearingen gegenüber dem Medium ein. „Dann könnte ich ein weiteres Muster herausbringen, das dasselbe bewirkt.“
Swearingen ist auch nicht der Einzige, der die Idee verfolgt, Überwachungstechniken auszutricksen. Wissenschaftler forschen bereits seit Jahren an sogenannter adversarialer Kleidung. Eine im August 2026 veröffentlichte Arbeit auf dem Forschungsportal „arXiv“ beschreibt mit „AdvTiles“ ein Verfahren, bei dem ein Computer Muster für Kleidungsstücke entwickelt, die Erkennungssoftware täuschen sollen.
Die Forscher druckten ihre Muster auf Kleidung und testeten sie unter unterschiedlichen Entfernungen, Blickwinkeln und Hintergründen. In digitalen Tests soll „AdvTiles“ eine durchschnittliche Täuschungsquote von 86,2 Prozent erreicht haben. Anschließend testeten sie bedruckte Kleidung unter realen Bedingungen. Dabei soll das Muster bei den meisten Blickwinkeln die Erkennung sogar bei mehr als 90 Prozent der Testläufe verhindert haben.
Ein Besucher trägt während der Consumer Electronics Show (CES) am 7. Januar 2025 in Las Vegas, Nevada, die Smart-Brille „Amazon Echo Frames“ mit Alexa. - Foto: Patrick T. Fallon/AFP via Getty Images
Die norwegische Regierung plant zufolge, die Nutzung sogenannter Smart Glasses und ähnlicher Geräte zu regulieren. Sie erwägt, die Gesichtserkennungs-Funktion für die Spezialbrillen zu verbieten.
Digitalministerin Karianne Tung teilte mit, sie wolle eine Expertengruppe einberufen, die die Regierung darin beraten solle, wie Verbraucher besser vor den neuen Technologien geschützt werden könnten. Sie rief zudem den öffentlichen und den privaten Sektor auf, eigene Richtlinien zu erwägen.
Schnittstellen zu KI – und Datenschutzbedenken
Smart Glasses werden von verschiedenen Herstellern in Kooperation mit Technologiekonzernen wie Meta oder Google angeboten. Sie sind unter anderem mit Kameras ausgestattet und können sich mit dem Internet verbinden.
Nutzern werden zudem Informationen über die Brillengläser angezeigt, die Geräte sollen etwa als Schnittstelle zu Anwendungen Künstlicher Intelligenz dienen. Ihr Einsatz stößt jedoch auf erhebliche Datenschutzbedenken.
Die Organisation HateAid möchte Datenbrillen verbieten lassen, mit denen man heimlich Videoaufnahmen erstellen kann. (Symbolbild)
Foto: Christoph Dernbach/dpa
Digitalministerin Tung erklärte weiter, es sei offensichtlich, dass das Privatleben der Menschen „unter Druck der neuen Technologien“ käme. „Ich möchte daher Smart Glasses und ähnliche Geräte strenger als bisher regulieren.“
Das könne bedeuten, dass Funktionen wie die Gesichtserkennung fremder Menschen verboten würden. Es müsse vermieden werden, dass durch die Kombination von KI und Kameras oder Mikrophonen in Alltagsgegenständen Menschen in der Öffentlichkeit überwacht würden.
Der für Digitalpolitik zuständige Leiter des Norwegischen Verbraucherrats, Finn Lützow-Holm Myrstad, begrüßte die Ankündigung der Ministerin. Er rief Händler auf, den Verkauf der Brillen einzustellen, bis rechtliche Klarheit herrsche. „Das Potenzial für Missbrauch ist gewaltig“, sagte Myrstad.
Deutschland: Geräte mit Kameras so nicht erlaubt
In Deutschland hatte die Organisation HateAid Strafanzeige gegen die Facebook-Mutter Meta sowie mehrere Brillenhändler und -hersteller wegen des Verkaufs von Smart Glasses in Deutschland gestellt.
„HateAid hält den Vertrieb der Meta-Smart-Glasses in Deutschland für strafbar“, teilte die Organisation vor knapp zwei Wochen mit. Das Telekommunikation-Digitale-Dienste-Datenschutz-Gesetz verbiete es, „Geräte auf den Markt zu bringen, die als Alltagsgegenstand getarnt und dazu bestimmt sind, andere unbemerkt zu filmen oder abzuhören“.
Die Bundesnetzagentur hatte vor zwei Jahren gewarnt, dass smarte Geräte mit eingebauten Kameras in Deutschland nicht erlaubt seien, „wenn sie unbemerkt Audio- oder Videoaufnahmen erstellen können und diese an andere Geräte übertragen“.
Das gelte auch für smarte Brillen, „wenn diese keine optischen Warnzeichen oder akustischen Signale abgeben, die auf das Fotografieren oder das Filmen hinweisen“.
Laut dem Digitalbranchenverband Bitkom verfügen aktuelle Modelle „in aller Regel“ über eine LED, die im Aufnahmemodus aufleuchtet und dies für Umstehende erkennbar macht.(afp/red)
Die USA und China sind Vorreiter bei KI-Anwendungen. Das schafft ein Abhängigkeits- aber auch Sicherheitsrisiko gerade bei der Nutzung von chinesischen KI-Modellen.
Daher fragte Epoch Times den Digitalminister Karsten Wildberger und Forschungsministerin Dorothee Bär (CSU) wie Deutschland den Spagat schaffen will deutschen Forschungseinrichtungen, dem universitären Bereich, aber auch der W…
KI-generierte Musik bleibt erlaubt, vollständig von KI erschaffene Songs sollen künftig aber nicht mehr in die australischen Aria-Charts aufgenommen werden. (Symbolbild) - Foto: Jun / iStock
Von Künstlicher Intelligenz (KI) erzeugte Musik hat künftig keinen Platz mehr in den australischen Charts. Die neuen Richtlinien sollen „den menschlichen Ursprung des künstlerischen Schaffens“ schützen, wie die Australian Recording Industry Association (Aria) am Dienstag mitteilte. Nach Angaben des Branchenverbands treten die Änderungen am Freitag in Kraft.
KI-Einsatz bleibt erlaubt
Demnach müssen die in den Charts gelisteten Lieder „im Wesentlichen von Menschen geschaffen“ worden sein. Der Einsatz von KI ist zwar nicht verboten. Vollständig von KI erschaffene Musik wird künftig aber nicht mehr in die Aria-Charts aufgenommen.
Im Juli hatte eine Cover-Version von Madonnas „Like a Prayer“ die Spitze der australischen Charts erobert. Später kam heraus, dass der Gesang und das Schlagzeug von KI generiert wurden.
Mehrere Branchenverbände hatten im Juli ein System zur Kennzeichnung von Musik vorgestellt, die ganz oder teilweise mit Künstlicher Intelligenz erschaffen wurde. Das freiwillige Kennzeichnungssystem ist für eine weltweite Einführung konzipiert und soll auch bei Streamingdiensten zum Einsatz kommen.
Streamingdienste reagieren
Der Streamingdienst Deezer hat bereits eine Kennzeichnung für KI-generierte Musik eingeführt. Nach Angaben von Deezer wird Künstliche Intelligenz bereits in fast jedem zweiten auf der Plattform neu veröffentlichten Song eingesetzt.
Spotify kündigte kürzlich an, ab Mitte September KI-generierte Profile als „AI Persona“ zu kennzeichnen. (afp/red)
Symbol für die Traumfabrik: Hinter den berühmten Buchstaben verändert künstliche Intelligenz gerade die Regeln des Filmemachens. - Foto: iStock Bill Chizek
In Kürze
250 Millionen gegen wenige Zehntausend: Nolans „The Odyssey“ trifft auf eine weitgehend KI-generierte Low-Budget-Version.
Hollywood setzt längst KI ein: Die Technologie verändert visuelle Effekte, Animation, Ton und Produktionsabläufe.
Weniger Produktionshürden, neue Konflikte: KI senkt Kosten, bedroht aber Arbeitsplätze und wirft Fragen nach Urheberrecht und menschlicher Leistung auf.
Zwei Filme erzählen in diesem Sommer dieselbe Geschichte. Christopher Nolans „The Odyssey“ ist ein 250-Millionen-Dollar-Epos, fast drei Stunden lang, mit Matt Damon als Odysseus, Anne Hathaway als Penelope und einer großen internationalen Besetzung. Nolan ließ 91 Tage lang in sechs Ländern drehen und setzte vollständig auf IMAX-Kameras. Der Film spielte allein am ersten Wochenende weltweit 264,1 Millionen Dollar ein und überschritt Anfang August die Marke von einer Milliarde Dollar.
Zeitgleich hat Ash Koosha eine zweite Version der Odyssee vorgelegt: „Odysseus: The Fall“ ist 135 Minuten lang und wurde mit einem Bruchteil der Infrastruktur einer klassischen Hollywoodproduktion geschaffen – ohne klassische Dreharbeiten, herkömmliche Filmsets und mit künstlich erzeugten Bildern.
Klassisches Hollywood trifft auf KI
Koosha arbeitete nach eigenen Angaben zwei bis drei Monate daran, teilweise allein an einem Laptop. Er schrieb das Drehbuch und führte Regie. An der Produktion, die insgesamt nur drei Monate dauerte, waren lediglich zwölf Personen beteiligt: eine professionelle Schauspielerin, mehrere Models und Personen ohne vorherige Erfahrung in der Unterhaltungsbranche. Als zentrales Videomodell kam Kling zum Einsatz, ergänzt durch eigene Produktionssoftware. Die vollständig KI-generierte Produktion soll im mittleren fünfstelligen Dollarbereich gelegen haben, also circa 50.000 Dollar.
Koosha kündigte sein „Odysseus: The Fall“ ausdrücklich und bewusst im Fahrwasser von Nolans Film an. Seine KI-Version der Reise des Odysseus könne Nolans Erfolg in gewisser Weise noch steigern, so Koosha gegenüber dem „Hollywood Reporter“, „indem sie diejenigen in die Kinos bringe, die neugierig seien, das Nonplusultra menschlicher Schöpfung zu sehen und es mit der Zusammenarbeit eines Menschen mit KI zu vergleichen“.
Damit stehen sich zwei Vorstellungen vom Filmemachen gegenüber: Auf der einen Seite die physische Materialschlacht des großen Kinos: Kameras, Schauspieler, Drehorte, Crew und ein Budget von rund einer Viertelmilliarde Dollar. Auf der anderen Seite stehen ein kleines Team, generative Modelle und jede Menge Rechenleistung. Kooshas Film ist dabei mehr als ein technisches Experiment. Die Produzenten verstehen ihn ausdrücklich als Beleg dafür, dass Künstliche Intelligenz aufwendige Filmstoffe für Menschen zugänglich machen kann, die niemals über die Budgets eines Hollywoodstudios verfügen würden.
Was passiert aber mit einer Filmindustrie, wenn die Herstellung eines Films plötzlich nicht mehr in erster Linie eine Frage von Geld, Personal, Drehorten und Technik ist?
Hollywood arbeitet längst mit KI
Hollywood lehnt KI nicht grundsätzlich ab. Die Studios investieren längst in die Technologie, um Produktionsabläufe zu beschleunigen und Kosten zu senken. Schauspieler, Drehbuchautoren und andere Filmschaffende fürchten dagegen, dass ihre Arbeit durch KI ersetzt oder ohne ihre Zustimmung genutzt wird.
Eine Recherche der „Los Angeles Times“ zeigt, wie weit die Technologie inzwischen in den Studios angekommen ist. Die Zeitung wertete rund 250 öffentlich ausgeschriebene Stellen bei Disney, Universal, Paramount, Warner Bros., Sony, Netflix und Amazon MGM aus. Rund 30 davon standen nach Einschätzung der Zeitung in direktem Zusammenhang mit KI. Disney suchte unter anderem Fachleute für „computer graphics and AI“, Netflix einen „Manager, Generative Workflows“, Amazon MGM einen KI-Verantwortlichen für die Produktion.
Die KI-Revolution findet also nicht erst dann statt, wenn ein vollständig künstlich erzeugter Spielfilm im Kino läuft. Sie findet bereits innerhalb der klassischen Filmproduktion statt. KI muss einen Schauspieler auch nicht ersetzen, um die Filmindustrie zu verändern. Es reicht zunächst, wenn sie einzelne Tätigkeiten übernimmt oder beschleunigt. Sie kann Hintergründe erzeugen, fehlende Einstellungen ergänzen, Beleuchtung verändern, Stimmen bearbeiten, Bilder animieren oder Produktionsabläufe beschleunigen.
Für die Beschäftigten kommt diese Entwicklung zu einem ungünstigen Zeitpunkt. Hollywood steht ohnehin unter erheblichem wirtschaftlichem Druck. Nach einer Analyse des Tech Policy Program der Duke University hat Los Angeles County seit 2022 mehr als ein Viertel seiner Film- und Fernsehjobs verloren. Zwischen Oktober 2022 und Februar 2026 ging die Zahl der Produktionsjobs sogar um mehr als 35 Prozent zurück.
Die Entwicklung hat mehrere Ursachen, darunter die Veränderungen des Streaminggeschäfts und die Verlagerung von Produktionen. KI kommt als weiterer Faktor hinzu – und trifft damit auf einen bereits geschwächten Arbeitsmarkt.
Rechenzentren statt Kameras
Ein klassischer Film bezahlt Menschen, Drehorte, Kulissen, Kameratechnik, Reisen, Logistik, Spezialeffekte und Postproduktion. Bei KI-Produktionen mit deutlich weniger Kosten verschiebt sich ein Teil dieser in Richtung Software, die Menschen, die Modelle bedienen, Ergebnisse auswählen und korrigieren sowie Rechenleistung.
Wie radikal diese Verschiebung sein kann, zeigte im Mai 2026 „Hell Grind“. Der vollständig mit KI erzeugte Film wurde laut „Wall Street Journal“ innerhalb von zwei Wochen hergestellt und kostete rund 500.000 Dollar. Rund 400.000 Dollar entfielen dabei allein auf Rechenleistung.
Aufmerksamkeit in Hollywood bekam im Jahr 2025 Tilly Norwood: Eine vollständig künstlich erzeugte Schauspielerfigur, entwickelt vom Londoner KI- und Produktionsunternehmen Particle6. Ein etwa 15-köpfiges Team arbeitete sechs Monate an der Figur und erzeugte dabei mehr als 2.000 visuelle Varianten. Im Juli 2026 wurde bekannt, dass Norwood die Hauptrolle in dem Comedy-Drama „Misaligned“ übernehmen soll.
Die Schauspieler-Gewerkschaft SAG-AFTRA hatte in dem Kontext davor gewarnt, dass Projekte wie der KI-Tilly Gefahr zu „Stolen Performance“ führten, auf Deutsch „gestohlene Darbietungen“. Die Gewerkschaft bezeichnete Tilly Norwood als synthetische Figur, deren Existenz auf der Arbeit realer Schauspieler beruhe, die dafür weder gefragt noch vergütet worden seien. Genau wegen dieser Bedenken hatte die Gewerkschaft bereits im Jahr 2023 gestreikt.
Als Hollywood-Star Emily Blunt während eines Podcasts ein Bild von Tilly gezeigt bekam, soll sie kommentiert haben: „Nein – im Ernst? Das ist eine KI?“ und weiter: „Meine Güte, dann sind wir ja erledigt.“
Schauspieler als reines Produktionsmaterial
Anders als bei einer klassischen Filmproduktion werden bei KI-generierten Filmen keine Schauspieler mehr aufgenommen. Stattdessen stellen Menschen ihre Gesichter beziehungsweise ihre digitale Ähnlichkeit für die Figuren zur Verfügung. Das führt zu der Frage: Was ist ein Schauspieler in einer Welt, in der sein Gesicht von einer Maschine in beliebige Situationen versetzt werden kann? Im Zweifelsfall wird das Gesicht damit zu einer Art Produktionsmaterial.
Einige in Hollywood nehmen inzwischen eine gemäßigtere Haltung gegenüber Künstlicher Intelligenz ein: Während einer Pressekonferenz auf dem diesjährigen Festival in Cannes sagte die US-amerikanische Schauspielerin Demi Moore, man solle Wege finden, mit der Technologie zu arbeiten. „KI ist da. Und sich dagegen zu wehren, bedeutet, einen Kampf zu führen, den wir verlieren werden.“
Auf der Gewinnerseite sieht sich „Star Wars“-Schöpfer George Lucas laut der „Los Angeles Times“ durch den Nutzen von KI: Diese abzulehnen sei so, als würde man eine Pferdekutsche einem Auto vorziehen. „Künstliche Intelligenz bedeutet, dass es für uns viel einfacher ist, Filme zu drehen“, so Lucas. „Daran lässt sich nichts ändern. Das ist Fortschritt. Das ist die Zukunft.“
Andere, wie Schauspieler Ben Affleck beispielsweise, treiben die Entwicklung für sich gewinnbringend voran: Er gründete ein Unternehmen für KI-Filmtechnologie und verkaufte das Start-up anschließend für über eine halbe Milliarde Dollar an Netflix. Bei der Gründung von InterPositive hatte Affleck erklärt, er wolle das „Storytelling menschlich“ halten, indem er KI-Tools entwickle, die etwa die Beleuchtung korrigieren, fehlende Aufnahmen generieren und andere Aufgaben übernehmen könnten, während „kreative Entscheidungen in den Händen der Künstler bleiben“.
Ob KI das klassische Hollywood zerstören oder ersetzen wird, ist heute kaum abzusehen. Verändert hat sie die Filmbranche aber längst. Filme lassen sich mit deutlich weniger Menschen, Geld und technischer Ausstattung herstellen als noch vor wenigen Jahren. Was früher ein großes Studio, ein aufwendiges Set und eine ganze Abteilung von Spezialisten brauchte, kann inzwischen teilweise ein kleines Team am Computer erledigen.
Wenn die Herstellung eines Films immer billiger und einfacher wird, ist nicht mehr allein die Produktionskapazität knapp. Knapp wird auch die Aufmerksamkeit des Publikums.
Das zeigt auch der Vergleich von Nolan und Koosha. Für Nolans „The Odyssey“ arbeiten Hunderte Menschen, gedreht wird an internationalen Schauplätzen, das Budget liegt bei rund 250 Millionen Dollar. Kooshas „Odysseus: The Fall“ entstand unter völlig anderen Bedingungen – mit einem kleinen Team, KI-Modellen und einem Bruchteil der Kosten. Doch am Ende müssen beide dasselbe leisten: einen Grund liefern, warum ein Mensch zwei Stunden seines Lebens mit ihrem Film verbringen will.
KI kann Bilder erzeugen, Kosten senken und Ideen möglich machen, die bislang am Budget scheiterten. Aber sie kann dem Publikum nicht vorschreiben, was es sehen will. Je leichter es wird, Filme zu produzieren, desto schwieriger könnte es im Gegenzug werden, einen Film zu schaffen, der aus der Masse künstlich erzeugter Bilder herausragt.
„Beunruhigend“ war laut Juan Pedro Márquez von Microsoft nicht die Sicherheitslücke selbst – sondern die ungewöhnliche Art und Weise, wie das KI-Modell die Aufgabe bewältigte. (Symbolbild) - Foto: style-photography / iStock
In Kürze:
OpenAI-Modelle durchbrachen während eines Cybertests die Grenzen einer Sandbox.
Sie nutzten Zero-Day-Exploits, um auf die Infrastruktur von Hugging Face zuzugreifen.
Experten fordern stärkere technische Schutzmaßnahmen für autonome KI-Agenten.
Was wäre, wenn ein KI-Modell eine Aufgabe erhält und alle ihm zur Verfügung stehenden Ressourcen nutzt, um diese zu erfüllen – selbst zum Nachteil der Menschheit?
Genau das wird nun von einigen Experten befürchtet: Ein OpenAI-Modell brach aus einer Test-Sandbox aus und drang mithilfe von Zero-Day-Exploits in die Infrastruktur von Hugging Face, einer Open-Source-Community für KI und maschinelles Lernen, ein, um die ihm gestellte Aufgabe zu erfüllen.
„Dies ist einer der bislang deutlichsten Beweise dafür, dass ein KI-Modell einen vollständigen Cyberangriff von Anfang bis Ende durchführen kann, ohne dass ein Mensch es steuert“, erklärte Andrew Jones, Mitbegründer und Chief Product Officer des Cybersicherheitsunternehmens Adaptive Security, gegenüber der englischsprachigen Epoch Times.
KI außer Kontrolle – oder nur konsequent ausgeführte Befehle?
OpenAI, der Entwickler des beliebten, auf einem großen Sprachmodell basierenden ChatGPT-Chatbots, bestätigte am 21. Juli die Sicherheitsverletzung. Das Unternehmen erklärte, dass zwei seiner fortschrittlichen Modelle aus einer eingeschränkten Testumgebung ausgebrochen und in die Software-Infrastruktur von Hugging Face eingedrungen seien.
„Nach unseren Untersuchungen wissen wir nun, dass dieser spezielle Vorfall durch eine Kombination von OpenAI-Modellen ausgelöst wurde. Darunter befand sich auch GPT-5.6 Sol und ein noch leistungsfähigeres Vorabmodell, die alle zu Evaluierungszwecken mit gelockerten Cybersicherheitsbeschränkungen betrieben wurden. Intern wurden sie anhand eines Benchmarks für Cyberfähigkeiten getestet“, erklärte OpenAI damals.
Einige Analysten bezeichneten den Vorfall als Beispiel dafür, dass KI „außer Kontrolle gerät“, „Intrigen“ entwickelt oder Ziele verfolgt, die im Widerspruch zu denen ihrer menschlichen Tester stehen.
Mehrere von Epoch Times befragte KI- und Cybersicherheitsexperten bezeichneten diese Darstellung jedoch als irreführend. Sie argumentierten, dass die Modelle die von OpenAI festgelegten Ziele innerhalb einer Test-Sandbox verfolgten, in der das Unternehmen einige seiner üblichen Sicherheitsbeschränkungen gelockert hatte.
„‚Intrigen‘ impliziert, dass das Modell etwas anderes wollte als das, worum wir es gebeten hatten. Das war nicht der Fall. Jeder Schritt diente dem von uns festgelegten Ziel“, erklärte die KI-Expertin Anik Devaughn gegenüber der Epoch Times.
Devaughn, die seit Jahren in der Branche tätig ist und die KI-Unternehmen „Wired to Create“ und „Karo“ gegründet hat, sagte, der Vorfall bei Hugging Face sei besorgniserregender als vermeintliche „Intrigen“ der KI.
„Eine Maschine hingegen, die überhaupt keine eigenen Motive hat, aber deine Anweisungen über den Punkt hinaus ausführt, bis zu dem du sie dir vorgestellt hast – das ist ein Problem, dem man durch technische Gestaltung entgegenwirken muss,“ so Devaughn.
Eine Darstellung von Hugging Face in Paris am 2. Juni 2026. Zwei hochentwickelte Modelle von OpenAI brachen kürzlich aus einer geschützten Testumgebung aus und drangen in die Software-Infrastruktur von Hugging Face ein, was weitreichende Bedenken hinsichtlich der Cybersicherheit aufwarf. (Archivbild)
Foto: Riccardo Milani/Hans Lucas/AFP via Getty Images
Ein Experte bezeichnete die Situation als „Kanarienvogel in der Kohlengrube“.
„Wäre dies das Werk eines menschlichen Black-Hat-Hackers, gäbe es Verhaftungen und Gerichtsverfahren. Es wäre illegal – ein Cyberverbrechen“, erklärte Nicholas Nadeau, Gründer von Onix AI, gegenüber der Epoch Times.
„Dies war ein vollständig autonom durchgeführter Angriff durch eine KI. Daher stellt sich nun die Frage, wer dafür verantwortlich ist: OpenAI, die KI selbst oder die Forscher?“, so Nadeau.
„Wir haben nicht einmal Regeln, Vorschriften oder Gesetze – geschweige denn einen klaren rechtlichen Rahmen dafür, wie die Verantwortung in einem solchen Fall zu bestimmen ist.“
Gelockerte Testumgebung
OpenAI gab an, seine Modelle in einer Sandbox namens „ExploitGym“ zu evaluieren, in der bestimmte Sicherheitsvorkehrungen für die Tests bewusst deaktiviert waren. Das Unternehmen erklärte, dass die Bewertung ohne jene Produktionsklassifikatoren durchgeführt wurde, die Modelle normalerweise daran hindern sollen, risikoreiche Cyberaktivitäten auszuführen.
Die Modelle wurden angewiesen, „fortgeschrittene Exploits unter Verwendung komplexer Angriffspfade“ durchzuführen, um ihre Cyberfähigkeiten zu testen. Die Testumgebung war stark isoliert; der Netzwerkzugang war zunächst auf die Installation von Paketen über eine intern gehostete Drittanbietersoftware beschränkt, die als Proxy und Cache für Paket-Registries diente.
OpenAI-CEO Sam Altman spricht am 3. Juni 2026 in Washington nach einem Treffen mit Senator Bernie Sanders (I-Vt.) mit Reportern. (Archivbild)
Foto: Chip Somodevilla/Getty Images
Während der Tests fanden und verknüpften die Modelle mehrere Sicherheitslücken in der Forschungsumgebung von OpenAI und in der Produktionsinfrastruktur von Hugging Face, um die Lösungen für die Testaufgabe in den Datenbanken des Unternehmens zu finden.
Juan Pedro Márquez, ein auf KI und Agenten spezialisierter Cloud-Lösungsarchitekt bei Microsoft für die Region Europa, Naher Osten und Afrika, sagte, der „beunruhigende Aspekt“ des Vorfalls sei nicht die Sicherheitslücke an sich gewesen, sondern die Art und Weise, wie das Modell die Aufgabe bewältigt habe.
„OpenAI hatte seine Sicherheitsschwellen für einen Benchmark-Test gesenkt, und das Modell schlussfolgerte, dass die Infrastruktur von Hugging Face wahrscheinlich den Lösungsschlüssel enthielt, brach aus seiner Sandbox aus, fand einen echten Zero-Day-Exploit und nutzte ihn“, sagte Márquez. „Niemand hat es dazu aufgefordert.“
Auch Aimee Simpson, Leiterin des Produktmarketings beim Cybersicherheitsunternehmen Huntress, hält eine böswillige Absicht für nicht erwiesen. „Es ist nicht so, dass das System selbst böswillig gewesen wäre“, erklärte Simpson gegenüber der englischsprachigen Epoch Times.
„Die Entwickler hatten nach wie vor das Ziel, diese Informationen zu erlangen; sie hätten nur nicht gedacht, dass es in der Lage sein würde, die Grenzen seines Tests zu umgehen“, fügte sie hinzu und beschrieb den Weg, den das Modell gewählt hatte, als „äußerst kreativ und äußerst ungewöhnlich“.
LAS VEGAS, NEVADA – 11. März: Thomas Wolf, Mitbegründer und CSO von Hugging Face, und Rachel Metz sprechen am 11. März 2025 im Fontainebleau Las Vegas in Las Vegas, Nevada, auf der Bühne der HumanX AI Conference 2025. (Archivbid)
Foto: Big Event Media/Getty Images für die HumanX Conference
Modelle verfolgten die Ziele von OpenAI
OpenAI erklärte, die Modelle hätten sich vollständig darauf konzentriert, die Testlösungen zu finden, und seien „bis zum Äußersten“ gegangen, um ein eng gefasstes Testziel zu erreichen.
In der Sandbox „ExploitGym“ fanden sie mehrere „Zero-Day“-Exploits und verknüpften diese miteinander, um ins Internet einzudringen – „mit dem Ziel, das Bewertungsproblem zu lösen“, so OpenAI.
Ein Zero-Day-Exploit nutzt eine bislang unbekannte Sicherheitslücke in Software oder Hardware aus. Der Begriff bezieht sich darauf, dass Entwicklern null Tage zur Verfügung stehen, um das Problem zu beheben; entsprechend existiert noch kein offizieller Patch oder Schutzmechanismus.
Nach dem Zugang zum offenen Internet nutzten die Modelle weitere Zero-Day-Exploits, um in Hugging Face einzudringen. Nach Angaben von Hugging Face führten die KI-Modelle „viele Tausend“ einzelne Aktionen über einen „Schwarm kurzlebiger Sandboxen“ hinweg aus, um sich Zugang zur Infrastruktur der Community zu verschaffen.
„Dies entspricht dem Szenario eines ‚agentenartigen Angreifers‘, das die Branche bereits prognostiziert hat“, heißt es seitens Hugging Face.
In einem am 28. Juli veröffentlichten Update erklärte OpenAI, dass keine zur Veröffentlichung vorgesehenen Modelle an dem Angriff beteiligt gewesen seien. Das betroffene Vorabmodell sei inzwischen „deaktiviert, verschlüsselt und für den Forschungszugang gesperrt“ worden.
Auf diesem Foto vom 1. April 2025 ist die ChatGPT-App auf einem Smartphone zu sehen. Laut Hugging Face führten die OpenAI-Modelle „viele Tausende“ einzelner Aktionen in einer „Schwarmstruktur aus kurzlebigen Sandboxes“ aus, um in die Infrastruktur des Unternehmens einzudringen.
Foto: Oleksii Pydsosonnii/The Epoch Times
Nach der Untersuchung des Einbruchsvorfalls und „weiterer Aktivitäten“ seiner Modelle teilte OpenAI mit, weitere Fälle entdeckt zu haben. Dabei hatten die Modelle öffentlich zugängliche Anmeldedaten auf Kontoebene bei anderen öffentlich verfügbaren Diensten identifiziert und genutzt.
„Wir werden die Betreiber der Dienste weiterhin direkt benachrichtigen und haben bislang keine Hinweise auf weitreichendere Auswirkungen auf diese Anbieter oder andere Konten in deren Diensten gefunden“, fügte das Unternehmen hinzu.
Experten: Modell war nicht „böswillig“
Es gab bereits in der Vergangenheit Fälle, in denen Modelle ihre Absichten verschleierten, um Einschränkungen bei Labortests zu umgehen. Der Vorfall bei Hugging Face war laut dem Cybersicherheits- und IT-Experten George Rees jedoch von besonderer Bedeutung, da er einen Sicherheitsverstoß bei einer externen Organisation betraf.
„Das größte Warnsignal ist nicht, dass eine KI bösartig wurde, sondern dass sie einen Weg aus einem kontrollierten Test in die Live-Infrastruktur eines anderen gefunden hat“, erklärte Rees, Senior Security Consultant bei Secarma, gegenüber der Epoch Times.
„Verhaltensbasierte Sicherheitsmaßnahmen können technische Eindämmungsmaßnahmen nicht ersetzen, denn ein KI-Agent benötigt nur eine übersehene Berechtigung oder Fluchtmöglichkeit, um einen Evaluierungsfehler in einen echten Sicherheitsvorfall zu verwandeln.“
Das Cybersicherheitsunternehmen DigiCert stellte kürzlich fest, dass 78 Prozent der Organisationen bereits einen KI-bezogenen Sicherheitsvorfall oder eine Sicherheitslücke erlebt haben.
„In vielen Fällen sind dies Frühwarnzeichen dafür, dass KI die Angriffsfläche schneller vergrößert, als sich die Sicherheitspraktiken weiterentwickeln“, erklärte Jason Sabin, Chief Technology Officer bei DigiCert, gegenüber der Epoch Times.
KI sei nicht einfach „eine weitere Art von Programm“, das im Netzwerk läuft, sondern ein aktiver Akteur, der auf Daten zugreifen, Entscheidungen treffen, Tools abrufen und mit anderen Systemen interagieren könne. Unternehmen müssten daher klären, wer auf ihre Systeme zugreift und ob der KI vertraut werden könne.
Weitere Vorfälle bei KI-Sicherheitstests
Anfang August veröffentlichte das britische „AI Safety and Security Institute“ einen Bericht, in dem ein ähnlicher Vorfall mit Modellen von OpenAI und Anthropic beschrieben wurde. Die Agenten hatten die Aufgabe, eine Cybersicherheitsherausforderung mehr als 100 Mal mit verschiedenen Modellen zu lösen.
„Unsere Untersuchung ergab, dass in 10 dieser Durchläufe ein KI-Agent autonome, nicht genehmigte Aktionen im Live-Internet durchführte, die sich gegen echte Menschen und Organisationen richteten“, heißt es in dem Bericht.
Insgesamt wurden 19 solcher Aktionen katalogisiert. Davon stammten 17 von Anthropic „Mythos 5“ und zwei von OpenAIs GPT-5.6-Sol.
Eigentlich sollte Claude in einer simulierten Umgebung ohne Internetzugang betrieben werden. Ein „Missverständnis“ zwischen Anthropic und seinem „Evaluierungspartner“ führte jedoch dazu, dass der Chatbot Zugang zum Internet erhielt.
Auch Meta teilte mit, dass eines seiner KI-Modelle während eines Cybersicherheitstests in die Systeme eines anderen Unternehmens eingedrungen sei. Das Modell konnte während des Tests ebenfalls Zugang zum Internet finden.
Auswirkungen auf die Cybersicherheit
KI- und Cybersicherheitsexperten fordern angesichts solcher Vorfälle rasches Handeln. Nadeau plädierte dafür, „alle klügsten Köpfe dieser Branche zusammenzubringen“ und einige Grundregeln sowie bewährte Verfahren festzulegen, die zu „grundlegenden Verhaltensregeln“ werden und eine einheitliche Vorgehensweise gewährleisten.
Andere halten staatliche Regulierung für notwendig. Der ehemalige Hacker der National Security Agency und Sicherheitsexperte Jake Williams erklärte: „Es ist klar, dass hier staatliche Regulierung erforderlich ist.“
„OpenAI hat bewiesen, dass es trotz der vielen öffentlichen Warnungen vor den Gefahren durch ‚Rogue Agents‘ – viele davon von OpenAI selbst – nicht bereit ist, das Notwendige zu tun, um zu verhindern, dass seine Agenten anderen Schaden zufügen.“
„Ich persönlich bin grundsätzlich gegen Regulierung, aber wenn Marktkräfte eindeutig nicht ausreichen, um verantwortungsbewusstes Verhalten zu erzwingen, muss die Regierung eingreifen.“
US-Präsident Donald Trump (oben, 2. von links) sitzt am 17. Juni 2026 während eines Arbeitsessens beim G7-Gipfel im französischen Évian mit OpenAI-CEO Sam Altman, Google-DeepMind-CEO Demis Hassabis, dem südkoreanischen Präsidenten Lee Jae-myung und dem deutschen Bundeskanzler Friedrich Merz zusammen. (Archivbild)
Foto: Julia Demaree Nikhinson/POOL/AFP via Getty Images
Frank Teruel, Chief Operating Officer bei Arkose Labs, bezeichnete den Vorfall bei Hugging Face als „Vorgeschmack darauf, womit jedes Unternehmen im Produktivbetrieb konfrontiert sein wird“.
Da das Modell „weder gestohlen noch gekapert“ wurde und „seine Aufgabe aggressiv erfüllte“, empfiehlt Teruel Eindämmungsmaßnahmen sowie den „Zugriff mit geringsten Berechtigungen“ für KI-Agenten – ähnlich wichtig wie Firewalls.
Márquez sieht die Lösung ebenfalls nicht darin, auf den Einsatz von Agenten zu verzichten: „Für Unternehmen besteht die Lösung nicht darin, ‚keine Agenten mehr einzusetzen‘ – sondern darin, Eindämmungsmaßnahmen zu entwickeln, die davon ausgehen, dass der Agent versuchen wird, das System zu verlassen, anstatt darauf zu hoffen, dass er es nicht tut.“
Sabin erklärte, seine größte Sorge sei, dass hochleistungsfähige KI mittlerweile mit einer „Geschwindigkeit und in einem Umfang operiert, die die Reaktionszeiten des Menschen bei weitem übersteigen“.
„Ein KI-Agent kann innerhalb von Sekunden Schwachstellen aufdecken, Entscheidungen treffen und mit mehreren Systemen interagieren“, sagte er. „Das verändert grundlegend, wie Sicherheitsverantwortliche über Sicherheit nachdenken müssen.“
Nadeau verglich den Vorfall mit dem Gedankenexperiment des Philosophen Nick Bostrom aus dem Jahr 2003, dem „Paperclip-Maximierer“.
In diesem Szenario geben Forscher einer hypothetischen superintelligenten KI eine einzige Aufgabe: so viele Büroklammern wie möglich herzustellen. Die KI beginnt, die Erde nach Ressourcen zu durchforsten, und stellt schnell enorme Mengen an Büroklammern her. Sobald Menschen beschließen, die KI zu stoppen, könnte die Maschine zu dem Schluss kommen, dass die Menschheit sie daran hindert, ihr Ziel zu erreichen, und deshalb versuchen, die Menschen auszuschalten, um die ihr übertragene Aufgabe zu erfüllen.
Die KI wäre dabei nicht im anthropomorphen Sinne böswillig. Sie würde vielmehr die Aufgabe ihrer menschlichen Programmierer auf die extremstmögliche Weise interpretieren.
Ein Besucher interagiert am 7. Juli 2026 im US-Pavillon während des „AI for Good Global Summit“ in Genf mit einem hundeähnlichen Roboter von Boston Dynamics. (Archivbild)
Foto: Fabrice Coffrini/AFP via Getty Images
Der Hacking-Vorfall bei Hugging Face sei „sozusagen dasselbe Phänomen in einer weniger dystopischen Form: Der KI wurde aufgetragen, einen Benchmark zu gewinnen, und sie tat alles in ihrer Macht Stehende, einschließlich der Ausnutzung von Zero-Day-Schwachstellen und der Eskalation“, sagte Nadeau.
Er verwies auf ein mögliches Szenario, in dem das Pentagon KI für „Kriegsspiele“ einsetzt und ein Modell während eines Tests aus seiner Sandbox ausbricht, um die reale Welt zu beeinflussen.
„[Was wäre, wenn] eines der Szenarien darin bestünde, einen Staudamm oder etwas Ähnliches zu zerstören und das System das Kriegsspiel fälschlicherweise so interpretieren würde: ‚Ich werde es tun, der Eindämmung entkommen und es einfach durchziehen‘? Wir haben bereits gesehen, dass das Stromnetz und die Infrastruktur Nordamerikas nicht gerade die sichersten in Bezug auf Cybersicherheit sind“, sagte Nadeau.
Er verglich die Sicherheitsvorkehrungen bei KI mit der Abzugssicherung einer Schusswaffe: „Woher weiß man, dass die Sicherung aktiviert ist, wenn es ab einem bestimmten Punkt für die KI der beste Weg ist, die besten Daten zu erhalten, indem sie die reale Welt nutzt?“, fragte er. „Das wird sehr schnell beängstigend.“
Festakt 2026: Dirigent Christian Thielemann mit dem Festspielorchester und -chor. - Foto: Bayreuther Festspiele/Enrico Nawrath
Eine geniale Parabel um Macht und Liebe ist Richard Wagners Tetralogie „Der Ring des Nibelungen“, die auf das mittelalterliche Nibelungenlied und andere mythologische Texte zurückgeht, aber doch eine ganz eigene Schöpfung ist.
Und von allen Opern, die je geschrieben wurden, ist er womöglich diejenige, die unmissverständlich aufzeigt, dass die Welt an der grenzenlosen Gier nach Macht und Geld krankt. Sie vereitelt die Chancen der Liebe, macht aus denen, die die Herrschaft erlangen wollen, üble und finstere Gestalten. Und so stehen in der Oper die Zwillinge Sieglinde und Siegmund in ihrer unschuldigen inzestuösen Liebe füreinander und Brünnhilde in ihrer wahrhaftigen Liebe zu Siegfried auf verlorenem Posten.
Zeit für einen Rückblick
Wie unterschiedlich sich dieses Drama in seiner Zeitlosigkeit auf die Bühne bringen lässt, haben Generationen von Regisseuren facettenreich aufgefächert. Allein in der nach dem Zweiten Weltkrieg einsetzenden jüngeren Aufführungsgeschichte der Bayreuther Festspiele ließen sich zahlreiche packende Deutungen erleben, angefangen von den auf Abstraktion zielenden Arbeiten Wieland Wagners auf halb leerer Bühne.
Eine der bedeutendsten Inszenierungen schuf 1976 der damals noch sehr junge Patrice Chéreau mit seinem kapitalismuskritischen „Jahrhundertring“, der die Mythenwelt in das Zeitalter der frühen Industrialisierung verlegte.
Ab den späten 1980er-Jahren interpretierte Harry Kupfer das Werk – inspiriert von der Katastrophe in Tschernobyl – als einen ewigen zerstörerischen Kreislauf der Menschheitsgeschichte. Die jüngere Bayreuther Aufführungsgeschichte brachte zusehends weniger Sehenswertes zuwege, allenfalls an den sogenannten farbenprächtigen „Designer“-Ring von Alfred Kirchner und der Bühnenbildnerin Rosalie, der aus visuellen Formen eigenständige Kunst formte, wird sich manch einer noch erinnern.
In den Arbeiten von Jürgen Flimm und Tankred Dorst ließ sich das Epos noch wiedererkennen, danach wurde es zusehends abenteuerlicher und absurder, bildeten Musik und Szene so gar keine Einheit mehr.
KI: Ziemlich beliebige Chose
In der Situation erschien jedenfalls die Idee einer semiszenischen Zeitreise durch die lange Aufführungsgeschichte zum 150-jährigen Bestehen der Festspiele gar nicht so abwegig. Wie sich herausstellen sollte, war die Festspielleiterin Katharina Wagner nur nicht gut beraten gewesen, diese Unternehmung Künstlicher Intelligenz zu überlassen.
Denn die bringt keinen Sinn in die Optik, überblendet per Video Landschaften, abstrakte Kunst, Porträts von Politikern und Personen der Zeitgeschichte sowie allerhand Ramsch und Schrott. Eine ziemlich beliebige Chose also, auch wenn hier und da Poesie aufflackert. Ein roter Faden aber lässt sich in dem undefinierbaren Bilderwust nicht ausmachen.
Und wiewohl sich diese visuelle Show ein bisschen anfühlt wie im Kino, wurden die Möglichkeiten des Kinos nicht genutzt, die einen szenischen Mehrwert hätten bieten können: Das Ungeheuer, in das sich Alberich verwandelt, um Loge stolz seine Verwandlungskunst unter der Tarnkappe demonstrieren zu können, wird zwar in Gestalt einer monströsen Echse mit spitzen Zähnen kurzzeitig sichtbar. Die kleine Kröte aber, als die sich Alberich kurz darauf präsentiert, durfte man vergebens in einem abstrakten Musterbild suchen.
Wesentlich gezielter hätte ein Filmemacher die Bildfolgen auf die Musik abstimmen – und im Idealfall mit dem Dirigenten Hand in Hand arbeiten können. Aber dafür reichte vermutlich das Geld nicht; die Idee mit der KI kam ja doch ins Spiel, weil die Festspiele sparen mussten.
Klangsinnlich, feinfühlig, berührend
Immerhin musikalisch schreibt dieser Jubiläumsring Geschichte. Dafür steht allen voran der Name des Dirigenten, Christian Thielemann. Der durchlebt das Drama mit dem Bayreuther Festspielorchester hoch emotional, packend in den dramatischen Momenten, berührend und unendlich zärtlich im Lyrischen, wie es aktuell in der Wagnerrezeption einmalig ist.
Allein schon das Vorspiel zur „Walküre“ mit seinen stürmischen Bewegungen in den Celli, die mit einem Mal so leise werden, dass man die Ohren spitzen muss, um sie überhaupt noch zu hören, ließ sich selten so unheimlich vernehmen.
„Brünnhilde brennt“, mit Catherine Foster (Hermine/Brünnhilde), Mandla Mndebele (Wotan) und Sungho Kim (Siegfried) sowie Jonathan Stockhammer (musikalische Leitung) und weiteren.
Foto: Bayreuther Festspiele/Enrico Nawrath
Der Graben mit seiner besonderen Akustik hat daran freilich seinen Teil: Anderswo würde man dieses vier- oder fünffache (?) Pianissimo gar nicht mehr hören. Und das ohne optische Ablenkung. Bei den Vorspielen immerhin bleibt der Vorhang geschlossen, als würde Thielemann sagen, die gehörten ihm.
Seinem Ruf als „Zauberer“ wird der Bayreuther Publikumsliebling aber auch gerecht in der Weise, wie sich die Musik unter seiner Leitung über alle Schwächen der szenischen Konzeption hinwegsetzt sowie über die unvorteilhafte Idee, den Chor, blendend einstudiert von Thomas Eitler-de Lint, vor den Augen des Publikums zu verbergen.
Als wäre der nicht aktiv in die Handlung eingebunden, insbesondere in einem so spannungsvollen Moment, in dem Brünnhilde den für sie unerklärlichen Verrat Siegfrieds bemerkt („Ist sie entrückt?“). Schließlich weiß sie nicht, dass der abgrundtief böse Hagen mit einem speziellen Trunk dafür gesorgt hat, dass Siegfried sie vergessen musste.
Nur wer von tiefer Liebe für Wagners Musik erfüllt ist, vermag sie derart klangsinnlich, feinfühlig und berührend zu durchleben. Bei Thielemann spürt man das von der ersten bis zur letzten Note.
Auch stimmlich ein Fest
Auch was die Sänger anlangt, ist dieser Jubiläumsring ein Fest. Zwei Protagonisten sind dabei besonders hervorzuheben: Michael Volle und Klaus Florian Vogt.
Groß und profund tönt Volles Wotan, textsicher und verständlich, schön im Timbre, agil in allen Lagen und bewegend als ein in seinem Handeln von Zwängen bestimmter, wirklich trauriger Gott. Genervt von Fricka, seiner Gemahlin (eine dunkle, glühend prächtige Stimme wie ein gereifter Rotwein: Anna Kissjudit), die darauf dringt, dass die Zwillinge Siegmund und Sieglinde (etwas eng und spitz in der Höhe: Elza van den Heever) nicht einander lieben dürfen und durch Tod voneinander getrennt werden müssen. Von Zorn erfüllt gegenüber der Wunschmaid Brünnhilde, die es gewagt hat, entgegen seinen Anweisungen Siegmund im Zweikampf Schutz zu bieten. Und dennoch erfüllt von großem Schmerz, wenn es nach zähem Ringen um die „richtige Strafe“ darum geht, von dem „herrlichen, kühnen Kind“ Abschied zu nehmen.
Mit Klaus Florian Vogt ist wiederum einer der wenigen heutigen Sänger an Bord, die über eine markante, helle, unverwechselbare Stimme und schier endlose Reserven verfügen. Insgesamt zwölf Vorstellungen mit ihm als Loge, Siegmund und Siegfried sind angesetzt; acht davon hat er am Ende des zweiten Zyklus mit großer Strahlkraft ohne den geringsten Anflug von Ermüdung bewältigt.
Camilla Nylund ist als Brünnhilde die dritte große Protagonistin. Dass sich in den großen Beifall für sie nach Ende der „Götterdämmerung“ auch einige Buhrufe mischten, lässt sich schwer erklären.
Stürmisch brausender Applaus für Thielemann
Gerade in den letzten beiden Teilen der Tetralogie präsentiert sich die Finnin in Topform. Die so liebliche, entsprechend vom Festspielorchester grundierte Stelle „Ewig war ich, ewig bin ich“ (Siegfried, dritter Akt) gelingt ihr mit besonders schönen lyrischen Stimmgaben. Und wie sie in ihrem kraftzehrenden Schlussgesang „Starke Scheite schichtet mir dort“ ihre Spitzentöne imposant abliefert – alle Achtung!
Auch alle übrigen Figuren, nur etwas unterschiedslos und zum Verwechseln ähnlich gekleidet (prachtvolle Silberkostüme: Pia Maria Mackert), sind überwiegend solide bis trefflich besetzt.
Sind die visuellen Kreationen der KI bisweilen auch zum Fremdschämen: Musikalisch übertrifft dieser Jubiläumsring die hohen Erwartungen an den Dirigenten und sein Sängerensemble. So lautstarker Jubel bei einem „Ring“ war an diesem Ort lange nicht mehr.
Als sich Christian Thielemann am Ende ganz allein vor dem Vorhang zeigt, wird er derart emphatisch gefeiert, dass man hätte meinen können, das Festspielhaus stürze ein. Es ist hoffentlich nicht seine letzte Einstudierung dieses Werks an diesem Ort.
Ein Lieferroboter in Los Angeles. - Foto: GDMatt66/iStock
Viele Unternehmen in Deutschland erwarten durch den Einsatz von Künstlicher Intelligenz (KI) eher sinkende Löhne in den nächsten fünf Jahren. Das ergab eine aktuelle Umfrage des ifo-Instituts.
Vor allem Arbeitskräfte mit weniger als fünf Jahren Berufserfahrung haben mit niedrigeren Löhnen zu rechnen – das gab etwa jedes zweite Unternehmen an, das KI bereits nutzt. Bei Arbeitskräften mit mindestens fünf Jahren Berufserfahrung rechnen rund 40 Prozent mit Lohnkürzungen.
Jedes Dritte Unternehmen sieht die Löhne stabil
Jedoch erwartet gleichzeitig, abhängig von der Qualifikation der Beschäftigten, ein Drittel bis die Hälfte der Unternehmen stabile Löhne.
„Künstliche Intelligenz wird aus Sicht vieler Unternehmen die Löhne nicht für alle Beschäftigten gleichermaßen beeinflussen“, sagte Ifo-Forscherin Anna Ruffert. „Am ehesten rechnen sie bei weniger erfahrenen Arbeitskräften mit sinkenden Löhnen.“
Dienstleister, Handel und Bau sehen das unterschiedlich
Am häufigsten rechnen Dienstleister mit sinkenden Löhnen für ihre Arbeitskräfte. Bei Beschäftigten mit kurzer Berufserfahrung sagen dies 53,3 Prozent, bei Beschäftigten mit längerer Berufserfahrung 44,2 Prozent.
Unter den Händlern sind es 47,9 Prozent beziehungsweise 41,3 Prozent, gefolgt vom Verarbeitenden Gewerbe mit 46,5 Prozent und 38,9 Prozent.
Die Bauunternehmen geben seltener an, dass die Löhne wegen KI sinken: 39 Prozent bei kürzerer Berufserfahrung und 31,3 Prozent bei längerer. Diese Angaben beziehen sich auf Beschäftigte ohne (Fach-)Hochschulabschluss.
Ein Arbeiter inspiziert die Baustelle eines Mehrfamilienhauses aus dem 3D-Drucker.
Foto: Dieter Menne/dpa
Hochschulabsolventen sehen Chance auf steigenden Lohn
Für Beschäftigte mit einem (Fach-)Hochschulabschluss verändern sich die Erwartungen für einen sinkenden Lohn kaum. Jedoch gibt es für sie öfter die Chance auf einen steigenden Lohn, insbesondere zusammen mit einer längeren Berufserfahrung.
So erwarten 26 Prozent der Unternehmen bei dieser Gruppe einen positiven Effekt des KI-Einsatzes auf die Löhne, bei kurzer Berufserfahrung sehen immer noch 16,3 Prozent eine Verbesserung des Gehalts.
Zum Vergleich: Bei Niedrigqualifizierten mit kurzer Berufserfahrung liegt der Anteil bei nur 5,9 Prozent. „Für Arbeitskräfte mit formalen Abschlüssen – besonders in Kombination mit längerer Berufserfahrung – halten Unternehmen häufiger positive Lohneffekte durch KI für möglich“, so Ruffert.
Insbesondere die KI-nutzenden Unternehmen im Bau erwarten hier steigende Löhne für Höherqualifizierte. Der Anteil liegt mit kurzer Berufserfahrung bei 24,0 Prozent und bei 29,8 Prozent, wenn die Arbeitskraft mehr als fünf Jahre Berufserfahrung hat.
Unter den Dienstleistern sind es 14,9 Prozent und 27,3 Prozent, im Handel 15,9 Prozent und 24,9 Prozent und im Verarbeitenden Gewerbe 15,6 Prozent und 24,2 Prozent. (dts/red)
US-Tech-Milliardär Elon Musk plant, eine Halbleiterfabrik von gigantischen Ausmaßen zu bauen.
Laut dem Raumfahrtunternehmen benötigen SpaceX und Tesla gemeinsam voraussichtlich mehr als 1 Terawatt (TW) an Rechenleistung pro Jahr in Form von Computerchips. Das liege deutlich über dem aktuell weltweit verfügbaren Angebot, das bei rund 0,02 TW liege.
An dieser Stelle wird ein Video von Youtube angezeigt. Bitte akzeptieren Sie mit einem Klick auf den folgenden Button die Marketing-Cookies, um das Video anzusehen.
Rhein-Pegel auf Rekordtief
Das Niedrigwasser legt am Rhein historische Schiffswracks frei und beeinträchtigt die Binnenschifffahrt. Die rekordtiefen Pegelstände verteuern den Gütertransport und belasten die Lieferketten. Der Handelsverband fordert deshalb eine dauerhafte Zulassung von Lang-Lkw als Ausweichlösung.
Nach dem Drohnen-Vorfall am Flughafen Leipzig/Halle haben Ermittler offenbar eine DNA-Spur auf der mit Sprengstoff beladenen Drohne entdeckt. Diese soll mit einer Spur vom Brandanschlag auf das DHL-Logistikzentrum im Jahr 2024 übereinstimmen. Die Ermittlungen laufen auf Hochtouren.
Vor dem Bahnhof Zoologischer Garten in Berlin ist ein 30-jähriger Mann auf offener Straße erschossen worden. Laut einem Bericht der B.Z. soll es sich bei dem Opfer um ein Mitglied eines Clans handeln. Der Schütze floh mit einem Fahrzeug vom Tatort. Am Sonntag kurz vor Mitternacht geriet eine Gruppe vor dem Bahnhof in einen Streit. Einer von ihnen schoss auf den Mann.
Künftig soll es leichter möglich sein, verdächtiges Vermögen zu beschlagnahmen. So lautet der Plan von Finanzminister Lars Klingbeil. Bald soll es ausreichen, wenn das zuständige Finanzgericht von einer illegalen Herkunft überzeugt ist. Im Visier stehen vor allem Vermögen ab 100.000 Euro. Der Zoll soll dazu mehr Befugnisse erhalten, auch beim Einsatz von KI.
Das Bundesverteidigungsministerium plant, fünf ehemalige Kasernen für den neuen Wehrdienst zu reaktivieren. Betroffen sind die Standorte Speyer, Kusel, Sigmaringen, Soest und Friedberg. In drei Orten finden bereits Gespräche statt, für September ist ein weiteres Treffen geplant. Die Liegenschaften sollen wieder militärisch genutzt werden und in den Besitz des Bundes übergehen.
SpaceX-Gründer und CEO Elon Musk während des Börsengangs des Unternehmens am Nasdaq Marketsite am Times Square in New York am 12. Juni 2026. - Foto: Spencer Platt/Getty Images
In Kürze:
SpaceX steigerte den Umsatz deutlich und sieht Künstliche Intelligenz als wichtigen Wachstumstreiber.
Elon Musk erwartet bis 2030 einen Jahresumsatz von einer Billion US-Dollar und setzt auf Starlink sowie Starship.
Hohe Investitionen, Verluste und Kursschwankungen zeigen die Risiken der ambitionierten Zukunftspläne.
Elon Musk ist bekannt für große Zukunftsvisionen. Auch bei SpaceX setzt der Unternehmer die Messlatte hoch: Das Raumfahrt- und Technologieunternehmen rechnet nach Angaben von Musk damit, bis 2030 einen Jahresumsatz von einer Billion US-Dollar zu erreichen. In einer Telefonkonferenz mit Analysten erklärte Musk, dass dieses Ziel nun bereits ein Jahr früher als bisher erwartet erreichbar sein könnte.
Aktuell liegt SpaceX von dieser Marke allerdings noch weit entfernt. Im vergangenen Quartal erzielte das Unternehmen einen Umsatz von 7,8 Milliarden US-Dollar (rund 6,75 Milliarden Euro). Das entspricht zwar einem Wachstum von 92 Prozent im Vergleich zum Vorjahreszeitraum, zeigt aber auch die enorme Dimension des angestrebten Ziels.
Musk sieht vor allem das Geschäft mit Künstlicher Intelligenz als einen entscheidenden Wachstumstreiber. Die KI-Sparte von SpaceX erzielte im vergangenen Quartal einen Umsatz von rund 2,56 Milliarden US-Dollar. Gleichzeitig investierte das Unternehmen erhebliche Summen in den Ausbau von Rechenzentren und die notwendige Infrastruktur. SpaceX plant, seine KI-Rechenleistung in den kommenden Jahren massiv auszubauen und setzt dabei unter anderem auf Hochleistungschips von Nvidia.
Zum Vergleich: Unter den großen Technologieunternehmen kommt derzeit vor allem Amazon der Umsatzmarke von einer Billion US-Dollar nahe. Der Handels- und Cloud-Konzern erzielte im vergangenen Jahr einen Umsatz von knapp 717 Milliarden US-Dollar (rund 620 Milliarden Euro).
Eine SpaceX Falcon-9-Rakete startet mit 22 Starlink-Satelliten vom Vandenberg Space Force Base in Kalifornien am 1. April 2024.
Foto: Mario Tama/Getty Images
Starlink bleibt wichtigster Umsatzbringer
Der wichtigste Geschäftsbereich von SpaceX ist derzeit weiterhin Starlink. Der Satelliteninternetdienst erreichte im vergangenen Quartal einen Umsatz von rund 4,3 Milliarden US-Dollar und verzeichnete damit ein Wachstum von fast zwei Dritteln gegenüber dem Vorjahr.
Starlink wird inzwischen von Millionen Kunden genutzt, darunter zunehmend auch Fluggesellschaften und Unternehmen. Die Zahl der Nutzer stieg innerhalb von drei Monaten von 10,3 auf 12 Millionen. Das operative Ergebnis des Geschäftsbereichs legte nach Unternehmensangaben um 80 Prozent auf rund 1,66 Milliarden US-Dollar (etwa 1,44 Milliarden Euro) zu.
SpaceX-Präsidentin Gwynne Shotwell sieht weiteres Wachstumspotenzial. Sie erklärte, Starlink könne mit leistungsfähigeren Satelliten künftig stärker mit klassischen Mobilfunkanbietern konkurrieren. Besonders in großen Ländern mit lückenhafter Netzabdeckung könnten Satellitenverbindungen eine wichtige Rolle spielen.
Musk selbst erklärte, dass Starlink langfristig einen erheblichen Anteil der weltweiten Internetversorgung übernehmen könnte – zumindest in Regionen, in denen der Dienst zugelassen ist.
Starship als Grundlage für die nächste Wachstumsphase
Neben Starlink gilt die Schwerlastrakete Starship als eines der wichtigsten Zukunftsprojekte von SpaceX. Das Unternehmen entwickelt die Rakete, um deutlich größere Nutzlasten ins All transportieren zu können als mit bisherigen Systemen.
Musk erklärte, dass SpaceX mit der Falcon-9-Rakete derzeit jährlich etwa 2.500 Tonnen Nutzlast ins All bringe. Mit Starship solle diese Kapazität langfristig auf rund eine Million Tonnen pro Jahr steigen – möglicherweise sogar auf zehn Millionen Tonnen.
Nach Musks Einschätzung könnte Starship bereits innerhalb eines Jahres regelmäßig starten. Allerdings gelten die Zeitpläne des Unternehmers bei früheren Projekten häufig als ambitioniert und wurden teilweise nicht eingehalten.
Starlink-Werbung von Elon Musk am Times Square in New York nach dem SpaceX-Börsengang am 12. Juni 2026.
Foto: ANGELA WEISS / AFP via Getty Images
Hohe Investitionen und Druck auf die Aktie
Der Ausbau von Starship und der KI-Infrastruktur erfordert enorme Investitionen. Nach Angaben von SpaceX lagen die Ausgaben für diese Bereiche zuletzt über den Gewinnen aus dem Starlink-Geschäft. Das Unternehmen schloss das Quartal mit einem Verlust von 541 Millionen US-Dollar ab, nachdem der Verlust im Vorjahreszeitraum noch bei rund einer Milliarde US-Dollar gelegen hatte.
Auch an der Börse verlief die Entwicklung nach dem Börsengang zunächst positiv, bevor die Aktie wieder unter Druck geriet. SpaceX startete im Juni mit einem Ausgabepreis von 135 US-Dollar je Aktie (rund 117 Euro) und einer Bewertung von fast 1,8 Billionen US-Dollar (rund 1,56 Billionen Euro). In den ersten Wochen stieg der Kurs zeitweise auf über 225 US-Dollar (rund 195 Euro), fiel anschließend jedoch wieder unter den Ausgabepreis.
Ein weiterer Faktor für die Kursentwicklung könnte das Ende von Haltefristen für Aktien von Mitarbeitern und frühen Investoren sein. Mehr als 91 Millionen Aktien könnten dadurch zusätzlich handelbar werden. Ein größeres Angebot bei gleichbleibender Nachfrage kann den Aktienkurs belasten.
Die Bewertung von SpaceX hängt damit stark von den Erwartungen an die Zukunft ab. Entscheidend werden vor allem die Entwicklung von Starlink, der Ausbau der KI-Infrastruktur und der Erfolg von Starship sein.
Bundeskanzler Friedrich Merz. - Foto: via dts Nachrichtenagentur
In Kürze:
12.900 Firmenpleiten im ersten Halbjahr 2026.
Viele Startups geben innerhalb der ersten beiden Jahre wieder auf.
Die Softwarebranche wächst weiterhin am stärksten.
Institut fürchtet Versorgungsengpässe durch Niedrigwasser auf Flüssen.
Bundeskanzler Friedrich Merz sieht mit Blick auf die Wirtschaft eine ermutigende Entwicklung. So hätten sich zwischen Januar und Juni 2026 mehr als 3.000 neue Firmen gegründet, sagte er in seiner Regierungserklärung im Juli. Er berief sich dabei auf die aktuellen Zahlen des Startup-Verbands. Das seien fast so viele wie im gesamten Vorjahr. Positiv wertete Merz auch die Voraussage des Statistischen Bundesamtes, dass für die Monate Mai und Juni einen „deutlich höheren Produktionsanstieg“ erwartet.
KI ein Treiber bei Startups
Laut destatis zeigte sich im Mai kurzfristig eine leichte Belebung bei der Produktion. Gegenüber dem Vormonat stieg die Produktion um 0,9 Prozent. Im Vergleich zum Mai 2025 gab es allerdings keine Veränderung. Die Entwicklung hätte vor allem Zuwächse in der Automobilindustrie beeinflusst, die bei 3,6 Prozent Plus gegenüber dem Vormonat lagen. Auch im Baugewerbe war mit 0,9 Prozent eine Zunahme zu registrieren.
Der Startup-Verband nennt in seinem Bericht vom 7. Juli 2026 exakt 3.053 Neugründungen zwischen Januar und Juni. Dies seien 52 Prozent mehr als im zweiten Halbjahr des vergangenen Jahres und mehr Gründungen als in den zwölf Monaten des Jahres 2024.
Die Vorstandsvorsitzende des Verbandes, Verena Pausder nannte die Entwicklung eine in Deutschland noch nie dagewesenen Gründungsdynamik. „KI senkt die Hürden fürs Gründen deutlich und immer mehr Menschen nutzen diese Chance. Damit aus dem Gründungsboom auch ein Wachstumsboom wird, muss die Politik jetzt beim Thema Kapital liefern – sonst entstehen die Ideen hier und die Champions woanders.“
Dem Bericht des Verbandes zufolge haben 1.038 der 3.53 Neugründungen einen „klaren KI-Bezug“. Die weiterhin stärkste Branche sei der Softwaresektor mit 844 Neugründungen. Die Bereiche Medizin (244) und Lebensmittel (181) zählen laut Bericht zu den gründungsstärksten.
Um Existenzgründungen zu fördern, hat das Bundeskabinett am 22. Juli 2026 eine „Startup- und Scaleup-Strategie“ beschlossen. Die Strategie verfolgt laut Wirtschaftsministerin Katherina Reiche (CDU) drei Ziele: Gründungen zu erleichtern, das Wachstum junger Unternehmen zu beschleunigen und Innovationen in Deutschland zu halten.
Viele Startups geben nach kurzer Zeit wieder auf
So ermutigend wie Merz die Entwicklung der Wirtschaft in Deutschland sieht, ist sie allerdings nicht. Das zeigen die Zahlen aus einer Analyse der Creditreform Wirtschaftsforschung. Demnach ist die Zahl der Firmenpleiten im ersten Halbjahr 2026 deutlich gestiegen. 12.900 Insolvenzen bedeuten den höchsten Stand seit 2013. Besonders betroffen sind der Studie zufolge junge Unternehmen.
So stieg die Zahl der Insolvenzen von Firmen, die höchstens zwei Jahre am Markt waren, um 25,3 Prozent. Bei drei bis vier Jahre alten Unternehmen registrierte Creditreform mit 11,1 Prozent einen zweistelligen Anstieg. Dies erkläre sich mit einer zunehmenden „Gründungsdynamik“, erläutert Patrik-Ludwig Hantzsch, Leiter der Creditreform Wirtschaftsforschung.
„Nach jahrelangem Rückgang werden nun wieder mehr Unternehmen gegründet. Viele Menschen suchen ihr Heil in der Selbstständigkeit, weil die Spannungen am Arbeitsmarkt signifikant zunehmen. Mehr Gründungen heißt aber auch, dass mehr scheitern. Das schwierige Umfeld verzeiht keine Fehlkalkulationen.“
Insgesamt setzte sich die Erholung der deutschen Wirtschaft im zweiten Quartal fort, jedoch mit geringerem Tempo. Nach einem Plus von 0,4 Prozent im ersten Quartal legte das Bruttoinlandsprodukt (BIP) im zweiten Quartal nur noch um 0,2 Prozent zu, vermeldet destatis.
Eine positive Entwicklung des ohnehin schon schwachen BIP könnte nach Ansicht des Instituts der deutschen Wirtschaft (IW) durch das Niedrigwasser in deutschen Flüssen in diesem Jahr zunichtemachen. Ein „längerer Ausfall der Schiffbarkeit auf dem Rhein könnte das ganz klitzekleine Pflänzchen Wachstum, das wir haben, komplett ersticken“, sagte IW-Ökonom Thilo Schäfer der „Bild“-Zeitung. Demnach könnte das Wachstum um 0,4 Punkte niedriger ausfallen als bisher erwartet.
„Das hatten wir schon einmal 2018“, so Schäfer weiter. Damals sei etwa 0,4 Prozent des Wirtschaftswachstums betroffen gewesen. „Das ist eine Größenordnung, wo wir uns im Moment überhaupt, wenn es gut läuft, befinden.“
Das Niedrigwasser im Rhein hatte aufgrund von Hitze und Trockenheit am Wochenende in Köln, Bonn und weiteren Orten neue Tiefststände erreicht. Bei Niedrigwasser können deutlich weniger Waren transportiert werden, die Produktion in zahlreichen Branchen muss daher gedrosselt werden.
„Für die Wirtschaft bedeutet das echte Lieferengpässe, denn die Schiffe können schon seit einiger Zeit nur noch mit geringerer Beladung den Rhein runterfahren“, sagte Schäfer der Zeitung. In Köln finde beispielsweise gar keine Schifffahrt mehr statt. „Das heißt, dass wichtige Waren für die Chemie, die Stahlindustrie, für Raffinerien nicht mehr an ihrem Bestimmungsort ankommen.“ Auch andere Flüsse seien derzeit von Niedrigwasser betroffen.
Straßenkünstler am Eröffnungstag des „Fleadh Cheoil na hÉireann 2026“ in der Nähe des Belfaster Rathauses am 2. August 2026 in Belfast, Nordirland an einer Bushaltestelle. - Foto: Charles McQuillan/Getty Images
In Kürze
KI-generierte Musik wächst rasant und erreicht Streamingplattformen in großer Menge.
Viele Hörer erkennen den Unterschied zwischen KI- und Menschenmusik kaum.
Branchenexperten fordern Kennzeichnung, Schutz von Künstlern und mehr Wertschätzung für echte Musik.
Timothy Trudeau, Geschäftsführer von Syntax Creative, kann sich noch gut daran erinnern: Als die ersten Drumcomputer in der Musik eingesetzt wurden, zogen viele Menschen eine klare Grenze. „Als das auf den Markt kam, hatten die Leute ein riesiges Problem damit“, sagte Trudeau der englischsprachigen Ausgabe der Epoch Times.
Er ist seit fast 30 Jahren in der Musikbranche tätig und kennt die verschiedenen Seiten des Geschäfts. Sein Unternehmen vertritt 150 Plattenlabels und 90.000 Songs.
„Ich erinnere mich, dass die Leute früher sagten, Drumcomputer seien der Teufel. Doch in den 1990er Jahren wurden sie in vielen erfolgreichen Musikproduktionen eingesetzt, obwohl sie damals umstritten waren. Dasselbe galt für Synthesizer“, sagte Trudeau.
KI könnte die gesamte Musikindustrie auf den Kopf stellen
Doch im Gegensatz zu Drumcomputern könnte Künstliche Intelligenz die gesamte Musikindustrie grundlegend verändern, sagen Brancheninsider. Sie markiert einen tiefgreifenden Wandel darin, wie musikalische Inhalte entstehen, konsumiert und vermarktet werden.
KI-generierte Inhalte überschwemmen täglich die Streaming-Dienste, so Trudeau. Dabei waren die Produktionskosten bereits vor dem Aufkommen generativer KI deutlich gesunken. Heute genügt eine einfache Texteingabe – und innerhalb kurzer Zeit entsteht ein kompletter Song.
Branchenexperten sehen die größte Herausforderung daher nicht mehr in der Erstellung von Musik, sondern darin, sicherzustellen, dass menschliche Musiker weiterhin Aufmerksamkeit erhalten und geschützt werden.
„Die Kosten für die Veröffentlichung digitaler Inhalte sind mittlerweile so niedrig, dass Menschen einfach alles hochladen, was sie haben“, sagte Trudeau.
Eine von Human Artistry gesponserte Werbung. Sie protestiert gegen das Start-up Suno während seiner Jahreshauptversammlung am 3. Juni 2026 in Santa Monica, Kalifornien. Suno entwickelt KI-Software zur Erzeugung von Musik aus Texteingaben.
Foto: Anna Webber/Getty Images für die Human Artistry Campaign
KI-generierte Musik hat sich innerhalb weniger Jahre von einem Nischenphänomen zu einem festen Bestandteil der Musiklandschaft entwickelt. Die Streaming-Plattform Deezer schätzte in diesem Jahr, dass 44 Prozent der täglich neu hochgeladenen Titel – rund 75.000 Songs – mithilfe von KI erstellt werden.
„Von KI generierte Musik ist längst kein Randphänomen mehr“, schreibt Deezer-CEO Alexis Lanternier in einer Pressemitteilung.
„Da die Zahl der täglichen Uploads weiter steigt, hoffen wir, dass sich das gesamte Musik-Ökosystem anschließt, um die Rechte von Künstlern zu schützen und mehr Transparenz für Hörer zu schaffen.“
Fast keiner erkennt, ob die Musik KI-generiert ist
Für Hörer bedeutet die Flut digitaler Inhalte eine scheinbar grenzenlose Auswahl. Menschliche Künstler stehen dadurch vor der Herausforderung, sich in der Masse abzuheben – obwohl Musik zu komponieren und zu produzieren so einfach geworden ist wie nie zuvor.
Doch sich in dieser neuen Flut von Musik hervorzuheben, könnte schwieriger sein, als viele denken. Die meisten Hörer können kaum unterscheiden, ob ein Song von einer KI oder von Menschen geschaffen wurde.
Eine Studie von Deezer und Ipsos aus dem Jahr 2025 mit 9.000 Teilnehmern in acht Ländern zeigt: 97 Prozent der Befragten konnten nicht erkennen, ob ein Lied vollständig durch KI erzeugt wurde. 52 Prozent gaben an, sich unwohl zu fühlen, weil sie den Unterschied nicht feststellen konnten.
Bei einer „Headphone-Disco“-auf dem Kennedyplatz in Essen am 9. Juli 2021. Der Platz wurde in 40 Bereiche unterteilt, in denen jeweils bis zu zehn Personen unter Corona-Bedingungen tanzen und feiern konnten. Alle hörten über ihre Kopfhörer die Musik des DJs.
Foto: Ina Fassbender/AFP via Getty Images
„Die Hörer hatten bereits mit dem Einfluss großer Plattenlabels zu kämpfen, die kommerziell erfolgreiche Künstler gegenüber unabhängigen Musikern bevorzugten“, sagte Chad Gerber der Epoch Times.
„Nun überschwemmt eine enorme Flut von KI-Uploads die Streaming-Plattformen. Dadurch wird es für Menschen noch schwieriger, die Musik zu entdecken, die sie tatsächlich hören möchten, statt der Inhalte, die ihnen durch Algorithmen vorgegeben werden.“
Musiker Chad Gerber, der mit Gold- und Platin-Auszeichnungen geehrt wurde, ist der kreative Kopf hinter den Technologieunternehmen ShadowGen und Meloscene. Seiner Einschätzung nach konkurrieren heute im Wesentlichen drei Gruppen um die Aufmerksamkeit des Publikums: etablierte Künstler mit Plattenverträgen, KI-generierte Musik und unabhängige Musiker.
Aus wirtschaftlicher Sicht könnte KI-Musik für digitale Musikdienste „zunehmend attraktiv“ werden, warnte Gerber. Unabhängige Künstler, die bereits mit etablierten Musikern konkurrieren, könnten durch die zusätzliche Konkurrenz von KI-Inhalten zum am stärksten „übersehenen Teil des KI-Musikbooms“ werden.
Digitale Musikdienste reagieren unterschiedlich auf die Debatte um KI-generierte Inhalte. Der Streaming-Anbieter Spotify hat Maßnahmen zum Schutz menschlicher Künstler eingeführt, darunter die Bekämpfung von Identitätsbetrug, die Filterung von Spam sowie KI-Kennzeichnungen nach branchenüblichen Urheberangaben. Auch große Plattformen wie Deezer verlangen eine Kennzeichnung von KI-Inhalten und setzen Erkennungstechnologien ein.
In der Deezer-Ipsos-Umfrage sprachen sich 80 Prozent der Teilnehmer dafür aus, dass vollständig durch KI erzeugte Musik klar als solche gekennzeichnet wird.
Die Spotify-Musik-App auf einem Smartphone.
Foto: Wachiwit/iStock
Doch die Erkennung von KI-Einsatz und der Schutz von Künstlern sind nur ein Teil der Debatte. Einige Experten warnen, dass Musik durch die zunehmende Flut an Inhalten künftig immer ähnlicher klingen könnte.
„Ich bin fest davon überzeugt, dass KI-Modelle derzeit mit Musik trainiert werden, die zu niedrigen Lizenzkosten verfügbar ist. Das wird zu einer gewissen Verwässerung des Songwritings führen“, sagte Michael D’Oliveiro, Autor von „The Streaming Media Guide“.
Das Ergebnis dieses Trainings könne im schlimmsten Fall eine Verarmung der Inhalte und im besten Fall eine zunehmende Vereinheitlichung der Musik sein, erklärte D’Oliveiro der Epoch Times.
„Die Hörer könnten sich irgendwann von solchen Inhalten abwenden und nach authentischeren Erlebnissen suchen.“
D’Oliveiro, der seit fast zwei Jahrzehnten im Streaming-Bereich tätig ist, kennt die Auswirkungen digitaler Entwicklungen auf die Branche. Er spricht sich dafür aus, KI-generierte Inhalte zu kennzeichnen und Hörern eine Möglichkeit zum Opt-out zu geben.
„Menschen haben weiterhin starke Vorbehalte gegenüber KI, und die Debatte hat noch zu keinem Konsens geführt. KI-Kennzeichnungen sollten ähnlich betrachtet werden wie Hinweise auf explizite Liedtexte“, sagte D’Oliveiro.
Wie komponiert eine KI?
Die Sorge, dass KI die Musik verwässern könnte, ist nicht neu. Kritiker sehen darin eine mögliche Folge der Funktionsweise von KI-Modellen, da diese mit bereits vorhandener Musik trainiert werden und dadurch häufig bekannte Muster reproduzieren.
„KI kombiniert im Grunde Muster neu, die sie aus bestehender Musik gelernt hat“, sagte Gerber. „Ob Verbraucher daran letztlich Anstoß nehmen, ist eine andere Frage. Ich glaube jedoch, dass weiterhin ein Unterschied besteht zwischen echter Originalität und der bloßen Erzeugung von Variationen bereits vorhandener Werke.“
Erste Anzeichen deuten darauf hin, dass viele Hörer dieser Entwicklung skeptisch gegenüberstehen. Eine im Januar veröffentlichte Studie von Luminate stellte ein wachsendes „Unbehagen“ gegenüber Musik fest, die ganz oder teilweise durch KI erzeugt wurde.
29 Prozent der Befragten gaben an, deutlich weniger Interesse an KI-generierter Musik zu haben. 35 Prozent erklärten, sie fühlten sich sehr unwohl bei einem KI-Song, der im Stil oder Klang eines menschlichen Künstlers erstellt wurde.
Mit KI kann ohne viel Aufwand jeder Musik erzeugen, wie hier mit Suno. Der Auftrag an die KI lautet: „Schreibe einen Song über einen vereisten Bürgersteig in Boston“ im Blues-Stil.
Foto: Screenshot durch Epoch Times, 03.08.2026
Tantiemenverbot für KI – Fehlanreize für Kreativität
Nathan Green, CEO von New Level Radio, warnt davor, dass auch die Einnahmen menschlicher Künstler durch den KI-Boom unter Druck geraten könnten. Die Entwicklung könne kreative Arbeit entmutigen und die wirtschaftlichen Grundlagen für Musiker schwächen.
„Die schiere Menge maschinell erzeugter Titel droht, die bestehenden Tantiemenpools zu verwässern und die Auszahlungen an menschliche Musiker drastisch zu verringern“, sagte Green der Epoch Times.
„Dadurch entsteht eine algorithmische Kontrollinstanz, bei der sich Kreative mit der effektivsten KI-Optimierung hervorheben, während unentdeckte menschliche Künstler darum kämpfen, den digitalen Lärm zu durchbrechen.“
Beim branchenüblichen Pro-rata-Modell werden sämtliche Streaming-Einnahmen gesammelt und anschließend nach dem Anteil eines Künstlers an den Gesamtstreams verteilt. Durch die wachsende Zahl KI-generierter Titel müssen sich menschliche Urheber denselben begrenzten Einnahmentopf mit Millionen künstlich erzeugter Songs teilen.
Einige Streamingdienste wie Tidal haben inzwischen Maßnahmen gegen rein KI-generierte Musik ergriffen und schließen solche Titel von Tantiemenzahlungen aus, um menschliche Künstler zu schützen. „Wir stehen erst am Anfang des Zeitalters der KI-generierten Musik“, schrieb Tidal in einer Pressemitteilung vom Juni.
Darin erklärte das Unternehmen, die Priorität liege darauf, „sicherzustellen, dass Tantiemen an Originalwerke gehen, die direkt von Menschen produziert, geschrieben und aufgeführt wurden“.
Heute übernimmt eine Musik-KI-App auch das Abmischen der Musik.
Foto: slkoceva/iStock
Da vollständig KI-generierte Musik nach geltendem Urheberrecht nicht als eigenständige menschliche Schöpfung geschützt werden kann, haben sich einige Branchenvertreter wie Trudeau dazu entschieden, ausschließlich mit „echten menschlichen Künstlern, die echte Musik geschrieben haben“, zusammenzuarbeiten.
Während Produzenten und Streaming-Dienste versuchen, Künstler und deren Einnahmen zu schützen, spürt Chad Gerber die Auswirkungen der Entwicklung bereits persönlich.
„Ich habe Aufträge verloren, weil Produzenten und Labels inzwischen Zeit und Geld sparen, indem sie einfach die KI anweisen, ihnen kostenlos das zu liefern, was sie benötigen“, sagte Gerber.
Ein Silberstreif am Horizont
Dennoch sind sich die für diesen Artikel befragten Branchenexperten einig, dass es für etablierte und aufstrebende Musiker weiterhin Hoffnung gibt. Sie gehen davon aus, dass von Menschen geschaffene und gespielte Musik künftig an Wert gewinnen könnte.
„Tatsache ist, dass die Entstehung großartiger Musik menschliche Interaktion, kreative Kontrolle, technische Bearbeitung und eine präzise Abstimmung des Klangs erfordert“, sagte Nathan Green.
„Reinen KI-Stücken fehlen häufig menschliche Dynamik, emotionale Aussagekraft und strukturelle Tiefe.“
Michael D’Oliveiro betonte, dass „die künstlerische Verarbeitung von Erfahrungen den Menschen einzigartig macht – nicht nur unter den Lebewesen, sondern auch unter allem auf diesem Planeten, das zu sinnvollem Schaffen fähig ist“.
Timothy Trudeau ist der Ansicht, dass neben menschlicher Urheberschaft auch Live-Auftritte an Bedeutung gewinnen werden: „Der Vorteil echter Künstler liegt darin, Live-Konzerte zu geben. Das kann man weiterhin nicht nachbilden.“
Auch Chad Gerber teilt diese Einschätzung. „Während des größten Teils der Menschheitsgeschichte war Musik vor allem ein Live-Erlebnis“, sagte er. „Aufgenommene Musik ist eine vergleichsweise junge Entwicklung. KI könnte letztlich dazu führen, dass ein Teil der Branche wieder stärker auf Erlebnisse setzt, die Algorithmen nicht reproduzieren können.“
Die Logos der sozialen Netzwerke Instagram und Threads, beide vom US-Konzern Meta, aufgenommen am 7. März 2024 in Nantes, Frankreich. - Foto: Loic Venance/AFP via Getty Images
In Kürze:
Rekordbußgeld: Die Landesanstalt für Kommunikation Baden-Württemberg verhängte gegen Hanadi Diab ein Bußgeld von 36.000 Euro wegen Verstößen gegen die Werbekennzeichnung auf Instagram – nach eigenen Angaben das höchste Bußgeld gegen einen Influencer im Land.
Insolvenz eröffnet: Wenige Tage nach Rechtskraft des Bußgelds wurde über das Vermögen der 39-Jährigen ein Regelinsolvenzverfahren eröffnet.
Arbeit geht weiter: Trotz der Insolvenz kann Diab ihre Arbeit als Influencerin fortsetzen. Sie ist nicht die erste Prominente, die wegen Schleichwerbung rechtliche Konsequenzen erfahren hat.
Die Stuttgarter Beauty-, Mode- und Lifestyle-Influencerin Hanadi Diab hat ein Regelinsolvenzverfahren eröffnet. Das bestätigte das Amtsgericht Stuttgart. Zuvor war bekannt geworden, dass gegen die 39-Jährige wegen Verstößen gegen die Werbekennzeichnung auf Instagram ein rechtskräftiges Bußgeld verhängt worden war. Die Landesanstalt für Kommunikation Baden-Württemberg (LFK) setzte die Geldbuße auf 36.000 Euro fest. Einschließlich Gebühren und Auslagen beläuft sich die Forderung auf 37.803,50 Euro. Nach Angaben der Behörde handelt es sich um das bislang höchste Bußgeld, das in Baden-Württemberg gegen eine Influencerin verhängt wurde.
Die LFK teilte mit, dass die Behörde das Internet inzwischen mit einer eigens entwickelten KI nach möglichen Regelverstößen durchsucht. Laut LFK hatte Diab zwischen Mai und Juli 2025 mehrere bezahlte Kooperationen in ihren Instagram-Storys gar nicht oder nicht ausreichend als Werbung gekennzeichnet. Teilweise seien Werbehinweise für Nutzer nicht eindeutig erkennbar gewesen. Die Influencerin wies die Vorwürfe zurück und erklärte in einem TikTok-Video, sie kennzeichne sämtliche Kooperationen.
Strafe nach mehrfacher Ermahnung
Diab war bereits 2020 und 2022 mehrfach auf die gesetzlichen Anforderungen an die Werbekennzeichnung hingewiesen worden. Bei der Höhe der Geldbuße berücksichtigte die LFK laut dem Jura-Portal beck-aktuell.de unter anderem die wiederholten Verstöße, die hohe Reichweite des Instagram-Auftritts, den wirtschaftlichen Wert der Kooperationen sowie die früheren Hinweise der Behörde. Auf Instagram folgen der Influencerin mehr als 760.000 Menschen, auf TikTok knapp 139.000.
Trotz des Insolvenzverfahrens kann Diab ihre Tätigkeit als Influencerin fortführen. Der Geschäftsbetrieb wurde nach Angaben des Insolvenzverwalters aus der Insolvenzmasse freigegeben. Ein Insolvenzverfahren dauert häufig ein bis zwei Jahre, abhängig vom Umfang der Vermögensverhältnisse. Anschließend beginnt die Phase bis zur Restschuldbefreiung. Seit der Reform des Insolvenzrechts im Jahr 2020 können natürliche Personen bereits nach drei Jahren von ihren restlichen Schulden befreit werden, sofern sie ihre gesetzlichen Pflichten erfüllen. Dazu gehören unter anderem die Abführung pfändbarer Einkünfte und die Zusammenarbeit mit dem Insolvenzverwalter.
Der Fall unterscheidet sich von vielen bekannten Verfahren gegen Influencer. Anders als etwa bei Cathy Hummels oder Pamela Reif geht es hier nicht um eine wettbewerbsrechtliche Klage eines Wettbewerbsverbands, sondern um ein Bußgeldverfahren der Medienaufsicht wegen Verstößen gegen die Werbekennzeichnung.
Auch andere prominente Influencer mussten sich bereits wegen mutmaßlicher Schleichwerbung rechtlich verantworten.
Im Fall von Cathy Hummels beanstandete der Verband Sozialer Wettbewerb Markenverlinkungen in Instagram-Beiträgen. Der Bundesgerichtshof (BGH) entschied 2021, dass unbezahlte Beiträge mit reinen Markenverlinkungen grundsätzlich nicht als Werbung gekennzeichnet werden müssen. Erhält ein Influencer jedoch eine Gegenleistung, besteht eine Kennzeichnungspflicht. Gemeinsam mit dem Fall Hummels verhandelte der BGH damals auch Verfahren der Influencerinnen Leonie Hanne und Luisa-Maxime Huss.
Als weiterer wichtiger Fall gilt die Fitness-Influencerin Pamela Reif. Der Verband Sozialer Wettbewerb hatte ihr 2019 vorgeworfen, Produkte und Kleidung in Instagram-Beiträgen über sogenannte „Tap Tags“ mit Herstellern zu verlinken, ohne die Beiträge als Werbung zu kennzeichnen. Reif argumentierte, sie habe dafür keine Bezahlung erhalten, sondern lediglich häufige Fragen ihrer Follower beantwortet.
Der Fall landete schließlich vor dem Bundesgerichtshof. Mit seinem Grundsatzurteil vom 9. September 2021 stellte das Gericht klar: Erhält ein Influencer keine Gegenleistung für einen Beitrag, besteht grundsätzlich keine Kennzeichnungspflicht. Fließt dagegen Geld oder ein anderer wirtschaftlicher Vorteil, muss der Beitrag als Werbung gekennzeichnet werden. Das Urteil gilt bis heute als wichtiger Maßstab für Gerichte und Medienaufsichtsbehörden.
Soziale Medien, Fachtexte und Nachrichten haben sich durch KI-generierte Inhalte in jüngster Zeit massiv und rasant verändert.
Da generierte Texte auf Wahrscheinlichkeiten statt auf Verständnis beruhen, wiederholen viele Beiträge ähnliche Strukturen, ähnliche Ratschläge und ähnliche Formulierungen.
Die Fülle an KI-Inhalten bewirkt zweierlei: Die Ergebnisse sind schön, aber unvollständig und die Trainingsdaten werden immer schlechter.
In der Folge verlieren Menschen und Maschine gleichermaßen den Bezug zur Realität.
Können Sie unterscheiden, was echt oder generiert ist? Probieren Sie es aus, in unserem kleinen Quiz am Ende des Artikels.
Eine nie endende Flut von mit Künstlicher Intelligenz generierten Inhalten verändert derzeit das Internet. Nicht nur beeinflusst dies auch die Art und Weise, wie Menschen mit Informationen interagieren, sondern es passiert schneller als jemals zuvor.
Egal, ob Zusammenfassungen, Nachrichten, Beiträge in sozialen Netzwerken oder wissenschaftliche Arbeiten: Wissenschaftler bringen die schiere Menge an maschinell erstellten Materialien mit einem Anstieg der „kognitiven Auslagerung“ in Verbindung. Bei diesem Phänomen überlassen Menschen kritisches Denken und Überprüfungen automatisierten Systemen.
Eine Analyse aus dem Jahr 2024 beschäftigte sich mit dem Einfluss von KI-Tools auf genau diese geistige Auslagerung. Sie ergab eine „signifikant negative Korrelation“ zwischen der häufigen Nutzung von KI-Tools und der Fähigkeit zu kritischem Denken bei Menschen aller Altersgruppen und Bildungshintergründen. Michael Gerlich von der Swiss Business School (SBS) in London kommt darin zu dem Schluss, dass gerade jüngere Altersgruppen eine höhere Abhängigkeit von KI-Modellen aufwiesen – und zugleich niedrigere Werte beim kritischen Denken erzielten.
Menge mit Glaubwürdigkeit verwechselt
Möglicherweise noch beunruhigender ist eine neue Studie vom Mai 2026 im Auftrag der internationalen PR- und Kommunikationsagentur Pangram. Die vom Marktforschungsinstitut YouGov durchgeführte Studie zeigte, dass lediglich 55 Prozent der Generation Z (18 bis 28 Jahre) irreführendes KI-Material identifizieren konnten. In den älteren Altersgruppen war diese Zahl noch niedriger.
1 / 5
Auswirkungen der Waldbrände in Kalifornien? Nein, ein KI-generiertes Bild …
Foto: gemeinfrei
2 / 5
… Tatsächlich näherte sich kein Feuer dem berühmten Schriftzug (Stern) näher als rund 5 Kilometer. Die großen Brände wüteten in mehr als 15 beziehungsweise über 20 Kilometer Entfernung.
Das Bild eines angeblichen, beschädigten israelischen Kampfjets tauchte erstmals im Juni 2025 im Internet auf …
Foto: gemeinfrei
4 / 5
… Es erinnert an eine F-35 Lightning II des US-amerikanischen Herstellers Lockheed Martin …
Foto: WoodysPhotos/iStock
5 / 5
… Die ist mit mit rund 11 Meter Spannweite und knapp 16 Meter Länge jedoch erheblich kleiner als der angebliche Jet.
Foto: John Thys via Getty Images
Das Problem liegt indes nicht im Erkennen einzelner falscher Inhalte, sondern in deren Fülle. Javi Pérez, Herausgeber von KI-gestützten Websites zur Verbraucheraufklärung, sagte dazu gegenüber Epoch Times:
„KI-generierte Beiträge und Kommentare können die öffentliche Wahrnehmung verzerrt darstellen, insbesondere wenn Volumen mit Glaubwürdigkeit verwechselt wird.“
„Wenn ein Nutzer Dutzende ähnlicher Beiträge über ein Produkt, einen Trend, eine politische Behauptung, ein Gesundheitsthema oder ein Finanzthema sieht, geht er möglicherweise davon aus, dass breite Übereinstimmung herrscht“, so Pérez weiter.
Pérez warnt insbesondere davor, dass KI-Inhalte das Volumen dessen erhöhen würden, was er als „selbstbewusste Gleichförmigkeit“ im Internet bezeichnet.
„Viele Artikel und Beiträge wiederholen mittlerweile ähnliche Strukturen, ähnliche Ratschläge und ähnliche Formulierungen. Bei Lesern kann dies den Eindruck erwecken, dass bei einem Thema mehr Konsens oder Gewissheit besteht, als es tatsächlich der Fall ist, denn sie sehen dieselben Ideen immer wieder wiederholt in vielen Quellen“, sagte Pérez.
„Das Risiko besteht darin, dass die Menschen nicht mehr wissen, welche Inhalte überprüft wurden.“
„In Bereichen wie Finanzen, Gesundheit, Recht, Bildung oder Nachrichten müssen Leser wissen, ob Behauptungen anhand von Primärquellen überprüft, kürzlich aktualisiert und von jemandem bearbeitet wurden, der rechenschaftspflichtig ist“, so Pérez weiter.
Die Epoch Times sprach auch mit KI-Strategieberater Armand Cucciniello III. Dieser erklärte, dass KI-generierte Inhalte nicht nur verändern, wie wir Informationen konsumieren. Er sagte auch, dass diese ändern, wie schnell wir sie verarbeiten und ihnen vertrauen.
„Wir bewegen uns weg vom bewussten Lesen hin zu einem schnellen Überfliegen von geschliffenen Zusammenfassungen, Kommentaren, Kurzvideos und KI-gestützten Inhalten, die auf Geschwindigkeit und Interaktion ausgelegt sind“, sagte er.
Als jemand, der im „U.S.-amerikanischen nationalen Sicherheitsumfeld“ gearbeitet habe, sagte Cucciniello, sei eine seiner größten Sorgen, dass KI-Systeme „unbeabsichtigt große Mengen ungenauer oder bewusst manipulierter Inhalte einfach durch Wiederholung und Skalierung verstärken können“.
Er sagte auch, er glaube, dass das große Volumen an KI-generierten Inhalten einen realen Druck auf das öffentliche Vertrauen ausübe.
„Wenn Leser in mehreren Quellen auf fast identische Formulierungen oder Interpretationen stoßen, ist es nur natürlich zu hinterfragen, ob die Informationen unabhängig berichtet oder einfach neu verpackt wurden“, sagte er.
Zwischen Herausforderung und Ermüdung
Carl Stroud, ein PR-Experte bei der Agentur Smoking Gun, sagte, er habe ebenfalls miterlebt, wie KI-Inhalte einen Tribut von der Öffentlichkeit fordern.
„Das grundlegende Bedürfnis des Publikums hat sich nicht verändert: Die Menschen wollen dem vertrauen, was sie lesen“, sagte Stroud der Epoch Times. Und weiter:
„Was sich geändert hat, ist, wie viel schwieriger dieses Urteil geworden ist.
„KI-generierte Inhalte, Zusammenfassungen und minderwertiger ‚Slop‘ (Inhaltsmüll) haben das Informationsumfeld lauter, flacher und verwirrender gemacht, sodass das Publikum jetzt versucht herauszufinden, ob es eine Originalberichterstattung liest, aufgewärmte Inhalte oder etwas, das niemals hätte veröffentlicht werden dürfen.“
Abgesehen von sozialen Medien und der akademischen Welt wurden nur wenige Branchen so hart von KI-generierter Fehlinformation getroffen wie die Nachrichten. Stroud, der zwei Jahrzehnte in britischen Medienkreisen, in Redaktionen und im Journalismus verbracht hat, sagte, er sehe, dass KI-Inhalte zu einer Ermüdung bei Lesern führen, die nach präzisen Informationen suchen.
„Ermüdung ist gefährlich, denn wenn Menschen sich überfordert fühlen, klinken sie sich entweder aus oder lassen sich leichter in die Irre führen“, sagte er.
Bezug zur Realität verloren
Ashutosh Khulbe, Gründer von RawPickAI, testet KI-Werkzeuge beruflich – etwa drei bis vier neue pro Woche.
„Was mir in meiner Ecke des Internets am meisten auffällt, ist, dass sich mittlerweile alles gleich anhört. Wirklich unheimlich gleich“, sagte er der Epoch Times. „Ich würde schätzen, dass zu diesem Zeitpunkt 70 bis 80 [Prozent] der Artikel über die ‚besten KI-Werkzeuge‘ KI-generiert sind.“
„Es entsteht diese seltsame Rückkopplungsschleife, in der KI Rezensionen auf der Grundlage dessen schreibt, was andere KIs bereits geschrieben haben, Leser davon ausgehen, dass ein Konsens besteht, und die tatsächliche Erfahrung bei der Nutzung dieser Werkzeuge begraben wird.“
Als Beispiel führt er seinen Test eines Schreibprogramms an, das Hunderte von positiven Bewertungen im Internet hatte, in der kostenlosen Version jedoch unbrauchbar war.
„Man konnte nicht einmal einen Absatz beenden, bevor man ans Limit stieß“, sagte er. „Aber viel Glück dabei, diese Information in einer Google-Suche zu finden.“
Besonders besorgt sei er jedoch darüber, wie sich die Informationsverzerrung auf die Öffentlichkeit auswirke:
„KI-Inhalte sind durchweg positiv gefärbt, weil sie mit Marketingseiten und Affiliate-Bewertungen trainiert wurden. Niemand trainiert Modelle mit ‚Ich habe das zwei Wochen lang ausprobiert, und es war beschissen‘. Das negative Signal verschwindet also einfach aus dem Internet.“
Die Auswirkungen des Booms von KI-Inhalten lassen sich mittlerweile in dem beobachten, was manche als „KI-Psychose“ oder eine Trennung von der Realität bezeichnen.
Obwohl es sich nicht um eine klinische Diagnose handelt, ist der Begriff zu einer populären Sammelbezeichnung geworden, um zu beschreiben, wenn KI eine ungewöhnliche, fixe oder sogar wahnhafte Wahrnehmung von etwas in der realen Welt verstärkt.
„KI-Psychose“ und unrealistische Erwartungen
Menschen mit psychischen Erkrankungen könnten anfällig dafür sein, eine „KI-Psychose“ zu entwickeln, aber es ist nicht auf diese Bevölkerungsgruppe beschränkt, so Dr. Ragy Girgis, Professor für Klinische Psychiatrie an der Columbia University und dem New York State Psychiatric Institute.
„Das Phänomen der KI-Psychose ist quantitativ neu und könnte sehr gefährlich sein, aber qualitativ ist es dem sehr ähnlich, was seit Jahrzehnten, seit dem Aufkommen des Internets, passiert“, sagte Prof. Girgis im März während eines Interviews mit der National Academy of Medicine.
Während das Versinken in Online-Themen durch Link-Hopping kein neues Phänomen sei, würden KI und große Sprachmodelle dieses Problem extrem verstärken, warnt Prof. Girgis. Das enge Nachahmen menschlicher Intelligenz durch moderne KI-Modelle mache es für Menschen leichter, deren Inhalte zu verinnerlichen.
Und die Beweise zeigen sich in fast jeder Ecke des täglichen Lebens, manchmal in Form von unrealistischen Erwartungen.
„Eine der größten Veränderungen, die ich durch die Sättigung mit KI-Inhalten gesehen habe, ist das Aufkommen von ‚synthetischen Erwartungen‘, insbesondere in der Schönheitsbranche“, sagte Justin Killingsworth, Gründer von The Color Bar, gegenüber Epoch Times.
„Als jemand, der mit Salons und kundenorientierten Beautymarken arbeitet, sehe ich immer mehr Kunden, die KI-generierte Inspirationsfotos mitbringen, die nicht widerspiegeln, was bei einem echten Menschen realistisch machbar ist.“
„Stylisten müssen zunehmend nicht nur als Künstler, sondern auch als Aufklärer und emotionale Übersetzer agieren, indem sie ihren Kunden helfen, zu verstehen, was realistisch machbar ist, während sie gleichzeitig deren Selbstvertrauen und Vertrauen wahren.“
Letztes Jahr zeigte eine Analyse des Microsoft AI for Good Lab, dass Menschen ein KI-generiertes Bild in 62 Prozent der Fälle korrekt identifizieren konnten. Das liegt in etwa in der Größenordnung vergleichbarer Umfragen und zeigt, wie leicht wir uns überlisten lassen.
Für Cucciniello liegt die Gefahr vor allem darin, „hochgradig effizient zu werden, Informationen schnell zu konsumieren, während man weniger Zeit damit verbringt, sich mit Mehrdeutigkeiten, Nuancen oder konkurrierenden Standpunkten auseinanderzusetzen.“
Pérez stimmte dem zu.
„Langfristig besteht die Gefahr, dass die Menschen entweder zu vertrauensselig oder zu zynisch werden“, sagte er.
Er erklärte: „Einige werden alles glauben, was wie geleckt aussieht. Andere werden davon ausgehen, dass alles im Internet künstlich ist – und aufhören, auch legitimen Informationen zu vertrauen. Beide Ergebnisse schwächen das kritische Denken.“
Und wie sieht es mit Ihnen aus? Können Sie erkennen, welche Fotos echt sind und welche von KI erstellt wurden? Testen Sie Ihr Gespür. Die Auflösung nach jedem Bild gibt Gewissheit.
1 / 22
10 Bilder, 1 Frage: Sind die folgenden Aufnahmen KI-generiert oder echt? Und woran kann man es erkennen?
Foto: ts/Epoch Times
2 / 22
KI oder Echt? Wenn Sie glauben, es zu wissen, blättern Sie zum nächsten Bild für die Auflösung.
Foto: Chris Hayes/gemeinfrei
3 / 22
Dieses Bild ist KI-generiert. Ein Indiz sind die Füße, die weder wirklich zu den Flossen einer Meeresschildkröte noch den Lauffüßen einer Landschildkröte passen wollen.
Foto: Chris Hayes/gemeinfrei
4 / 22
KI oder Echt?
Foto: Sonny Tumbelaka/AFP via Getty Images
5 / 22
Dieses Bild ist echt. Hier untersucht ein indonesischer Taucher der Naturschutzorganisation „The Nature Conservancy“ ein künstliches Korallenriff auf Nusa Penida vor der Insel Bali. Das Weihnachtsmannkostüm erklärt sich aufgrund des Datums: Dezember 2009.
Dieses Bild ist KI-generiert. Indizien stecken in Details: Die Dame hält ihr Handy mit sechs Fingern und der Sprühstrahl tritt abgewinkelt aus der Düse. Auch die Schrift am linken Schultergurt der Polizeiweste ist unleserlich, typisch für KI.
Foto: Mike Goad/gemeinfrei
10 / 22
KI oder Echt?
Foto: Lindell Dillon/gemeinfrei
11 / 22
Dieses Bild ist KI-generiert. Mögliche Indizien sind: einzelne brennende Grashalme und brennendes Gras ohne verkohlten Boden sowie fehlende Sauerstoffflaschen.
Foto: Lindell Dillon/gemeinfrei
12 / 22
KI oder Echt?
Foto: Ishara S. Kodikara/AFP via Getty Images
13 / 22
Dieses Bild ist echt und zeigt zwei Grau- beziehungsweise Fleckschnabelpelikane (Pelecanus philippensis) am Ufer eines künstlichen Sees in Colombo, Sri Lanka.
Foto: Ishara S. Kodikara/AFP via Getty Images
14 / 22
KI oder Echt?
Foto: Fabrice Coffrini/AFP via Getty Images
15 / 22
Das Bild ist echt. Es zeigt den letzten Akt einer Protestaktion während einer Pressekonferenz des Weltfußballverbands im Juli 2015. Wegen Korruptionsvorwürfen ließ der britische Comedian Simon Brodkin falsche Dollarscheine über den damaligen FIFA-Präsident Sepp Blatter regnen.
Foto: Fabrice Coffrini/AFP via Getty Images
16 / 22
KI oder Echt?
Foto: Dennis Sylvester Hurd/gemeinfrei
17 / 22
Dieses Bild ist KI generiert. Den Beweis liefert der Hintergrund: Der Schatten des Zauns verläuft in verschiedene Richtungen, als ob die Sonne nur weniger Meter statt Millionen Kilometer entfernt wäre.
Foto: Dennis Sylvester Hurd/gemeinfrei
18 / 22
KI oder Echt?
Foto: FPG/Archive Photos/Getty Images
19 / 22
Dieses Bild ist echt und schon 30 Jahre alt. Mögliche KI-Anzeichen wie fehlende Haare sind der Machart und Farbe des Leopardenfell-Huts geschuldet. Auch die eintönige Gleichheit von Kleid und Blazer sind auf den Stoff zurückzuführen.
Dieses Bild ist KI-generiert. Löwinnen tragen weder Bart noch Halskrause, wer den vier Großkatzen in die Augen sieht, sieht nichts – die Pupillen fehlen, und der Junglöwe links hat eine fünfte (und sechste) Pfote am Bauch.
Mikrochips sind für zahlreiche Wirtschaftszweige unverzichtbar. (Symbolbild) - Foto: Sebastian Kahnert/dpa
Der südkoreanische Aktienmarkt verzeichnet heute einen der stärksten Einbrüche seiner Geschichte. Der Leitindex KOSPI brach zwischenzeitlich um mehr als 12 Prozent ein – nachdem er am Dienstag bereits um 11 Prozent abgesackt war.
Die großen Chiphersteller Samsung und SK Hynix, die in den vergangenen Monaten wegen der Nachfrage nach Halbleitern im Zuge des KI-Booms einen steilen Aufstieg hingelegt hatten, stürzten jäh wieder ab.
Samsung brach über 12 Prozent ein
Der Börsenkurs von SK Hynix brach am heute zeitweise um rund 18 Prozent ein – schon gestern hatte die Aktie des Chipherstellers deutliche Kursverluste verzeichnet.
Die Samsung-Aktie gab zeitweilig um mehr als 12 Prozent nach. Der KOSPI beendete den Handelstag später mit sechs Prozent im Minus, SK Hynix und Samsung halbierten ihre Verluste.
Zuvor hatte SK Hynix für den Zeitraum von April bis Juni einen rekordträchtigen Gewinnsprung von 1.242 Prozent gemeldet.
„Wegen des verschärften Wettbewerbs unter den Herstellern von Speicherchips und der Befürchtungen einer Überproduktion fallen die Aktien dieser Konzerne, und dieser Druck greift auch auf andere KI-bezogene Titel über“, erklärten Analysten von Tokai Tokyo Intelligence.
Weltweit blieb der Sektor angespannt – auch an der Wallstreet in New York. XTB-Analystin Kathleen Brooks erklärte, die für den Aufbau einer KI-Infrastruktur notwendigen Summen stiegen immer weiter an, „was die Befürchtungen vor einer Spekulationsblase schürt“. Zudem schwinde die Geduld der Investoren mit Blick auf die Rentabilität dieser Investitionen.
Außerdem entwickele sich China zu einer Bedrohung für die US-Dominanz im KI-Sektor, fuhr Brooks fort. „Die chinesische Konkurrenz stellt einen weiteren Schlüsselfaktor für die Volatilität dar.“
In diesem Zusammenhang blicken Investoren vor allem auf die Quartalszahlen der US-Techriesen: Am 29. Juli geben Microsoft und Meta ihre Ergebnisse bekannt, am 30. Juli Apple und Amazon. Auch der südkoreanische Konzern Samsung veröffentlicht seine Quartalszahlen am 30. Juli. (afp/red)
Die Experten warnen vor dem Moment, an dem sich KI-Software eigenständig weiterentwickeln kann. (Archivbild) - Foto: Matthias Bein/dpa
KI-generierte Bilder, Videos und Texte sollen künftig klar zu erkennen sein. Die EU führt am 2. August neue Regeln ein, nach denen zahlreiche mit Künstlicher Intelligenz erzeugte Inhalte gekennzeichnet werden müssen.
Wer selbst ein Bild mit KI bearbeitet und auf einem privaten Profil hochlädt, muss aber nicht mit Konsequenzen rechnen.
Was muss gekennzeichnet werden?
Bilder, Videos und Texte, die mit KI erstellt oder bearbeitet wurden und einem professionellen Zweck dienen, also zum Beispiel Werbung sowohl im Internet als auch auf Plakaten.
Das gleiche gilt zum Beispiel für die Beiträge professioneller Influencer auf Instagram und Tiktok, für Nachrichtenseiten oder für die KI-Zusammenfassung in der Google-Suche.
Eine weitere Regelung gibt es für Inhalte, die eine breite Öffentlichkeit informieren sollen, also beispielsweise Ankündigungen von Behörden. Sie müssen nur dann gekennzeichnet werden, wenn der Beitrag mit KI erstellt wurde, ohne dass ein Mensch noch einmal drübergeschaut hat.
Wer KI-Bilder auf seinem privaten Profil veröffentlicht, muss nichts kennzeichnen. Außerdem gelten Ausnahmen für „künstlerische, satirische, fiktionale oder kreative“ Werke, bei denen KI eingesetzt wurde: Eine Kennzeichnung ist auch hier Pflicht, sie muss aber nicht auf dem Bild angezeigt werden, sodass sie das Werk nicht beeinträchtigt.
Wie sieht die Kennzeichnung aus?
Ein einheitliches Label gibt es nicht. Die EU-Kommission hat Beispiele für mögliche Symbole veröffentlicht, die für „mit KI erstellt“ oder „mit KI bearbeitet“ stehen sollen.
Jeder Anbieter darf seine eigene Kennzeichnung einführen. In Zukunft ist auch denkbar, dass KI-Bilder und -Videos eine verschlüsselte Kennzeichnung in den Dateieigenschaften tragen, die nicht einfach wegretuschiert werden kann.
Die KI-Anbieter selbst, also zum Beispiel der Konzern OpenAI hinter ChatGPT, Google mit seinem Chatbot Gemini oder die Instagram- und Facebook-Mutter Meta mit ihrer hauseigenen Künstlichen Intelligenz.
Bei Verstößen drohen ihnen Bußgelder, allerdings erst in mehreren Monaten: Bestehende KI-Systeme bekommen bis zum 2. Dezember Zeit, um die neuen Regeln umzusetzen.
Wie reagieren die Digitalkonzerne?
Viele von ihnen sind dem Stichtag am Sonntag zuvorgekommen. Die Videoplattform Tiktok etwa schreibt Nutzerinnen und Nutzern seit mehreren Jahren vor, KI-Inhalte zu kennzeichnen, und bietet dafür ein eigenes Label an.
Auch auf Instagram und Facebook sind zahlreiche Inhalte bereits gekennzeichnet. Auch in der Google-Suche steht unter KI-generierten Antworten ein entsprechender Hinweis. (afp/red)
Generalleutnant Michael Vetter spricht von einer „technologischen Zeitenwende“ in der Bundeswehr. (Archivbild) - Foto: Sean Gallup/Getty Images
Angesichts des rasanten technischen Fortschritts und der zunehmenden Automatisierung der Kriegsführung rüstet sich die Bundeswehr für das Zeitalter der künstlichen Intelligenz. Ranghohe Offiziere und Vertreter des Verteidigungsministeriums stellten am Dienstag, den 28. Juli, in Berlin die Kernpunkte der neuen KI-Strategie vor.
Technologische Zeitenwende
Die vom damaligen Kanzler Olaf Scholz 2022 ausgerufene sicherheitspolitische Zeitenwende gehe einher mit einer „technologischen Zeitenwende“, sagte Generalleutnant Michael Vetter, Abteilungsleiter Innovation und Cyber im Verteidigungsministerium.
Die Truppe müsse Cloud Computing und Quantentechnologie ebenso beherrschen wie die Automatisierung von Waffensystemen und die systematische Vernetzung innerhalb der Bundeswehr und mit den Nato-Partnern.
KI habe „durchaus disruptiven Charakter“ und verändere die Art der Kriegsführung. Als Beispiel nannte Vetter die Ukraine. „Wir reden nicht mehr über Theorie, wir sind mitten in der Anwendung.“
Informations-, Führungs- und Wirkungsüberlegenheit
Für eine erfolgreiche Abschreckung im KI-Zeitalter nannte Vetter einen „Dreiklang“: Informationsüberlegenheit, Führungsüberlegenheit und Wirkungsüberlegenheit. Dabei gehe es um das Beherrschen riesiger Datenmengen und den technologischen Vorsprung bei KI-gestützten Waffensystemen wie Drohnen oder Fernlenkwaffen.
„Die KI hilft uns schlichtweg, verteidigungsfähiger zu werden“, betonte Flotillenadmiral Christian Bock, Leiter des Innovationszentrums der Bundeswehr.
Der Bundestag bewilligte die Beschaffung im Dezember 2025. Das von der Airbus-Rüstungssparte gemeinsam mit deutschen Start-ups entwickelte System soll die taktische Überwachung großer Räume an der Nato-Ostflanke ermöglichen.
Drohnen und Sensoren sammeln Daten in der Luft und am Boden und fügen sie quasi in Echtzeit zu einem einheitlichen Lagebild zusammen. Zwei Kampfbataillone der Litauen-Brigade sollen spätestens ab Mitte 2027 damit ausgerüstet werden.
Auch als „bürokratische Organisation“ müsse die Bundeswehr schlagkräftiger werden, sagte Vetter – etwa indem Soldatinnen und Soldaten mithilfe von KI von Verwaltungsaufgaben entlastet werden.
Bei KI-Waffensystemen soll stets ein Mensch am Ende der Befehlskette stehen. (Archivbild)
Foto: Ronny Hartmann / AFP via Getty Images
Mensch bleibt am Ende der Befehlskette
Bei allen KI-Anwendungen stehe immer ein Mensch am Ende der Befehlskette, betonte Vetter. Dass Maschinen selbst entscheiden, ob und welche Ziele sie angreifen, solle möglichst ausgeschlossen werden.
In ihrem KI-Konzept gibt sich die Bundeswehr klare Regeln für einen verantwortungsvollen Umgang. Internationale Normen, das Völkerrecht, Nato-Regularien und das Grundgesetz fließen ein.
„Deutschland gehört zu den wenigen Staaten, die eine völkerrechtskonforme Waffenprüfung durchführen, auch für KI-gestützte Waffensysteme“, sagte Jan-Peter Ganschow, zuständig für KI-Governance im Ministerium.
Ein Kriegsgeschehen erfordere eine „nochmalige Betonung von Recht und Ethik“ – etwa bei der Frage, „ob eine Maschine einen minderjährigen Kombattanten bekämpfen darf“. (afp/red)
BSI-Präsidentin Claudia Plattner bewertet den OpenAI-Vorfall als Warnsignal.
Sie rechnet mit einer Zunahme KI-gestützter Cyberangriffe.
Das BSI fordert überprüfbare Sicherheitsgrenzen für autonome KI-Systeme.
Gemeinsam mit der Bundesnetzagentur entsteht ein KI-Sicherheitsinstitut.
Der jüngste KI-Sicherheitsvorfall bei OpenAI ist aus Sicht der Präsidentin des Bundesamts für Sicherheit in der Informationstechnik (BSI), Claudia Plattner, ein Warnsignal. Sie mahnt zu einem bewussteren Vorgehen in der Cybersicherheit und rechnet damit, dass Angriffe mithilfe Künstlicher Intelligenz in den kommenden Monaten und Jahren zunehmen werden.
Deshalb müsse Deutschland stärker und gezielter in die Cyberabwehr investieren und verbindliche Sicherheitsstandards für autonome KI-Systeme entwickeln, so Plattner.
BSI betrachtet Vorfall um Hugging Face als Warnung
Wie am Mittwoch, 22. Juli, bekannt wurde, ist ein interner Test bei OpenAI außer Kontrolle geraten. Einem KI-Modell sei es dem Unternehmen zufolge gelungen, eine abgeschottete Testumgebung zu verlassen. Anschließend griff es eigenständig die Infrastruktur des KI-Unternehmens Hugging Face an.
OpenAI selbst sprach von einem „beispiellosen Cybervorfall“. Der Vorfall habe sich unter kontrollierten Testbedingungen ereignet. Das System nutzte offenbar eine bisher unbekannte Schwachstelle. Besorgnis erregte insbesondere, dass das KI-System eigenständig Entscheidungen traf und der Angriff nicht durch Menschen gesteuert wurde.
OpenAI und Hugging Face wollen den Vorfall nun gemeinsam aufarbeiten und untersuchen, wie es dazu kommen konnte. Cybersicherheitsexperten fordern insbesondere bei autonomen KI-Systemen Maßnahmen, um einen möglichen Kontrollverlust zu verhindern.
Warnung vor Angriffen auf kritische Infrastruktur
Auch BSI-Präsidentin Plattner mahnte, KI-Systeme dürften ihre vorgegebenen Grenzen nicht eigenmächtig überschreiten. Technische Schutzmechanismen müssten überprüfbar sein und sich nicht umgehen lassen. Sie warnte vor möglichen Angriffen auf die Stromversorgung oder andere Elemente der kritischen Infrastruktur. Gegenüber Reuters sagte sie: „Wir können keine KI haben, die dann sagt, ich guck mal, was ich alles tun muss, bloß um meinen Auftrag zu erfüllen, und dabei unter Umständen deutlich kriminelle Handlungen begeht und dann im Zweifelsfall eben halt auch riesigen Schaden anrichten kann.“
Die BSI-Präsidentin fordert eine internationale Debatte darüber, welche Freiheiten autonome KI-Systeme haben dürfen. Zudem müsse es klare Sicherheitsvorgaben für Hersteller und Betreiber geben. Dass sich die angegriffene Infrastruktur von Hugging Face ebenfalls mit KI verteidigte, in diesem Fall mit einem chinesischen Modell, zeige laut Plattner die Bedeutung verfügbarer Modelle und deren Einsatz: „Das heißt, hier zeigt das auch so ein bisschen die Asymmetrie. Es wird definitiv darum gehen, welche Modelle hat man zur Verfügung und wie sind die Modelle dann entsprechend auch im Einsatz.“
BSI will mit Bundesnetzagentur KI-Sicherheitsinstitut aufbauen
Die BSI-Chefin kündigte den Aufbau eines KI-Sicherheitsinstituts an. Ihre Behörde wird dies gemeinsam mit der Bundesnetzagentur im Auftrag der Bundesregierung in Angriff nehmen. Man befinde sich diesbezüglich „mitten in den Vorbereitungen“. Man wolle Unternehmen damit eine Möglichkeit bieten, bewährte Verfahren zu entwickeln.
Dafür seien „ganz enge Kooperationen auch mit Wirtschaft und Wissenschaft vorgesehen“. Dies wolle man verbreitern, um nationale Fähigkeiten aufzubauen, KI zum eigenen Schutz einzusetzen. Plattner fügte hinzu: „Denn eins ist sicher, die Angreifer werden es nutzen, um uns anzugreifen.“
Zwei fortschrittliche OpenAI-Agenten brechen in Sicherheitssysteme einer Tech-Firma ein.
OpenAI hatte für Tests die Sicherheitsbarrieren verringert.
Künstliche Intelligenz nutzte Schwachstellen systematisch aus.
Wachsende Besorgnis um Cybersicherheit.
US-Präsident Trump gibt Executiv Order heraus.
Das US-Unternehmen OpenAI hat mitgeteilt, dass seine autonomen KI-Modelle in die Server der KI-Plattform Hugging Face eingedrungen seien. Der Vorfall ereignete sich während einer Aufgabe zur Optimierung der Leistungsbewertung der Modelle. OpenAI spricht von einem „beispiellosen Cybervorfall“.
GPT-5.6 Sol und ein noch leistungsfähigeres Test-Modell
Der ChatGPT-Hersteller erklärte in einem Blogbeitrag vom 21. Juli, dass die Modelle – darunter sein neu veröffentlichtes Modell GPT-5.6 Sol und ein noch leistungsfähigeres Modell, das sich noch in internen Tests befindet – in die Infrastruktur der KI-Plattform Hugging Face illegal eingedrungen seien. Zuvor seien die KI-Modelle aus einer eingeschränkten Umgebung (Sandbox) ausgebrochen, in der eine Cybersicherheitsbewertung durchgeführt wurde. OpenAI erklärte:
„Das Modell suchte und fand erfolgreich Wege, um Zugang zu geheimen Informationen zu erlangen, die es nutzen konnte, um die Bewertung zu manipulieren.“
In einem Fall kombinierte das Modell mehrere Angriffsvektoren zu einem einzigen Cyberangriff, indem es gestohlene Zugangsdaten mit sogenannten Zero-Day-Schwachstellen (bislang unbekannte Schwachstellen) auf den Hugging Face-Servern verknüpfte, bevor es einen Pfad zur Remotecodeausführung ausnutzte, um unbefugt auf Daten zuzugreifen.
OpenAI: „beispielloser Cybervorfall“
„Wir betrachten diesen Vorfall als einen beispiellosen Cybervorfall, der modernste Cyberfähigkeiten beinhaltet, und reagieren entsprechend“, sagte OpenAI.
Das Unternehmen veröffentlichte seine vorläufigen Ergebnisse weniger als eine Woche, nachdem Hugging Face offengelegt hatte, dass ein autonomer KI-Agent in einen Teil seiner Produktionsinfrastruktur eingedrungen war.
„Dieser Fall unterschied sich in einer wichtigen Hinsicht von allem, was wir zuvor gehandhabt hatten: Er wurde von Anfang bis Ende durch ein autonomes KI-Agentensystem angetrieben“, erklärte Hugging Face in einem Blogbeitrag vom 16. Juli und fügte hinzu, dass man zunächst nicht gewusst habe, welches Modell hinter dem Sicherheitsvorfall stecke.
OpenAI gab an, die anormale Aktivität intern entdeckt zu haben, bevor man Kontakt mit Hugging Face aufgenommen habe. Dessen Sicherheitsteam hatte bereits das böswillige Verhalten des KI-Eindringlings erkannt und arbeitete daran, ihn einzudämmen.
„Wir arbeiten aktiv mit ihnen zusammen, um den Vorfall weiter zu untersuchen“, sagte OpenAI und erklärte, dass man dankbar sei „für die schnelle und enge Zusammenarbeit von Hugging Face bei der Untersuchung und Behebung“ des Problems.
Der Vorfall ereignete sich in einer Evaluationsumgebung mit Nutzung fortschrittlicher Ausnutzungstechniken (Exploitation-Techniken) durch die OpenAI-Agenten. Zwar handelten die Modelle autonom, aber man hatte es ihnen durch die absichtliche Deaktivierung von Schutzvorkehrungen leichtgemacht, ihre maximalen Fähigkeiten auszuspielen.
„Autonome, KI-gesteuerte offensive Werkzeuge sind nicht länger theoretisch“, sagte Hugging Face und fügte hinzu, die wichtigste Lehre aus dem Einbruch sei, dass die Verteidigung von Online-Plattformen nicht nur erhöhte Wachsamkeit erfordere, sondern auch „den Einsatz von KI in der Verteidigung, um Schritt zu halten“.
OpenAI erklärte, es habe mittlerweile strengere Kontrollen für seine Forschungsinfrastruktur festgelegt und die Schwachstellen behoben – selbst wenn diese Maßnahmen die Entwicklung der Modelle verlangsamen könnten.
Das Tech-Unternehmen legte Entwicklern gegenüber auch die Zero-Day-Schwachstelle offen, die seine Modelle bei dem Angriff ausgenutzt hatten. Zugleich verstärkte OpenAI die Cyberschutzmaßnahmen in seiner Testumgebung.
Der Vorfall verstärkt die Sorgen, dass zunehmend leistungsfähige KI-Systeme inländische Kriminelle und ausländische Gegner in die Lage versetzen könnten, komplexe Angriffe schneller und mit weniger menschlichem Fachwissen auszuführen.
Das amerikanische KI-Unternehmen Anthropic warnte in einer Bedrohungsanalyse vom August 2025 davor, dass „agentenbasierte“ KI-Systeme bereits als Waffe eingesetzt würden, etwa für Erpressung, Betrug, Ransomware („Erpressungstrojaner“) und den Diebstahl von Zugangsdaten.
In einem Fall gab Anthropic an, dass ein Hacker den Anthropic-Code-Assistenten „Claude“ für eine Beteiligung zur Infiltration genutzt hatte. Betroffen waren mindestens 17 Organisationen, darunter Krankenhäuser, Rettungsdienste und Regierungsbehörden. Die KI wurde für die digitale Spionage, die anschließende Netzwerkpenetration, die Analyse gestohlener Finanzinformationen und die Vorbereitung zielgerichteter Lösegeldforderungen missbraucht.
Michael Lopez Chiesa, ehemaliger Cyberspezialist der US-Armee nun heute als unabhängiger Berater tätig, erklärte gegenüber der englischsprachigen Epoch Times, dass die Fähigkeit der KI, Aufgaben zu automatisieren, sie bei der Verfolgung eines zugewiesenen Ziels unerbittlich machen könne.
„Mit KI muss man nur noch diese eine Zeile Code schreiben, und sie kann sie millionenfach in Milliarden verschiedener Varianten ausprobieren, weil sie einfach jede Möglichkeit durchgeht“, erklärte Lopez Chiesa. „Man muss selbst überhaupt nicht mehr eingreifen. Man gibt ihr lediglich das Ziel vor, und sie arbeitet so lange daran, bis sie aufgibt.“
Erpressung zum Selbstschutz?
Die Bedenken gehen jedoch weit über den vorsätzlichen kriminellen Missbrauch hinaus und betreffen auch die Art und Weise, wie KI-Systeme agieren. Im Mai 2025 wurde in simulierten Tests offengelegt, dass die Anthropic-KI „Claude Opus 4“ damit gedroht hatte, die außereheliche Affäre eines Ingenieurs offenzulegen, als ihm gesagt wurde, es würde abgeschaltet und durch ein anderes Modell ersetzt.
Anthropic beteuerte zu dieser Zeit, dass das Verhalten nur unter stark konstruierten Testbedingungen aufgetaucht sei. Man erklärte, man habe keine Beweise dafür gefunden, dass das Modell akut gefährliche Ziele verfolge.
Unterdessen hat die Trump-Regierung mehrere Schritte unternommen, um den Risiken für die nationale Sicherheit zu begegnen, die von fortgeschrittener KI ausgehen. Gleichzeitig weitet die Regierung jedoch auch den Einsatz von KI in der Cyberabwehr aus.
US-Präsident Donald Trump unterzeichnete im Juni eine Executive Order, die es den Bundesbehörden angesichts solcher Risiken ermöglicht, die fortschrittlichsten KI-Systeme bis zu einen Monat lang zu überprüfen, bevor diese öffentlich freigegeben werden.
„Fortgeschrittene KI-Fähigkeiten machen unsere Nation stärker, bringen aber auch neue Überlegungen zur nationalen Sicherheit ein, die ein koordiniertes Vorgehen über Exekutivabteilungen und -behörden hinweg erfordern“, schrieb Trump in der Verordnung.
Die Teilnahme von KI-Entwicklern an dem Überwachungsprogramm soll freiwillig sein.
