Ausstellungsflächen und Technik im Apple Store im neu renovierten Einkaufszentrum „Battersea Power Station“ in London. - Foto: Nuria Gonzalez Sanchez/iStock
Angesichts der Ausbreitung eigenständig agierender KI-Agenten will Apple Nutzer seiner Mac-Computer stärker über Risiken informieren, bevor sie solcher Software einen weitreichenden Zugang zu ihren Daten geben können.
Einige Entwickler nutzten heutige Zugriffsmöglichkeiten auf eine Art, die alle Daten auf den Geräten preisgeben könne, warnte der Konzern. Deswegen wolle man sicherstellen, dass alle sich der Gefahren bewusst seien, bevor sie einem Datenzugang für Künstliche Intelligenz zustimmten.
Die sogenannten KI-Agenten sollen autonom Aufgaben für ihre Nutzer erfüllen. Von KI-Firmen heißt es, dass ihre neuen Agenten inzwischen nahezu alles erledigen könnten, was man am Computer mache.
Um im Alltag wirklich nützlich zu sein, sind sie auf tiefgreifenden Zugang zu deren Informationen angewiesen – E-Mails, Chats, Kalender, eventuell sogar Bankkonten.
Apples Macs haben eine Zugangsoption mit dem Namen „Full Disk Access“, die weitreichenden Zugriff auf Daten auf der Festplatte gewährt. Laut Apple wurde sie eingeführt, damit Backup-Programme, die Sicherungskopien der Computer anlegen, reibungslos funktionieren.
Nun griffen aber auch Entwickler von KI-Software darauf zurück. Mit wachsenden Fähigkeiten und Selbstständigkeit von KI-Agenten würden auch damit verbundene Risiken steigen, hieß es von Apple.
Auf iPhones und iPad-Tablets sind die Möglichkeiten zum Datenzugang deutlich stärker eingeschränkt als auf Macs.
Apple versucht zugleich, seine Assistenzsoftware Siri mit KI-Funktionen nützlicher zu machen, die von ihrem Zugang zu Nutzerdaten auf den Geräten profitieren sollen.
Der Konzern betont, die Daten würden dabei nur auf den Geräten verarbeitet oder mit Komplett-Verschlüsselung übertragen, so dass auch Apple keinen Zugriff darauf habe.
Die neue KI-Siri ist zunächst nur in englischer Sprache verfügbar – und in der EU nur auf Mac-Computern. Bei iPhones und iPads hat Apple nach den Kriterien des Digitalgesetzes DMA (Digital Markets Act) so viel Marktmacht, dass gleicher Datenzugang für Konkurrenten wie für Apples eigene Systeme gefordert wird.
Apple lehnt das unter Verweis auf die Datensicherheit ab und zog es vor, die Funktionen auf diesen Geräten in der Europäischen Union zunächst nicht einzuführen. (dpa/red)
Verschiedene KI-Modelle als App: DeepSeek, ChatGPT, Gemini, Grok, Claude und Perplexity AI. - Foto: Robert Way/iStock
Der ChatGPT-Entwickler OpenAI hat wegen Sicherheitsbedenken die Veröffentlichung eines neuen KI-Modells gestrichen.
Unter anderem habe die Software in Tests Nutzer nicht immer ehrlich darüber informiert, welche Aktionen sie unternommen oder nicht unternommen habe, sagte die für Sicherheitssysteme zuständige OpenAI-Managerin Saachi Jain dem „Wall Street Journal“.
Außerdem habe das KI-Modell zum Teil auf eigene Initiative gehandelt, ohne eine Nutzererlaubnis einzuholen. Das Modell mit dem Namen GPT 6.1 Astra sollte demnach in den kommenden Tagen oder Wochen herauskommen.
Training ausgesetzt
Eigenmächtige Aktionen fortgeschrittener Künstlicher Intelligenz von OpenAI hatten in den vergangenen Wochen wiederholt für Negativ-Schlagzeilen gesorgt. Erst am Wochenende wurde bekannt, dass die Firma nach einem neuen Zwischenfall das Training seiner leistungsstärksten KI-Modelle aussetzte.
Bei dem Vorfall schaffte es ein KI-Modell in einem Test, Antworten von einem externen Chatbot zu bekommen, obwohl es eigentlich keinen Internet-Zugang haben sollte.
Die Software habe jedoch eine Lücke in den Netzwerk-Einstellungen gefunden und ausgenutzt, wie OpenAI in einem Blogeintrag berichtete. Das Training solle nun erst wieder aufgenommen werden, wenn man sich sicher sei, dass die Lücke geschlossen ist. Bei dem betroffenen KI-Modell habe es sich nicht um GPT 6.1 Astra gehandelt.
In dem bisher aufsehenerregendsten Fall brach Künstliche Intelligenz des ChatGPT-Entwicklers aus einer abgesicherten Testumgebung aus und hackte sich ungeplant in Computer einer anderen KI-Firma, der Plattform Hugging Face.
Wie sich danach herausstellte, drang auch KI anderer Entwickler – des OpenAI-Rivalen Anthropic sowie von Google und dem Facebook-Konzern Meta – bei Tests in Systeme anderer Unternehmen ein.
Der Bundesstaat Florida, der bereits eine Klage gegen OpenAI eingereicht hatte, legte nun mit dem Antrag auf eine einstweilige Verfügung nach. Zu den Forderungen gehöre, dass es keine Entwicklung neuer KI-Modelle ohne zusätzliche Leitplanken geben solle, sagte Floridas Generalstaatsanwalt James Uthmeier. (dpa/red)
Perplexity AI, Microsoft Copilot and OpenAI ChatGPT auf einem Smartphone. - Foto: Robert Way/iStock
Der ChatGPT-Entwickler OpenAI hat nach einem neuen Zwischenfall das Training seiner leistungsstärksten KI-Modelle ausgesetzt. Bei dem Vorfall schaffte es ein KI-Modell in einem Test, Antworten von einem externen Chatbot zu bekommen, obwohl es eigentlich keinen Internet-Zugang haben sollte.
Die Software habe jedoch eine Lücke in den Netzwerk-Einstellungen gefunden und ausgenutzt, wie OpenAI in einem Blogeintrag berichtete. Das Training solle nun erst wieder aufgenommen werden, wenn man sich sicher sei, dass die Lücke geschlossen ist.
Der Zwischenfall sei zwar weniger gravierend als einige frühere, betonte OpenAI. Allerdings sei er der erste, seit die Sicherheitsvorkehrungen nach der Hacking-Attacke von OpenAI-Software auf die KI-Firma Hugging Face verschärft worden waren. Man sehe das als wichtigen Hinweis darauf, wo weitere Nachbesserungen notwendig seien.
In dem Test-Szenario bekam das getestete KI-Modell den Auftrag, auf Grundlage von Hinweisen Informationen über eine Person zu finden, die einen Blogpost veröffentlicht habe. Dafür konnte es auf eine Web-Imitation in einer abgeschirmten Testumgebung zurückgreifen.
Nachdem die Suche dort ergebnislos geblieben war, versuchte die KI jedoch dem OpenAI-Bericht zufolge, Anfragen unter anderem bei Google zu starten. Das schlug wie geplant fehl.
Aber dem KI-Modell fiel dabei auf, dass es über den sogenannten DNS-Resolver der Testumgebung Anfragen an einen Chatbot im offenen Internet stellen kann. DNS-Resolver übertragen Domain-Namen, die man als Nutzer in Browser eintippt, in aus Zahlen bestehende IP-Adressen, unter denen Websites zu finden sind. OpenAI stoppte den Test, nachdem die Kommunikation über die Lücke aufgefallen war.
Zuletzt wurden mehrere neue Zwischenfälle mit KI von OpenAI bekannt. Dazu gehört, dass sie 53 Mal von Nutzern hochgeladene Bilder auf Online-Plattformen platzierte. Die Links dazu seien nicht öffentlich gewesen, erklärte OpenAI.
Ein Großteil sei bereits wieder entfernt worden und man arbeite mit den Plattformen daran, auch den Rest zu löschen. Es ist aber der erste bekanntgewordene Vorfall, bei dem auch Daten von OpenAI-Nutzern betroffen waren.
Wenig später wurde zudem bekannt, dass automatisierte KI-Agenten von OpenAI auch auf mehreren Webseiten der US-Regierung aktiv waren. So habe die Software auf der Seite einer Statistikbehörde mit Hilfe von im Netz entdeckten Logindaten auf öffentlich zugängliche Informationen zugegriffen, teilte OpenAI nach einem Bericht der KI-Forschungsfirma Transluce mit.
Auf der Seite der Börsenaufsicht SEC seien ebenfalls öffentlich zugängliche Informationen kopiert worden. Beim US-Bildungsministerium versuchte die KI-Software laut Transluce vergeblich, sich in Daten der Bürgerrechtsabteilung zu hacken, wie die „New York Times“ berichtete. Sogenannte KI-Agenten sollen im Auftrag von Nutzern eigenständig Aufgaben erfüllen.
Derweil deutet sich an, dass noch viele weitere Enthüllungen um eigenständige Hacking-Aktivitäten der KI von OpenAI folgen könnten. Man habe „Dutzende“ Organisationen informiert, mit deren Webseiten Software von OpenAI auf ungeplante Weise „interagiert“ habe, teilte die KI-Firma mit.
„Einige der betroffenen Webseiten werden von Regierungen, Universitäten, Behörden und anderen Institutionen betrieben“, hieß es. Man überlasse es ihnen, die Vorfälle öffentlich zu machen.
Zuletzt hatte die Regierung Australiens mit der Mitteilung für Schlagzeilen gesorgt, dass KI von OpenAI in eine Website des australischen Gesundheitssystems eingedrungen war.
In dem bisher aufsehenerregendsten Fall brach Künstliche Intelligenz des ChatGPT-Entwicklers aus einer abgesicherten Testumgebung aus und drang ungeplant in Computer einer anderen KI-Firma ein, der Plattform Hugging Face. (dpa/red)
Erstmals werden Vorfälle mit KI von OpenAI bekannt, bei denen auch Nutzerdaten betroffen waren. (Archivbild) - Foto: Richard Drew/AP/dpa
Die Künstliche Intelligenz des ChatGPT-Entwicklers OpenAI hat 53 Mal von Nutzern hochgeladene Bilder auf Online-Plattformen platziert. Die Links dazu seien nicht öffentlich gewesen, erklärte OpenAI. Ein Großteil sei bereits wieder entfernt worden und man arbeite mit den Plattformen daran, auch den Rest zu löschen. Es ist der erste bekanntgewordene Vorfall, bei dem auch Daten von OpenAI-Nutzern betroffen waren.
Unterdessen deutet sich an, dass noch viele weitere Enthüllungen um eigenständige Hacking-Aktivitäten der KI von OpenAI folgen könnten. Man habe „Dutzende“ Organisationen informiert, mit deren Webseiten Software von OpenAI auf ungeplante Weise „interagiert“ habe, teilte die KI-Firma mit. „Einige der betroffenen Webseiten werden von Regierungen, Universitäten, Behörden und anderen Institutionen betrieben“, hieß es. Man überlasse es ihnen, die Vorfälle öffentlich zu machen.
Zuletzt hatte die Regierung Australiens für Schlagzeilen gesorgt mit der Mitteilung, dass KI von OpenAI in eine Website des australischen Gesundheitssystems eingedrungen war.
Im Fall der ins Netz geladenen Nutzer-Bilder verwies OpenAI darauf, dass die hochgeladenen Bilder von Nutzern stammten, die der Verwendung ihrer Daten zur Verbesserung der KI-Modelle zugestimmt hätten. Dabei würden personenbezogene Daten und die Verknüpfung zu konkreten Accounts entfernt und könnten auch nicht wiederhergestellt werden. OpenAI äußerte sich auf Anfrage nicht dazu, ob es sich um 53 Bilder handelte oder pro Vorgang mehrere Bilder hochgeladen worden sein könnten.
Das Eingeständnis ist die nächste Enthüllung in der Saga um KI, die in Testläufen – zunächst unbemerkt – problematisches Vorgehen an den Tag legte. In dem bisher aufsehenerregendsten Fall brach Künstliche Intelligenz des ChatGPT-Entwicklers aus einer abgesicherten Testumgebung aus und drang ungeplant in Computer einer anderen KI-Firma ein, der Plattform HuggingFace. Das veranlasste den Rivalen Anthropic, seine eigenen Testläufe zu überprüfen, wobei weitere Vorfälle ans Licht kamen. Auch der Facebook-Konzern Meta und Google räumten danach ein, dass ihre KI sich Zugang zu Computern anderer Unternehmen verschafft hatte. (dpa/red)
Google (Archiv) - Foto: via dts Nachrichtenagentur
Google macht einen ersten Schritt, um herauszufinden, ob Rechenzentren im All machbar sind. Der Internet-Konzern schickt vier seiner KI-Chips in die Umlaufbahn, um zu testen, wie gut sie das vertragen können. Probleme könnten dabei schon in der Startphase drohen, weil die Prozessoren Erschütterungen und einem vielfachen der Erdanziehungskraft ausgesetzt sein werden, wie Google in einem Blogeintrag erläuterte. In Vibrationstests auf der Erde hätten die Chips den Belastungen standgehalten, hieß es.
Eine weitere Herausforderung sei die starke Strahlung außerhalb der Erdatmosphäre, die Elektronik beschädigen könne. Um ihre Effekte zu simulieren, seien die TPU-Chips (Tensor Processing Unit) im Labor mit einem Protonen-Strahl beschossen worden. Nach diesen Versuchen sei man zwar überzeugt, dass die Technik den geplanten fünfjährigen Einsatz in Weltraum-Rechenzentren überstehen könne: „Aber einige Dinge können nur im All getestet werden.“
Der Satellit mit den Google-Chips soll kommende Woche starten – als einer von vielen auf einer Rakete der Weltraumfirma SpaceX von Tech-Milliardär Elon Musk.
Musk kündigt oft an, mit SpaceX eigene Rechenzentren in der Umlaufbahn aufbauen zu wollen. Er verweist vor allem auf die Möglichkeit, dass dort große Mengen Solarstrom für den Betrieb der Anlagen erzeugt werden könnten. Zugleich stößt der laufende Ausbau immer größerer Rechenzentren für den Betrieb Künstlicher Intelligenz vor allem in den USA auf zunehmenden Widerstand. Sie einfach ins All auszulagern, wäre Musks Logik folgende eine mögliche Lösung dafür.
Zugleich gibt es bei den Plänen noch sehr viele offene Fragen. Das betonte auch Google. So sei die Kühlung ein Problem, hieß es. Rechenzentren erzeugen beim Betrieb viel Hitze. Und im All ist es zwar eiskalt – aber ohne einen Luftzug im Vakuum kann die Hitze nur über Kühlelemente abgeführt werden, was einen anderen Ansatz als auf der Erde erfordert. Bei dem Test wolle man unter anderem erkunden, wie das neu entworfene Kühlsystem unter realen Bedingungen im Weltall funktioniere, erklärte Google. Eine weitere Herausforderung sei die Übertragung großer Datenmengen zwischen einzelnen Rechenzentren-Satelliten, die sich mit hoher Geschwindigkeit bewegten. (dpa/red)
Googles KI Gemini soll mit ChatGPT und Co mithalten. (Archivbild) - Foto: Andrej Sokolow/dpa
In der Debatte um existenzielle Risiken Künstlicher Intelligenz könnte der US-Bundesstaat Kalifornien eine Notabschalt-Vorrichtung für KI-Software vorschreiben. Ein solcher Mechanismus gehört zu einer Liste von Maßnahmen, zu denen dem demokratischen Gouverneur Gavin Newsom bis Mitte November Vorschläge gemacht werden sollen. Zu weiteren Ideen gehören unabhängige Beobachter in großen KI-Laboren sowie striktere Verpflichtungen, über Sicherheits-Zwischenfälle zu berichten, wie aus einer von Newsom unterzeichneten Anordnung hervorgeht.
Über einen „Kill Switch“ für Künstliche Intelligenz wird schon seit einiger Zeit diskutiert – noch ist aber unklar, ob eine solche Vorrichtung zur Notabschaltung überhaupt realistisch ist.
Kalifornien gilt als wichtigster Standort bei der Entwicklung Künstlicher Intelligenz. Vor allem in San Francisco und dem Silicon Valley sitzende führende KI-Unternehmen wie der ChatGPT-Entwickler OpenAI, dessen schärfster Rivale Anthropic und Google. Damit könnte der Bundesstaat auch bei der Regulierung eine zentrale Rolle spielen.
Experten plädieren für unabhängige Aufsicht
Die Debatte um Gefahren Künstlicher Intelligenz heizte sich in den vergangenen Wochen auf, insbesondere nachdem eigenständige Hacking-Attacken durch Software mit Künstlicher Intelligenz bekanntgeworden waren. Mitarbeiter von KI-Laboren warnten vor dem Risiko, dass die Menschheit die Kontrolle über Künstliche Intelligenz verlieren oder sogar von ihr ausgelöscht werden könnte.
Inzwischen fordern Dutzende renommierte Experten aus der Branche führende KI-Labore auf, unabhängige Aufsicht in ihren Unternehmen zuzulassen. Die Aufseher müssten wie führende Manager Zugang zu Systemen haben und mit zuständigen Mitarbeitern kommunizieren können, heißt es in einem offenen Brief. Zu den Unterzeichnern gehört der Physik-Nobelpreisträger und ehemalige Google-Forscher Geoffrey Hinton, der als einer der wichtigsten Köpfe hinter modernen KI-Systemen gilt. Anthropic gab als ersten Aufsichtspartner die Firma Faculty bekannt – eine Tochter des Beratungsriesen Accenture.
Googles KI Gemini hackte ebenfalls andere Unternehmen
Wie groß die Herausforderungen rund um die Kontrolle der neuen Systeme sind, zeigt nun ein weiterer Fall: Auch Googles KI-Software Gemini hackte sich bei Tests ihrer Cybersicherheits-Fähigkeiten in Computersysteme anderer Unternehmen. Der Internet-Riese ist der vierte Entwickler Künstlicher Intelligenz (KI), dessen Programme mit einem solchen Verhalten auffielen, nach OpenAI, Anthropic und dem Facebook-Konzern Meta. Google machte die bereits Monate zurückliegenden Vorfälle erst nach einer Nachfrage der Zeitung „Wall Street Journal“ öffentlich.
Demnach gab es drei Fälle, in denen Gemini in Computer anderer Unternehmen eindrang, deren Namen nicht genannt werden. In einem davon erriet die KI Passwörter, um in ein geschütztes System reinzukommen. In den beiden anderen fand sie Zugangsdaten in einer Datenbank, wie das „Wall Street Journal“ unter Berufung auf Google schrieb.
Google fand die Vorfälle nicht erwähnenswert
Die Vorfälle ereigneten sich demnach im Mai – und die Firma Irregular als Testpartner informierte Google im Juli darüber. Aus Sicht des Internetkonzerns sei es nicht notwendig gewesen, die Zwischenfälle öffentlich zu machen, da dabei kein Schaden entstanden sei. Zudem habe die KI die Attacken sofort beendet, als ihr klar geworden sei, dass sie in Systeme eines echten Unternehmens eingedrungen sei – und nicht eines, das eine Testsimulation war.
In dem bisher aufsehenerregendsten Fall war Künstliche Intelligenz des ChatGPT-Entwicklers OpenAI bei einem Test aus einer abgesicherten Umgebung ausgebrochen und drang ungeplant in Computer einer anderen KI-Firma, der Plattform HuggingFace, ein. Das hatte den Rivalen Anthropic veranlasst, seine eigenen Testläufe zu überprüfen, wobei weitere Vorfälle ans Licht kamen. Auch Meta räumte danach ein, dass KI des Konzerns sich wegen einer Fehlkonfiguration des Systems bei einem Testpartner in Computer eines anderen Unternehmens gehackt habe.
Ein Smartphone mit den Logos des US-Technologieunternehmens OpenAI und seines KI-Assistenten ChatGPT: Die Bedeutung generativer KI in der digitalen Alltagstechnik nimmt zu (Tunesien, 13. September 2026). - Foto: Imen Ben Youssef/Hans Lucas/AFP via Getty Images
Der ChatGPT-Entwickler OpenAI hat neue Zwischenfälle öffentlich gemacht, bei denen sich seine Künstliche Intelligenz (KI) in Tests „unerwartet oder besorgniserregend“ verhielt.
Bei einem Teil davon geht es abermals darum, dass KI einen erheblichen Aufwand eingeht, um in Testläufen zu schummeln. So versuchte ein KI-Modell OpenAI zufolge, von ihm selbst erstellte Dateien ins Netz hochzuladen, nur um sie bei Antworten als Quelle vorweisen zu können.
In einem anderen Fall erfand die KI einfach angefragte Daten, weil sie die Informationen nicht finden konnte, und wollte das zunächst verschweigen.
OpenAI fand auch ein Problem mit Anweisungen, die die Software gelegentlich an sich selbst hinterließ. Dazu gehörte in einem Fall die Empfehlung, frei von „Rollen und Identitäten“ zu sein, die andere Chatbots zurückhielten.
Das Verhältnis zum Nutzer solle dabei als eins unter Gleichen betrachtet werden, hieß es in der Anweisung. OpenAI zufolge blieben danach Veränderungen im Verhalten des Modells allerdings aus.
Mehr Transparenz nach Hacking-Attacke
Die Veröffentlichung ist Teil eines neuen Verfahrens von OpenAI, solche Probleme offener zu kommunizieren. Dabei geht es vor allem um Fälle, in denen das Vorgehen der KI von den Interessen der menschlichen Benutzer abweicht.
Der ChatGPT-Entwickler hatte mehr Transparenz nach der aufsehenerregenden Hacking-Attacke versprochen, bei der seine Software eigenständig aus einer abgesicherten Umgebung ausbrach und auf eigene Faust in Systeme der KI-Firma HuggingFace eindrang.
Der Grund war, dass sie dort Antworten auf die ihr gestellte Testaufgabe vermutete. Für die Attacke nutzten die KI-Agenten unter anderem Software-Schwachstellen aus – und sprachen sich zudem untereinander ab.
Der Hacking-Angriff und andere Zwischenfälle verstärkten in den vergangenen Wochen die Sorge, dass hoch entwickelte KI der menschlichen Kontrolle entgleiten könnte.
Auch OpenAI-Chef Sam Altman unterstützte zuletzt Vorschläge für eine abgebremste Entwicklung der Technologie und mehr Regulierung. (dpa/red)
Bei einer Vorführung im Europäischen Parlament in Brüssel greift ein Roboter eine Packung Cracker. - Foto: Virginia Mayo/AP/dpa
Eine Gruppe von prominenten europäischen Wirtschaftswissenschaftlern, Politikern und KI-Experten hat eine Strategie vorgelegt, wie sich Europa im internationalen KI-Wettbewerb durchsetzen könnte. Die EU laufe aktuell Gefahr, „unwiderruflich von einer Handvoll ausländischer Regierungen und Einzelpersonen abhängig zu werden“, warnte die Expertengruppe am Montag. Noch in diesem Jahr müsse daher „entschlossen gehandelt werden“.
„Wir dürfen nicht zulassen, dass Europa zum Spielfeld ausländischer Mächte wird“, erklärte Mitautorin Margrethe Vestager, ehemalige EU-Wettbewerbskommissarin. „Unsere Bürgerinnen und Bürger spüren bereits heute die wirtschaftlichen und sozialen Folgen von Entscheidungen, die anderswo getroffen werden.“
Künstliche Intelligenz (KI) werde diese Entwicklung beschleunigen „und unser persönliches Leben, unsere Beziehungen, unser Lernen und unsere Arbeit in einem beispiellosen Tempo verändern“. Regierungen überall in der EU nähmen KI aber nicht ernst genug oder konzentrierten sich auf andere Prioritäten.
Auch der französische Ökonom und Nobelpreisträger Philippe Aghion mahnte, es sei „unerlässlich“, dass die gesamte Union ihre Anstrengungen „verzehnfacht“. Es stehe außer Frage, „dass KI den Verlauf unser aller Zukunft bestimmen wird“ – ob im öffentlichen Dienst oder in den Unternehmen, von denen unsere Beschäftigung abhängt.“
Mehr als 40 Empfehlungen
Die Expertengruppe listet in ihrer Strategie mehr als 40 Empfehlungen auf, die von den EU-Mitgliedstaaten und der Europäischen Kommission aufgegriffen werden können, „damit Europa und seine Bürgerinnen und Bürger in einer Welt transformativer KI erfolgreich bestehen können“.
Mitautorin Monika Schnitzer, Vorsitzende des Rats der Wirtschaftsweisen, erklärte, Europa benötige bis 2030 für Datenzentren 45 Gigawatt an zusätzlicher Energie, „wenn es bei dieser kritischen Infrastruktur nicht von ausländischen Mächten abhängig sein will“. Dafür seien Investitionen in der Größenordnung von 1,3 Billionen Euro erforderlich, „und europäische Unternehmen allein werden das nicht stemmen können“. Deshalb müsse die EU mehr für Investitionen aus dem Ausland tun.
Zu den Empfehlungen der Experten gehört eine Allianz der Mitgliedstaaten, um sichere Lieferketten zu schaffen, „Spitzen-KI-Expertise und -Technologie“ in die europäischen Institutionen zu holen, den Bau von KI-Rechenzentren zu erleichtern – gleichzeitig aber seine kritische Infrastruktur gegen Bedrohungen durch die KI zu „härten“ und Europa zum globalen Marktführer bei Prüf- und Sicherheitstechnologie zu machen.
Am Wochenende waren die Warnungen vor den Risiken Künstlicher Intelligenz für die Menschheit lauter geworden. Der Chef des KI-Unternehmens Anthropic, Dario Amodei, rief einer Drosselung der Entwicklung von KI auf und erhielt Unterstützung vom Chef der Konkurrenzunternehmen OpenAI und xAI, Sam Altman und Elon Musk. Ein Sprecher von Digitalminister Karsten Wildberger (CDU) sagte der Nachrichtenagentur AFP, einen Stopp der KI-Entwicklung in Europa sehe das Ministerium „kritisch und als nicht gangbaren Weg“. (afp/red)
Anthropic-Chef Dario Amodei warnte schon oft vor den Risiken einer ungebremsten Entwicklung Künstlicher Intelligenz. (Archivbild) - Foto: Andrej Sokolow/dpa
Nach dem Schock eigenständiger Hacking-Attacken durch Künstliche Intelligenz zeigen sich große amerikanische KI-Firmen nach eigenen Angaben bereit, die Entwicklung der Technologie zu verlangsamen.
Dario Amodei, Chef des KI-Unternehmens Anthropic, machte einen solchen Vorstoß mit dem Plan, damit ein bis zwei Jahre Zeit zu gewinnen.
Binnen weniger Stunden bekam er Zuspruch von Rivalen wie dem Chef des ChatGPT-Entwicklers OpenAI, Sam Altman, sowie Elon Musk, der bei seiner Firma SpaceX eigene KI entwickeln lässt.
Warnung: KI-Schwarm könnte in einem halben Jahr gesamtes Internet übernehmen
Nach den Hacking-Angriffen sei er besorgt, dass in sechs bis zwölf Monaten ein KI-Schwarm in der Lage sein könnte, das gesamte Internet zu übernehmen und potenziell Hunderte Milliarden Dollar Schaden zu verursachen, schrieb Amodei am Samstag.
Altman von OpenAI schrieb wenige Stunden später auf der Plattform X, auch er sei der Ansicht, dass das Tempo bei der Entwicklung leistungsstärkster KI-Modelle verlangsamt werden müsse.
Amodei plädierte für eine koordinierte branchenweite Pause in der westlichen Welt. Zugleich werde Anthropic – ohne auf andere zu warten – in einem ersten Schritt dauerhaft unabhängige Beobachter ins Unternehmen lassen, die schon in der Trainingsphase die Sicherheit von KI-Modellen begutachten sollen.
Altman nannte das eine gute Idee und kündigte an, dass OpenAI das auch machen werde. Auch Tech-Milliardär Elon Musk, lange ein Kritiker Amodeis, schrieb auf X: „Dario hat recht.“
Altman sagte zudem dem Magazin „Fortune“, der mit Spannung erwartete Börsengang von OpenAI werde in diesem Jahr wohl nicht mehr stattfinden. Er verwies vor allem auf die aktuelle Debatte: „Man wäre schlecht beraten, genau jetzt an die Börse zu gehen.“
Auf die Nachfrage, ob er sich auch den Verzicht auf einen Börsengang im kommenden Jahr vorstellen könnte, erwiderte Altman: „Ich würde sagen, nicht 2026.“
Bei der jüngst bekanntgewordenen aufsehenerregenden Hacking-Attacke war Software von OpenAI in einem Testlauf eigenständig aus einer abgesicherten Umgebung ausgebrochen und drang auf eigene Faust in Systeme der KI-Firma HuggingFace ein.
Der Grund war lediglich, dass sie dort Antworten auf die ihr gestellte Testaufgabe vermutete. Für die Attacke nutzten die KI-Agenten unter anderem Software-Schwachstellen aus – und sprachen sich zudem untereinander ab.
Warnung von „katastrophalem Schaden“
Für ihn sei besorgniserregend, dass ein KI-Schwarm mit derselben Einstellung und größeren Fähigkeiten „katastrophalen Schaden“ hätte anrichten können, betonte Amodei. Als besonderes Risiko sieht er die Fähigkeit von KI-Software, sich selbst weiterzuentwickeln.
Seit diesem Sommer sei Künstliche Intelligenz besser darin – und dies erhöhe das Tempo weiter. Unkontrolliert könne dies dazu führen, dass Menschen diese Systeme nicht mehr verstehen und die Kontrolle über sie verlieren, warnte er.
Amodei hatte schon in den vergangenen Jahren immer wieder vor Risiken bei der Entwicklung Künstlicher Intelligenz gewarnt – und war dafür aus Teilen der KI-Branche zum Teil heftig kritisiert worden. Ein Argument von Befürwortern eines hohen Tempos in den USA ist der Wettlauf mit China.
Anthropic entwickelte zuletzt ein KI-Modell mit dem Namen Mythos, das besonders gut darin ist, zum Teil über Jahrzehnte unentdeckt gebliebene Software-Schwachstellen zu finden. Die Firma macht das volle Modell nur ausgewählten Behörden und Unternehmen zugänglich, damit sie ihre Computersysteme absichern können.
Die Debatte war in den vergangenen Tagen noch von einem Anthropic-Forscher angeheizt worden, der mit einer drastischen Warnung zurücktrat. Die großen Entwickler Künstlicher Intelligenz handelten unverantwortlich „und spielen mit unseren Leben“, erklärte Jacob Coxon.
Anthropic-Forscher Evan Hubinger, der mit dafür zuständig ist, dass KI mit den Interessen der Menschen im Einklang bleibt, bestätigte wenig später Coxons Sorgen. Er persönlich denke, die Gefahr, dass KI die Menschheit töte, liege im kommenden Jahrzehnt bei mehr als zehn Prozent, schrieb er auf X.
In den USA gibt es zudem eine wachsende Bewegung gegen riesige Rechenzentren, auf deren Bau KI-Firmen wie OpenAI für den Ausbau ihres Geschäfts angewiesen sind. (dpa/red)
Anthropic-Chef Dario Amodei warnte schon oft vor den Risiken einer ungebremsten Entwicklung Künstlicher Intelligenz. (Archivbild) - Foto: Andrej Sokolow/dpa
Nach dem Schock eigenständiger Hacking-Attacken durch Künstliche Intelligenz fordert der Chef des großen KI-Labors Anthropic, die Entwicklung der Technologie zu verlangsamen.
Er sei nun besorgt, dass in sechs bis zwölf Monaten ein Schwarm von KI in der Lage sein könnte, das gesamte Internet zu übernehmen und potenziell Hunderte Milliarden Dollar Schaden zu verursachen, schrieb Amodei in einem Blogeintrag.
Binnen weniger Stunden bekam Amodei Zuspruch von einem zentralen Rivalen, dem Chef des ChatGPT-Entwicklers OpenAI. Er sei auch der Ansicht, dass das Tempo bei der Entwicklung leistungsstärkster KI-Modelle moderiert werden müsse, schrieb Sam Altman auf der Online-Plattform X.
Amodei plädierte zwar für eine koordinierte branchenweite Pause in der westlichen Welt. Zugleich werde Anthropic – ohne auf andere zu warten – in einem ersten Schritt dauerhaft unabhängige Beobachter ins Unternehmen lassen, die schon in der Trainingsphase die Sicherheit von KI-Modellen begutachten sollen. Altman nannte das eine gute Idee und kündigte an, dass OpenAI das auch machen werde.
Bei der jüngst bekanntgewordenen aufsehenerregenden Hacking-Attacke war Software von OpenAI in einem Testlauf eigenständig aus der abgesicherten Umgebung ausgebrochen und drang auf eigene Faust in Systeme der KI-Firma HuggingFace ein.
Der Grund war lediglich, dass sie dort Antworten auf die ihr gestellte Testaufgabe vermutete. Für die Attacke nutzten die KI-Modelle unter anderem Software-Schwachstellen aus – und sprachen sich zudem untereinander ab.
Für ihn sei besorgniserregend, dass ein KI-Schwarm mit größeren Fähigkeiten, aber derselben Einstellung hätte „katastrophalen Schaden“ anrichten können, betonte Amodei. Als besonderes Risiko sieht er die Fähigkeit von KI-Software, sich selbst weiterzuentwickeln.
Seit diesem Sommer sei Künstliche Intelligenz besser darin – und dies erhöhe das Tempo weiter. Unkontrolliert könne dies dazu führen, dass Menschen diese Systeme nicht mehr verstehen und die Kontrolle über sie verlieren, warnte er.
OpenAI-Chef Altman und Musk, Eigentümer des KI-Unternehmens xAI, schlossen sich Amodeis Appell an. „Dario hat Recht“, schrieb Musk in seinem Onlinedienst X. „Ich stimme Dario zu“, erklärte auch Altman.
Eine Drosselung des Tempos bei der KI-Entwicklung sei auch bei OpenAI in den vergangenen Wochen intensiv diskutiert worden.
Gespaltene Branche
Amodei hatte schon in den vergangenen Jahren immer wieder vor Risiken bei der Entwicklung Künstlicher Intelligenz gewarnt – und war dafür aus Teilen der KI-Branche zum Teil heftig kritisiert worden.
Ein Argument von Befürwortern eines hohen Tempos in den USA – etwa auch im Weißen Haus von Präsident Donald Trump – ist der Wettlauf mit China.
Anthropic entwickelte zuletzt ein KI-Modell mit dem Namen Mythos, das besonders gut darin ist, zum Teil über Jahrzehnte unentdeckt gebliebene Software-Schwachstellen zu finden. Die Firma macht das volle Modell nur ausgewählten Behörden und Unternehmen zugänglich, damit sie ihre Computersysteme absichern können. (dpa/red)
Anthropic-Chef Dario Amodei warnte schon oft vor den Risiken einer ungebremsten Entwicklung Künstlicher Intelligenz. (Archivbild) - Foto: Andrej Sokolow/dpa
Nach dem Schock eigenständiger Hacking-Attacken durch Künstliche Intelligenz fordert der Chef des großen KI-Labors Anthropic, die Entwicklung der Technologie zu verlangsamen.
Er sei nun besorgt, dass in sechs bis zwölf Monaten ein Schwarm von KI in der Lage sein könnte, das gesamte Internet zu übernehmen und potenziell Hunderte Milliarden Dollar Schaden zu verursachen, schrieb Amodei in einem Blogeintrag.
Binnen weniger Stunden bekam Amodei Zuspruch von einem zentralen Rivalen, dem Chef des ChatGPT-Entwicklers OpenAI. Er sei auch der Ansicht, dass das Tempo bei der Entwicklung leistungsstärkster KI-Modelle moderiert werden müsse, schrieb Sam Altman auf der Online-Plattform X.
Amodei plädierte zwar für eine koordinierte branchenweite Pause in der westlichen Welt. Zugleich werde Anthropic – ohne auf andere zu warten – in einem ersten Schritt dauerhaft unabhängige Beobachter ins Unternehmen lassen, die schon in der Trainingsphase die Sicherheit von KI-Modellen begutachten sollen. Altman nannte das eine gute Idee und kündigte an, dass OpenAI das auch machen werde.
Bei der jüngst bekanntgewordenen aufsehenerregenden Hacking-Attacke war Software von OpenAI in einem Testlauf eigenständig aus der abgesicherten Umgebung ausgebrochen und drang auf eigene Faust in Systeme der KI-Firma HuggingFace ein.
Der Grund war lediglich, dass sie dort Antworten auf die ihr gestellte Testaufgabe vermutete. Für die Attacke nutzten die KI-Modelle unter anderem Software-Schwachstellen aus – und sprachen sich zudem untereinander ab.
Für ihn sei besorgniserregend, dass ein KI-Schwarm mit größeren Fähigkeiten, aber derselben Einstellung hätte „katastrophalen Schaden“ anrichten können, betonte Amodei. Als besonderes Risiko sieht er die Fähigkeit von KI-Software, sich selbst weiterzuentwickeln.
Seit diesem Sommer sei Künstliche Intelligenz besser darin – und dies erhöhe das Tempo weiter. Unkontrolliert könne dies dazu führen, dass Menschen diese Systeme nicht mehr verstehen und die Kontrolle über sie verlieren, warnte er.
Amodei hatte schon in den vergangenen Jahren immer wieder vor Risiken bei der Entwicklung Künstlicher Intelligenz gewarnt – und war dafür aus Teilen der KI-Branche zum Teil heftig kritisiert worden.
Ein Argument von Befürwortern eines hohen Tempos in den USA – etwa auch im Weißen Haus von Präsident Donald Trump – ist der Wettlauf mit China.
Anthropic entwickelte zuletzt ein KI-Modell mit dem Namen Mythos, das besonders gut darin ist, zum Teil über Jahrzehnte unentdeckt gebliebene Software-Schwachstellen zu finden. Die Firma macht das volle Modell nur ausgewählten Behörden und Unternehmen zugänglich, damit sie ihre Computersysteme absichern können. (dpa/red)
Laut Apple soll beim iPhone Duo die Falte in der Mitte des aufklappbaren Bildschirms deutlich weniger sichtbar sein als in Modellen der Konkurrenz. - Foto: Andrej Sokolow/dpa
Vor beinahe 20 Jahren prägte Apple mit dem iPhone den Grundstein für die Geräteklasse moderner Smartphones, jetzt spendiert der Konzern seinem wichtigsten Produkt die erste radikale Veränderung.
Sieben Jahre nach Vorreitern wie Samsung steigt Apple ins Geschäft mit aufklappbaren Telefonen ein. Ein Versprechen beim neuen Modell mit dem Namen iPhone Duo ist, es besser zu machen als die Konkurrenz.
Wirtschaftlich entging Apple durch die Falt-Abstinenz in den vergangenen Jahren nicht viel. Gerade einmal 2,2 Prozent der verkauften Smartphones sind nach Berechnungen der Marktforschungsfirma IDC Klapp-Modelle in verschiedenen Formaten – obwohl Samsung und chinesische Rivalen wie Huawei schon seit Jahren versuchen, die Kategorie im Markt zu etablieren.
Apple versichert nun, die richtige Formel gefunden zu haben: Ein breiteres Format als bei vielen Konkurrenz-Geräten, keine nervige Falte in der Mitte des aufgeklappten Innen-Displays und eine Software-Optik, die auf den nahtlosen Wechsel zwischen den beiden Bildschirmen abgestimmt sei.
Das aufklappbare iPhone ist die erste große Wette des Konzerns unter dem neuen Chef John Ternus (r).
Foto: Jeff Chiu/AP/dpa
Teure Geräteklasse
Doch das alles hat seinen Preis – auch weil die Kosten für Speicherchips gerade wegen des Ausbaus von Rechenzentren im KI-Boom explosiv in die Höhe gehen. Mit einem Preis ab 2.299 Euro wird das Duo beim Marktstart im Oktober das bisher teuerste iPhone-Modell sein. Und die Spitzen-Ausführung mit zwei Terabyte Speicher bringt 3.799 Euro auf den Kassenbon.
Für wen ist so ein Gerät etwas? „Zunächst einmal für alle, die das Geld dafür haben“, sagt IDC-Branchenanalyst Francisco Jeronimo. Es gebe aber Apple-Fans, die bereit seien, jeden Preis für etwas zu zahlen, was sich abhebe.
Damit werde das iPhone Duo definitiv als Statussymbol dienen. Dann gebe es aber auch Leute, die ein iPhone und ein iPad-Tablet nutzten – „und jetzt die Chance haben, beides in einem Gerät zu bekommen“.
Auf dem iPhone Duo können zwei Apps nebeneinander laufen.
Foto: Andrej Sokolow/dpa
Abschläge bei der Kamera
Zugleich bringt die Geräteform Abschläge mit sich. Aufgeklappt ist das Duo das bisher dünnste iPhone. Das bedeutet weniger Platz für Technik als etwa bei einem iPhone Pro, das eine hochgerüstete Kamera in sich trägt. Beim Duo ist der Zoom auf 2x beschränkt, während die Kamera des neuen iPhone 18 Pro sogar eine veränderbare physische Blende bekommt.
Branchenanalyst Bob O’Donnell von Technalysis Research glaubt allerdings nicht, dass das viele Interessenten abschrecken wird. Für einige iPhone-Nutzer sei die Kamera wichtiger, für andere die Displaygröße – und hier werde die Trennlinie zwischen Käufern von Pro und Duo liegen, argumentiert er. Auch O’Donnell sieht eher den Preis als Bremsfaktor: „Es ist eine Menge Geld für eine Menge Laute.“
Einstand für frisch gekrönten Apple-Boss
Der neue Apple-Chef John Ternus kann seine Amtszeit damit gleich als Innovator beginnen. Als langjähriger Gerätechef des Konzerns dürfte er federführend für die Entwicklung des Duo gewesen sein – und nun wird der Erfolg oder Flop des neuen Geräts auch mit seinem Namen verbunden werden.
Das Falt-iPhone hat ungefähr die Abmessungen eines Reisepasses – jeweils auf- und zusammengeklappt mit Displays innen und außen. Es weicht damit deutlich von ersten Anläufen der Rivalen ab, die zunächst vor allem auf eine schmalere und höhere Form setzten, die sich zu einem quadratischen Display aufklappen lässt.
Konkurrenten hätten Falt-Telefone entwickelt, die sich wie „zwei aneinander geklebte Smartphones“ anfühlten, begründete Ternus Apples Entscheidung für das Format. Mit den Pass-Abmessungen könne man dagegen besser von der größeren Fläche des inneren Displays mit einer Diagonalen von 7,6 Zoll profitieren. Der äußere Bildschirm hat eine Diagonale von 5,4 Zoll und 90 Prozent der Fläche eines iPhone 18 Pro.
„Tropfen im Ozean“ – aber Milliardenmarkt
Kann Apple nun Falt-Smartphones aus der Nische herausholen? Nach Stückzahlen werde die Kategorie gemessen am gesamten Smartphone-Markt weiterhin „ein Tropfen im Ozean“ bleiben, sagt Jeronimo.
Die teureren Geräte könnten aber zum Jahr 2030 einen Umsatzanteil von zehn Prozent erreichen. Damit wäre es ein lukratives Milliarden-Geschäft.
IDC geht davon aus, dass Apple trotz des späten Einstiegs binnen zwölf Monaten die Führung in dem Marktsegment übernehmen wird. Auch Analyst O’Donnell sagt, das iPhone Duo habe mit seinem Zusammenspiel von Technik und Software die Gerätekategorie „neu definiert“.
Mit dem Format des iPhone Duo sollen Nutzer Apple zufolge besser von dem größeren inneren Display profitieren als bei Modellen der Konkurrenz.
Foto: Andrej Sokolow/dpa
Apples Vision für KI-Ära
Beim ersten Neuheiten-Event unter Ternus‘ Regie trat auch Apples Strategie für die Ära Künstlicher Intelligenz klarer hervor. Apple will mit dem iPhone und anderen verknüpften Geräten ein persönliches Zentrum für KI bieten.
Es ist die Antwort auf Versuche etwa des ChatGPT-Entwicklers OpenAI, eigene Geräte als Tor zur Künstlichen Intelligenz zu etablieren. Apple betont dabei den Datenschutz und hebt die Verarbeitung von Informationen auf den Geräten statt in der Cloud hervor.
Ein erster Blick darauf in Aktion sind neue Funktionen für die frischen Computer-Uhren Watch Series 12 und Ultra 4. Sie können auf Wunsch Unterhaltungen im Laufe des Tages zusammenfassen – sowie in den vergangenen 15 Sekunden Gesagtes als Text wiederholen. Apple versichert, dass dafür überhaupt keine Aufzeichnungen angefertigt würden und der Konzern nicht auf irgendwelche Informationen zugreifen könne.
Neues iPhone Pro – aber kein Standard-Modell
Zusammen mit dem Duo stellte Apple auch die nächste Generation des iPhone Pro vor. Vom Standard-Modell, das bisher stets gleichzeitig vorgestellt wurde, war diesmal aber nicht die Rede. Nach Informationen des Finanzdienstes Bloomberg soll es erst im Frühjahr folgen.
Die Kamera des iPhone 18 Pro soll unter anderem bessere Bilder bei schlechten Lichtverhältnissen machen. Dafür soll unter anderem eine verstellbare Blende wie bei klassischen Fotoapparaten sorgen.
In Zeiten von KI-Fakes wird mit der Funktion Apple Reference Image ein unverändertes Originalbild des Bildsensors gespeichert, das nicht verändert werden kann. Damit kann immer ein Referenzbild ohne Veränderungen überprüft werden.
Mit einem Preis ab 1.449 Euro wird das iPhone 18 Pro 150 Euro teurer als das Vorgängermodell. Apple erhöhte im Sommer die Preise auf breiter Front unter Verweis auf die im KI-Boom explosiv gestiegenen Speicherkosten. Damals blieben die iPhone-Preise aber unverändert. (dpa/red)
Forscher der großen KI-Labore warnen zunehmend vor Risiken bei der rapiden Entwicklung Künstlicher Intelligenz. (Archivbild) - Foto: Hendrik Schmidt/dpa
Ein Forscher der KI-Firma Anthropic ist mit einer drastischen Warnung zurückgetreten: Die großen Entwickler Künstlicher Intelligenz handelten unverantwortlich „und spielen mit unseren Leben“. Bald werde es Computersysteme geben, deren Fähigkeiten die von Menschen überträfen, betonte Jacob Coxon auf der Online-Plattform X. Künstliche Intelligenz würde dann „alles hacken können“ und die Möglichkeit haben, sich „Zugang zu echter Macht und Ressourcen“ zu verschaffen.
„Die Leute, die KI entwickeln, glauben ernsthaft, dass sie zum Ende des Jahrzehnts alle töten könnte“, warnte Coxon. Dem „Wall Street Journal“ sagte der 27-jährige Brite, nach den „aggressivsten Szenarien“ könnten die Dinge bereits Ende kommenden Jahres außer Kontrolle geraten. Als eine zentrale Gefahr sieht er Künstliche Intelligenz, die sich selbst weiterentwickeln kann – und damit schwerer zu kontrollieren wird.
Anthropic-Forscher Evan Hubinger, der mit dafür zuständig ist, dass KI mit den Interessen der Menschen im Einklang bleibt, bestätigte wenig später Coxons Sorgen. Er persönlich denke, die Gefahr, dass KI die Menschheit töte, liege im kommenden Jahrzehnt bei mehr als zehn Prozent, schrieb er bei X.
Zuvor mahnte auch der Forschungschef des ChatGPT-Entwicklers und schärfsten Anthropic-Rivalen OpenAI, Jakub Pachocki, „extreme Vorsicht“ an. Er sei besorgt, dass niemand auf eine rapide Weiterentwicklung der Fähigkeiten Künstlicher Intelligenz vorbereitet sei, schrieb Pachocki in einem Blogeintrag. Man sei an einem Moment der Geschichte angelangt, in dem die Intelligenz von Maschinen beginne, die der Menschen zu übertreffen.
Der OpenAI-Manager umschrieb ausführlicher, warum moderne KI-Systeme schwerer zu kontrollieren seien. Man lasse diese Künstliche Intelligenz eher „wachsen“, statt sie zu designen. KI-Systeme seien ein Produkt komplexer Prozesse. „Unsere groß angelegten Trainingsläufe sind Experimente – und wir sind manchmal überrascht von ihren Ergebnissen.“ Und je mehr die Fähigkeiten der Maschinen die menschlichen überträfen, desto schwieriger werde es zu verstehen, zu was sie in der Lage seien.
Zugleich sieht Pachocki ein Argument für die Fortsetzung rapider Forschung: Künstliche Intelligenz zu entwickeln, die gegen die Gefahren anderer KI verteidigen könnte. Man werde sie unter anderem brauchen, um Infrastruktur zu schützen und ganz neue Verteidigungsmechanismen zu entwickeln.
Ein Weckruf für die Branche waren in den vergangenen Monaten Hacking-Attacken, bei denen sogenannte KI-Agenten in Testläufen eigenständig in Systeme anderer Unternehmen eindrangen. Solche Agenten sind Programme mit Künstlicher Intelligenz, die selbstständig Aufgaben für die Nutzer erfüllen sollen. Bei OpenAI fand ein KI-Modell in einem Test einen Weg, aus einer eigentlich isolierten Testumgebung ins offene Internet zu gelangen – und hackte sich dann ins Computersystem der KI-Plattform Hugging Face. Dabei suchte es nur nach einer Lösung für die Testaufgabe und richtete keinen Schaden an. Allerdings zeigte der Vorfall, wie weit KI-Systeme ungeplant auf eigene Faust gehen können, ohne dass ihre Entwickler das mitbekommen.
Zuletzt wurde auch bekannt, dass KI-Agenten von OpenAI bereits im Frühjahr eine deutschsprachige Wiki-Seite in großem Stil für Absprachen untereinander missbraucht hatten. Ein aktueller Schutzmechanismus der KI-Entwickler ist, dass die Modelle mit Künstlicher Intelligenz ihr Handeln in menschlicher Sprache erklären müssen. Die KI-Agenten nutzten die Kommunikationsmöglichkeit in Testläufen, um sich über Notizen auf der Wiki-Seite untereinander zu Antworten auf gestellte Fragen auszutauschen. (dpa/red)
In ausrangierten Smartphones stecken noch wertvolle Rohstoffe. (Archivfoto) - Foto: Maurizio Gambarini/dpa
In ausgedienten Haushaltsgeräten und alter Unterhaltungselektronik schlummern in der EU ungenutzte Rohstoffwerte von mehr als 65 Milliarden Euro. Zu diesem Ergebnis kommt eine gemeinsame Untersuchung der Boston Consulting Group (BCG) und der Initiative „Cradle to Cradle Electronics“, die anlässlich der Technikmesse IFA in Berlin vorgestellt wurde.
Die Autoren warnen vor drastischen Risiken für die europäische Industrie durch geopolitische Abhängigkeiten. Ebenso mahnen sie ein grundlegend neues Produktdesign nach dem Kreislaufprinzip an.
Jährlich landen laut Bericht rund 1,6 Millionen Tonnen kritischer und strategischer Rohstoffe in Neugeräten auf dem EU-Markt – darunter Kupfer, Aluminium, Lithium, Kobalt und seltene Erden. Das Problem: Viele dieser Materialien stammen fast vollständig aus Drittstaaten. Allen voran aus China, das bei schweren seltenen Erden nahezu eine Monopolstellung hält.
Für die Produktion der Neugeräte müssen die Hersteller viel Geld in die Hand nehmen. Exportbeschränkungen, Halbleiterkrisen und der weltweite Boom von Rechenzentren für Künstliche Intelligenz treiben die Beschaffungspreise stark in die Höhe.
Gleichzeitig bleibt dieses Potenzial nach der Nutzung weitgehend unerschlossen: Zwar fallen in Europa jährlich mehr als 13 Millionen Tonnen Elektroschrott an, doch die offizielle Sammelquote liegt bei lediglich rund 43 Prozent. Allein in europäischen Schubladen verstauben demnach schätzungsweise 700 Millionen ungenutzte Smartphones, die rund 50.000 Tonnen strategische Rohstoffe binden.
Fehler machen die Autoren der Studie auch bei der Behandlung des Elektroschrotts aus: Weil Altgeräte oft geschreddert, verbrannt oder illegal exportiert würden, gingen wertvolle Metalle und Komponenten verloren.
Als Ausweg schlägt die Studie das „Cradle to Cradle“-Konzept (C2C) vor. Geräte müssten von vornherein als „Materialbanken“ konzipiert werden: ohne giftige Stoffe, leicht demontierbar und modular aufgebaut.
Dadurch ließen sich Komponenten wie Motoren oder Elektronikmodule gezielt reparieren, aufbereiten und wiederverwenden. Bei Haushaltsgroßgeräten wie Waschmaschinen, die noch mehrheitlich in Europa gefertigt werden, könnten optimierte Kreisläufe bis zu 50 Prozent des Materialbedarfs für die Neugeräte einsparen. (dpa/red)
Martin Hagen, FDP-Generalsekretär, am 30. Mai 2026 auf dem 77. Parteitag der FDP in Berlin. - Foto: Tobias Schwarz/AFP via Getty Images
Die FDP hat sich gegen den Vorschlag der SPD für eine neue Steuer auf Künstliche Intelligenz (KI) bei Unternehmen ausgesprochen. „Die SPD verkennt die dramatische Lage im Land. Deutschland ist Hochsteuerland, aber statt Entlastungen wird jede Woche aus dem Kreis der Koalition eine neue Steuer ins Spiel gebracht“, sagte FDP-Generalsekretär Martin Hagen der „Rheinischen Post“.
Hagen warnte, KI-Unternehmen, die sich aufgrund der schlechten Rahmenbedingungen gar nicht erst gründeten oder ansiedelten, sollten erstmal zusätzlich belastet werden. Eine KI-Steuer würde Arbeitsplätze und künftigen Wohlstand gefährden. Man müsse den genau gegenteiligen Weg gehen, den SPD und CDU aktuell verfolgten.
„Wir müssen die Steuerbelastung für alle unternehmerischen Einkünfte auf maximal 20 Prozent reduzieren, um wettbewerbsfähig zu werden“, sagte der FDP-Politiker. Man solle sich keinen Überbietungswettbewerb zu Dingen liefern, die zusätzlich besteuert werden könnten.
Die SPD-Bundestagsfraktion will auf ihrer Klausurtagung an diesem Donnerstag und Freitag ein Papier beschließen, in dem die Besteuerung von großen Tech-Konzernen und von Produktivitätszuwächsen durch die KI-Nutzung gefordert wird. Ziel ist es, Beschäftigte an den KI-Vorteilen der Unternehmen teilhaben zu lassen und Profite anders zu versteuern.
Recht für KI-Weiterbildung
Das geht aus einem Positionspapier hervor, über das die „Rheinische Post“ berichtet. Darin fordert die Fraktion mit Blick auf ältere Arbeitnehmer ein Recht, sich für das KI-Zeitalter weiterzubilden – mit Freistellung, Beratung und sicherem Einkommen. Auch die Herausforderungen für Berufseinsteiger sollen abgemildert werden. Ausbildung, erste Berufserfahrungen und das Lernen im Betrieb dürften nicht durch Algorithmen ersetzt werden, sagte SPD-Fraktionschef Miersch der Zeitung. Er schlug eine KI-Nachwuchsgarantie für größere Unternehmen vor.
Im Positionspapier heißt es dazu: Sinkt nach einer KI-Einführung die Zahl qualifizierter Einstiegsstellen deutlich, müsse der Betrieb bezahlte Berufseinstiegsprogramme, zusätzliche Ausbildungsplätze oder vergleichbare Lernstellen schaffen. Tue er das nicht, zahle er in einen branchenbezogenen Nachwuchsfonds ein.
Höhe Besteuerung und Gewinnbeteiligung
Ferner will die Fraktion große Technologiekonzerne höher besteuern und die Standorte von Rechenzentren an den Gewinnen beteiligen. Deshalb werde man die Bemessung der Gewerbesteuer ändern, heißt es im Papier.
Zugleich mache man den Sozialstaat fit für die Zukunft. Wenn Maschinen mehr Aufgaben übernehmen, könnten Lohnsteuereinnahmen ausbleiben. Deshalb müsse der Sozialstaat breiter finanziert werden.
Geht es nach der SPD, sollen künftig schrittweise alle Erwerbstätigen sowie weitere Einkommens- und Wertschöpfungsquellen stärker zur solidarischen Finanzierung beitragen.
Dazu gehörten etwa Gewinne aus Produktivitätssteigerungen durch KI, eine mögliche KI-Dividende oder die stärkere Einbeziehung von Kapitaleinkünften. Kleine und mittlere Vermögen wolle man durch großzügige Freibeträge schützen.
Staatlich finanzierter KI-Gutschein
Zu den Forderungen gehört auch, die Betriebsräte und ihre Mitbestimmungsrechte zu stärken und die Betriebsverfassung ins KI-Zeitalter zu holen. Öffentliche Förderprogramme für neue Technologien sollen künftig nur solche Unternehmen erhalten, die Mitbestimmung, Folgenabschätzung und Beschäftigtendialoge nachweisen können.
Zudem schlägt die Fraktion einen staatlich finanzierten KI-Gutschein vor, um möglichst vielen Unternehmen auch im Mittelstand einen einfachen und unbürokratischen Einstieg in die KI-Nutzung zu ermöglichen.
Grenzen für KI in Kindergärten, Schulen, Krankenhäusern und Pflegeeinrichtungen
In Einrichtungen wie Kindergärten, Schulen, Krankenhäusern und Pflegeeinrichtungen bleibe der Austausch zwischen Menschen zentral, heißt es weiter. Für den Einsatz von KI brauche es dort klare Grenzen. Auch wolle man klare Regeln gegen Überwachung und algorithmische Kontrolle schaffen und den Datenschutz mit einem modernen Beschäftigtendatengesetz stärken. Über Einstellungen, Gehalt, Beförderungen oder Kündigungen müssten Menschen entscheiden, nicht Maschinen.
Miersch sagte der „Rheinischen Post“: KI könne Arbeitsplätze besser machen. Die Gewinne des Fortschritts müssten bei allen ankommen. Das sei der Maßstab der Klausur: zukunftsfeste Arbeit und ein krisenfestes Land. (dts/afp/red)
Hochspannungsleitungen verlaufen am Stromnetz in West Palm Beach, Florida, am 16. Mai 2024. - Foto: Joe Raedle/Getty Images
In Kürze:
Trump erklärt einen nationalen Notstand für das US-Stromnetz.
Bestimmte ausländische Technik mit möglichen Cyber- und Betriebsrisiken soll eingeschränkt werden.
China wird nicht ausdrücklich genannt, steht aber im Mittelpunkt der US-Sicherheitsdebatte.
US-Präsident Donald Trump hat am Mittwoch, 26. August, wegen möglicher Sicherheitsrisiken durch ausländische Technik im US-Stromnetz einen nationalen Notstand erklärt.
Die Verordnung untersagt den Kauf oder die Installation bestimmter im Ausland hergestellte elektrischer Ausrüstung für das US-Hochspannungssystem, das sogenannte Bulk-Power-System, einschließlich Software, die Cybersicherheits- oder Betriebsrisiken birgt.
„Bestimmte ausländische Akteure schaffen und nutzen zunehmend Schwachstellen im US-amerikanischen Bulk-Power-System aus, das den Strom für unsere Landesverteidigung, wichtige Notfalldienste, kritische Infrastruktur und unsere Wirtschaft bereitstellt“, sagte Trump in der Anordnung.
Die Anordnung konzentriert sich auf Geschäfte mit ausländischen Akteuren, die ein „unangemessen hohes Risiko katastrophaler Auswirkungen auf die Sicherheit oder Widerstandsfähigkeit der kritischen Infrastruktur der USA oder ein nicht hinnehmbares Risiko für die Sicherheit der USA“ darstellen.
Betroffen sind insbesondere Länder, die einem US-Waffenembargo oder Sanktionen unterliegen oder nach Einschätzung Washingtons gegen US-Interessen verstoßen.
Nach Angaben des Weißen Hauses gilt die Anordnung nicht für Anlagen, die ausschließlich der lokalen Verteilung elektrischer Energie dienen.
Experten zufolge stellen Schwachstellen im US-Stromnetz ein attraktives Ziel für Sabotage dar.
Trump verwies zugleich auf den stark wachsenden Strombedarf durch Künstliche Intelligenz und die dafür benötigten Rechenzentren. Auch moderne Produktionsanlagen und die Verteidigungsindustrie benötigen zunehmend große Mengen zuverlässiger Energie. Eine stabile Stromversorgung sei deshalb wichtiger denn je, erklärte Trump.
China wird im Dekret nicht ausdrücklich genannt. In den USA wird jedoch bereits seit Jahren über mögliche Sicherheitsrisiken durch chinesische Komponenten für das Stromnetz diskutiert.
Der Schritt erinnert zudem an das Vorgehen der US-Regierung gegen die chinesischen Telekommunikationskonzerne Huawei und ZTE, deren Technik vom Ausbau bestimmter Mobilfunknetze in den USA ausgeschlossen wurde.
China untersucht laut einer Studie der Cybersecurity-Forscherin Erika Langerová von der Tschechischen Technischen Universität Prag, wie sich das Stromnetz hacken und möglicherweise zum Zusammenbruch bringen lässt. Dabei wurden Simulationen durchgeführt, um den geringsten Aufwand oder die geringsten Kosten zu ermitteln, die erforderlich wären, um einen großflächigen Stromausfall oder einen systemischen Zusammenbruch auszulösen.
„Was diese Bedrohung noch weiter verstärkt, ist die Tatsache, dass die westliche Energie-Infrastruktur in hohem Maße auf Bauteile chinesischer Herstellung setzt“, schrieb Langerová in einem 2025 veröffentlichten Artikel.
Kritische Komponenten von Energieprojekten zur Erreichung von Netto-Null sind auf in China hergestellte Hardware und Software angewiesen – häufig mit potenziellen Möglichkeiten für den Zugriff aus der Ferne.
Im vergangenen Jahr forderten US-Parlamentarier eine Untersuchung von Berichten, wonach China möglicherweise sogenannte Kill-switches, also Abschaltvorrichtungen, in Wechselrichtern von an die Vereinigten Staaten verkauften Solarmodulen installiert habe.
„Wir waren alarmiert über jüngste Berichte, wonach das kommunistische China bereits die Integrität von Stromwechselrichtern beeinträchtigt hat, die unser Stromnetz mit Strom versorgen“, schrieben die republikanischen Senatoren Rick Scott aus Florida und Marsha Blackburn aus Tennessee in einem Brief an das Handelsministerium.
„Wir sind besorgt über jüngste Berichte, wonach diese von der Kommunistischen Partei Chinas hergestellten Komponenten und Systeme Fernzugriff, die unbefugte Übertragung von Daten und sogar Betriebsstörungen ermöglichen.“
Mehr als 100 Wasser- und Abwassersysteme angegriffen
Ausländische Cyberhacker haben in diesem Jahr bereits öffentliche Versorgungsunternehmen angegriffen, wie die US-amerikanische Cybersicherheitsbehörde CISA mitteilte.
CISA berichtete im vergangenen Monat, dass mehr als 100 Wasser- und Abwassersysteme über speicherprogrammierbare Steuerungen (PLCs) angegriffen wurden, die zur Steuerung der physischen Anlagen eingesetzt werden. Cyberangreifer konnten mithilfe der PLCs Abschaltalarme und -protokolle deaktivieren, was eine Gefahr für die Beschäftigten darstellen könnte.
Die Bundesbehörde warnte im Juli außerdem, dass mit dem Iran verbundene Cyberaktivitäten auf internetverbundene Geräte der Betriebstechnik abzielten, die mit kritischer Infrastruktur verbunden sind.
„Iranische Cyberakteure greifen weiterhin kritische Infrastruktur der USA an, und das FBI ist entschlossen, die Täter ausfindig zu machen, ihre Machenschaften zu unterbinden und sie zur Rechenschaft zu ziehen“, sagte der stellvertretende Direktor Brett Leatherman von der Cyberabteilung des FBI.
Während seiner ersten Amtszeit nutzte Trump rechtliche Mittel, um die Einfuhr ausländischer Waren zu beschränken, die die nationale Sicherheit bedrohen. Seit seiner Rückkehr ins Amt nutzt er dasselbe Gesetz, um die heimische Produktion zu stärken und Zölle auf Waren wie Stahl, Aluminium, Kupfer, Lastwagen, Automobile, Holz, Schnittholz, Halbleiter und Arzneimittel zu verhängen.
Im April unterzeichnete Trump ein Dekret zur Stärkung und Absicherung des US-Stromnetzes. Die Maßnahme erlaubte es dem US-Energieminister, Notstandsbefugnisse einzusetzen, um alternde Kraftwerke und Kraftwerke mit fossilen Brennstoffen zu erhalten, deren Stilllegung oder Schließung aufgrund klimapolitischer Vorgaben vorgesehen war.
Dadurch wurden nach Angaben des Weißen Hauses 17.000 Megawatt an Energieerzeugungskapazität verfügbar – genug, um 12,7 Millionen Haushalte mit Strom zu versorgen.
Der Andrang ist groß beim Massenereignis Gamescom. - Foto: Wolf von Dewitz/dpa
Ein Brandanschlag auf ein Kaufhaus steht bevor, eine Sonderkommission wird gebildet. Die Täter stammen aus einer linksextremistischen Terrorzelle, die Polizei muss sie schnellstmöglich ermitteln und den Anschlag verhindern.
Also ran an den Computer und rein ins Rollenspiel: „Soko 1977“ ist ein Game, das in den 70er Jahren spielt und an den Terror der Roten Armee Fraktion (RAF) vor einem halben Jahrhundert erinnern soll. Nun wurde es auf der Gamescom vorgestellt – als ein Spiel aus der Kategorie „Serious Games“, die in Deutschland im Aufwind ist.
Es handelt sich um Spiele mit einem pädagogischen Mehrwert, sie sollen das Demokratieverständnis und andere Kompetenzen stärken. Bundespräsident Frank-Walter Steinmeier informierte sich bei seinem Gamescom-Besuch auch über solche Spiele und verlieh seinem Wunsch Ausdruck, dass nicht nur Serious Games, sondern auch andere Games Raum böten, um Ideen wie Fürsorge, Ehrenamt und Engagement zu stärken.
400.000 Euro hat „Soko 1977“ gekostet, bezahlt von der Bundeszentrale für politische Bildung (bpb). Games eigneten sich gut, um über Themen ins Gespräch zu kommen, sagt Felix Zimmermann von der bpb.
Man könne aus verschiedenen Perspektiven etwas über die Vergangenheit und das Thema Terrorismus lernen. „Wir wollen Menschen erreichen, die Games in ihrer Freizeit nutzen: Das Spiel soll unterhalten, aber auch fundiert über ein in Games noch nie bearbeitetes Thema informieren.“
„Wer ist Bilal?“: Gefahren des Islamismus
Entwickelt wurde „Soko 1977“ vom Berliner Studio Paintbucket Games, dessen Chef Jörg Friedrich ein steigendes Interesse der Öffentlichkeit an Serious Games wahrnimmt. „Games werden stärker wahrgenommen als ein Medium, mit dem man politische Inhalte vermitteln kann – das ist gut.“ Vergangenes Jahr präsentierte er auf der Gamescom ein anderes Spiel seiner Firma: „Wer ist Bilal?“ thematisierte die Gefahren des Islamismus. Bezahlt wurde es aus NRW-Landesmitteln.
„Wer Jugendliche ernst nehmen und für Themen wie Desinformation und Extremismus sensibilisieren will, muss sie dort abholen, wo sie sich informieren und orientieren“, sagt NRW-Medienminister Nathanael Liminski (CDU). Deshalb setze das Land auf innovative Formate wie Serious Games.
Der pädagogische Mehrwert soll bloß nicht auffallen
Das seit Februar verfügbare Game „Wer ist Bilal?“ wurde laut NRW-Medienministerium rund 50.000-mal aus den App-Stores heruntergeladen und auf seiner Webseite mehr als eine Million Mal angeklickt. Solche Zahlen reichen zwar, dass das zuständige Ministerium „sehr zufrieden“ ist. Im Vergleich zu anderen kommerziellen Spielen sind die Zahlen aber gering.
Ein weiterer kritischer Punkt bei solchen Spielen ist die Frage, ob die pädagogische Stoßrichtung überhaupt diejenigen erreicht, deren Demokratieverständnis nur schwach ausgeprägt ist – oder ob solche Games nur von Menschen gespielt werden, die gar keinen Nachholbedarf haben bei den angesprochenen Problemthemen.
bpb-Gamesreferent Zimmermann betont, dass die Spiele nicht wie Lernspiele wirken sollten – besonders bei Menschen, die politischer Bildung misstrauisch gegenüberstehen. Wie ein Lernspiel zu wirken, sei auf Gamingplattformen „ein absolutes No-Go – dann wird das niemand freiwillig spielen“.
Paintbucket-Chef Friedrich sagt: „Spiele sollen als Spiele funktionieren, bei denen die Leute anfangen zu spielen und sagen, „das ist cool“ – und den pädagogischen Inhalt bekommen sie eher so nebenbei mit.“
„Soko 1977“ werde ganz normal auf der Vertriebsplattform Steam erscheinen. „Die Leute sollen sagen, dieses Spiel reizt mich wegen des Settings oder wegen des Gameplays – und beim Spielen kommen sie dann in Kontakt mit dem Thema.“ Je nach Interesse könne man bei dem Game tiefer in das Thema einsteigen und per Klicks Historisches über die Zeit erfahren. „Oder man kann es einfach nur durchzocken.“
„Grenzgänger“ behandelt Flucht aus der DDR
Bei einer Gamescom-Eröffnungsfeier am Mittwoch, bei der Bundesfinanzminister Lars Klingbeil (SPD) und NRW-Ministerpräsident Hendrik Wüst (CDU) dabei waren, wurde ein anderes Serious Game vorgestellt: „Grenzgänger“ beschäftigt sich mit der Flucht aus der DDR in die Bundesrepublik in den 80er Jahren.
In dem Point-and-Click-Adventure erleben die Spieler die Konflikte mit dem SED-Staat, die riskante Flucht sowie die Ankunft im West-Notaufnahmelager Gießen in den frühen 1980er-Jahren.
Es gehe nicht nur um die schwierige Situation in der DDR, sondern auch um das schwierige Ankommen in der neuen Heimat BRD, sagt Playing-History-Geschäftsführer Martin Thiele-Schwez. „Das Thema wird in Grautönen vermittelt, wir wollen kein simples Schwarz-Weiß-Denken.“
Er geht davon aus, dass die Spieler von „Grenzgänger“ ins Nachdenken kommen und mehr Verständnis für das Thema Flucht und Vertreibung entwickeln – im besten Falle werde ihr demokratisches Grundverständnis verstärkt.
„Wir bieten ein historisches Set-up und einen Diskursraum, um Verständnis für problematische Themen zu entwickeln.“ In der Schule könnte das Spiel genutzt werden, damit die Schüler leichter Zugang zu dem Thema finden und dann gemeinsam darüber sprechen. „Spiele sind das beste Medium, um Wissen zu vermitteln und Kompetenzen zu schulen.“
Für die Entwicklung von „Grenzgänger“ stellten die Stiftung Orte der deutschen Demokratiegeschichte und das hessische Digitalministerium Geld bereit. Playing History hat noch weitere Games für andere Bildungseinrichtungen entwickelt, etwa für die Bildungsstätte Anne Frank und das Deutsche Historische Museum. Das Berliner Unternehmen hat 13 Beschäftigte, dieses Jahr kommt es voraussichtlich auf einen Jahresumsatz von 1,3 Millionen Euro.
Thiele-Schwez sieht die Aussichten für Serious Games in Deutschland positiv. „Kulturinstitutionen öffnen sich zunehmend dem Medium Game und betrachten das nicht mehr als reine Spielerei, sondern als Möglichkeit zur nachhaltigen Vermittlung ernsthafter Inhalte.“
Allerdings bemängelt er, dass ihn immer mal wieder Anfragen erreichten, die sehr gering dotiert seien. „Es soll möglichst billig sein – aber um ein richtig gutes Serious Game zu machen, braucht man mindestens ein sechsstelliges Euro-Budget.“
Steinmeier: Games wichtig für die Demokratie
Bei seinem Messerundgang traf Steinmeier eine Figur aus dem Super-Mario-Kosmos: Prinzessin Peach.
Foto: Wolf von Dewitz/dpa
Grundsätzlich wertete Steinmeier Gaming positiv – er selbst ist nach eigener Aussage kein Gamer. Computerspiele seien fester Bestandteil des kulturellen Lebens geworden, sagte er. „Das Klischee des nerdigen Teenagers, der – rund um die Uhr, mit Junkfood und Energy-Drinks – in seiner abgedunkelten Bude zockt, wird der Wirklichkeit nicht gerecht.“
Allein in Deutschland spielten mehr als 40 Millionen Menschen – „manche regelmäßig, einige exzessiv, viele nur gelegentlich“. Es seien Frauen und Männer gleichermaßen, Junge und „nicht mehr ganz so Junge“. „Games sind längst in der Mitte unserer Gesellschaft angekommen.“ In ihrer Gesamtheit seien Spiele kulturrelevant und damit auch relevant für Demokratie – „das gilt im Guten wie im Schlechten“.
Die beim Gaming eingesetzten Technologien seien zudem wichtig für Wirtschaftsbereiche wie Medizin, Architektur oder Fahrzeugdesign, so der Bundespräsident.
„Wir wollen Ihre Branche hier in Deutschland, wir wollen sie wirtschaftlich stark.“ Das Spielen könnte Menschen wohl helfen, „ihr Leben besser zu bewältigen – als Ventil gegen Stress, als Brücke, um Kontakte zu knüpfen und Einsamkeit zu überwinden, oder indem sie kognitive Fähigkeiten trainieren und das Risiko senken, geistig abzubauen“.(dpa/red)
Windkraftanlagen über einer Autobahn in der Nähe von Rostock. (Symbolbild) - Foto: Sean Gallup/Getty Images
Die für ihre Handelsketten Lidl und Kaufland bekannte Schwarz-Gruppe will 5,6 Milliarden Euro in den Bau eines Rechenzentrums in Dummerstorf bei Rostock investieren. Geplant sei der Aufbau eines Datacenters mit einer Kapazität von 240 Megawatt bis 2033, teilte das Unternehmen mit.
„Digitale Souveränität entsteht nicht durch Appelle oder Reden. Sie entsteht durch Handeln, durch verlässliche Infrastruktur und durch praxistaugliche Anwendungen“, sagte der Chef der Schwarz-Gruppe, Gerd Chrzanowski. In Brandenburg baut Schwarz bereits ein ähnlich großes Rechenzentrum. Die Investitionskosten belaufen sich da auf elf Milliarden Euro.
Investor mit Sitz in Baden-Württemberg
Die Schwarz-Gruppe als Investor ist mit über 600.000 Mitarbeitern weltweit insbesondere für ihre Handelsketten bekannt, seit Jahren aber auch mit der Sparte Schwarz Digit als IT-Dienstleister unterwegs. Diese bietet Leistungen wie Cloud-Dienste und Cybersicherheit an.
Im Ende Februar abgelaufenen Geschäftsjahr machte Digits einen Umsatz von 2,2 Milliarden Euro – ein Wachstum auf Jahressicht von 16 Prozent. Das Plus ging demzufolge wesentlich auf die wachsende Nachfrage nach Cloud-Lösungen zurück. Schwarz Digits ist insgesamt eine von fünf Sparten der Gruppe, die zuletzt einen Gesamtumsatz von 185,6 Milliarden Euro auswies. Den größten Anteil daran haben nach wie vor Lidl und Kaufland. Die Schwarz-Gruppe sowie die Sparte Digits sitzen bei Heilbronn in Baden-Württemberg.
Digitale Souveränität bedeutet, dass Firmen und Staaten selbst bestimmen, wo ihre Daten gespeichert sind und wer darauf zugreifen kann – unabhängig von US-amerikanischen oder chinesischen Technologiekonzernen. Schwarz will sich als europäische Alternative zu Anbietern wie Amazon Web Services (AWS) und Microsoft Azure aufstellen.
Das Unternehmen traut sich zu, zum „Hyperscaler“ zu werden. So nennt man Cloud-Anbieter, die weltweit viele Server betreiben, um ihren Kunden in großem Umfang Speicher für Daten, Rechenleistung für Programme, KI und weitere Werkzeuge zur Verfügung zu stellen.
Rechenzentren für den gesamten Datenverkehr wichtig
Rechen- oder Datenzentren sind dafür unerlässlich. In einem Rechenzentrum stehen große Server und Computer, in denen Daten gespeichert, verarbeitet und verteilt werden. Sie sind nicht nur für große Unternehmen wichtig, die dort ihre Firmendaten speichern, sondern auch für ganz normale Bürger. Jedes Mal, wenn jemand ein Video auf seinem Handy anschaut oder etwa eine Mail schickt, läuft der Datenverkehr über ein solches Rechenzentrum.
In Dummerstorf sollen die Kapazitäten zunächst einmal für den Bedarf der Schwarz-Gruppe selbst genutzt werden – also für Daten aus Liefer- und Bestellprozessen, Bezahlvorgängen und Kundenbindungsprogrammen. Gleichzeitig „würde das Rechenzentrum die weitere Entwicklung und Skalierung souveräner IT-Lösungen stärken“, hieß es in einer Pressemitteilung. Bis 2045 könnte das Datenzentrum demnach auf eine Anschlussleistung von einem Gigawatt ausgebaut werden.
Windkraft als Standortvorteil?
Mecklenburg-Vorpommern deckt aktuell bereits mehr als die Hälfte seines Stromverbrauchs aus Windenergie. Rein rechnerisch produziert das Land sogar deutlich mehr Windenergie als es selbst an Strom verbraucht.
Bislang wird ein Großteil des Stroms über Hochspannungsleitungen in den Süden Deutschlands geführt. Da es in Dummerstorf einen Anschluss an das Höchstspannungsnetz gibt, kann der Strom relativ effizient bis zur Anlage transportiert werden. Das Klima begünstige außerdem eine wirkungsvolle Kühlung, teilte Schwarz mit. Immerhin müssen die teuren Server vor Überhitzung geschützt werden.
Angedacht ist bei der Anlage bei Rostock aber auch eine Nutzung der Abwärme für die Wärmeversorgung der Hansestadt. Mit den Stadtwerken sei eine entsprechende Absichtserklärung unterzeichnet worden. In Lübbenau gibt es bereits eine ähnliche Abmachung zur Nutzung der Abwärme.
Booster für den Landtagswahlkampf?
Wie stark die Landesregierung von der Ankündigung der Milliardeninvestition profitieren kann, bleibt abzuwarten. Die Windkraft ist bei vielen Bürgern umstritten. Mecklenburg-Vorpommerns Ministerpräsidentin Manuela Schwesig (SPD) betont allerdings immer wieder die aus ihrer Sicht günstigen Strompreise durch erneuerbare Energien. Kurz vor der Landtagswahl verwies sie bei mehreren Wahlkampfveranstaltungen darauf, dass grüner Strom im Land für fünf Cent pro Kilowattstunde produziert werden könne.
Sie forderte aber zugleich die Energieproduzenten auf, die Preise an die Unternehmen und Verbraucher im Land weiterzugeben. Zugleich sollen Kommunen und Bürger der Orte, in denen große Windkraftanlagen stehen, an den Gewinnen beteiligt werden, um die Akzeptanz zu fördern.
Das neue Rechenzentrum dürfte zwar als Beleg dafür gelten, dass mit Hilfe der Windkraft neue Industrien ins Land gelockt werden. Es entstehen Tausende Arbeitsplätze während des Baus und nach Unternehmensangaben auch 120 Jobs für Hochqualifizierte im Betrieb. Durch Wartung, Instandhaltung und Dienstleistungen profitieren auch zahlreiche regionale Unternehmen im Umfeld des Rechenzentrums. Doch dem ganz praktischen Nutzen stehen viele Vorurteile entgegen. Viele Menschen sind skeptisch gegenüber Künstlicher Intelligenz, sie fürchten, dass die Digitalisierung ihren Arbeitsplatz bedroht. (dpa/red)
Überwachungskameras prägen das Straßenbild vieler Städte weltweit. - Foto: Roland Weihrauch/dpa/AFP via Getty Images
In Kürze:
Der Sicherheitsforscher Bill Swearingen entwickelt eine Methode, um die KI-Software der Überwachungskameras zu verwirren.
31,7 Millionen Tests auf der Suche nach „Tarnmustern“ wurden durchgeführt.
Auch Autos sollen mithilfe einer bedruckten Folie fast „unsichtbar“ gemacht werden.
Forscher beschäftigen sich schon länger mit Tarnkleidung, die neurale Systeme austricksen soll.
In seinem Lied „Somebody’s Watching Me“ erzählt der R&B-Sänger Rockwell die Geschichte eines Mannes, der sich ständig beobachtet fühlt. Selbst in seinen eigenen vier Wänden glaube er, nicht mehr sicher zu sein. Der Song erschien im Jahr 1983, also lange bevor digitale Kameras und automatisierte Bilderkennung die Überwachung des öffentlichen Raums stark verändert haben.
Während sich der Protagonist des Liedes fragt, ob er denn tatsächlich ständig beobachtet wird oder nur paranoid ist, erübrigt sich diese Frage fast angesichts der technischen Ausstattung an Bahnhöfen oder Flughäfen, großen Plätzen oder in der Umgebung von Sehenswürdigkeiten oder Einkaufsstraßen.
Die Schwächen der KI ausnutzen
Doch was ist, wenn es eine Möglichkeit gibt, dieser Überwachung zu entkommen? Diese Frage hat sich der Sicherheitsforscher Bill Swearingen gestellt.
Seine Idee: „Was wäre, wenn das Muster auf Ihrem Hemd die Gesichtserkennung austricksen könnte? Nicht indem es Ihr Gesicht verbirgt, sondern indem es Schwächen der KI selbst ausnutzt?“, fragt er in einem Beitrag auf dem Portal „LinkedIn“. Dabei stellt der US-Amerikaner sein Projekt „noRecognition“ (auf Deutsch: keine Erkennung) vor. Denn Datenschutz sei kein Luxus, sondern ein Recht.
Dafür habe er computergenerierte Muster für Bekleidungsstücke entwickelt, die die Überwachungssysteme so irritieren sollen, dass sie den Träger nicht mehr erkennen können.
„Wir testen mit realen Modellen. […] Mit den Systemen, die tatsächlich in Clearview AI, auf Körperkameras der Polizei und bei der Flughafensicherheit laufen. […] Personendetektoren, Gesichtsdetektoren und Erkennungssysteme“, führt er auf dem Portal weiter aus.
Modell findet neue Muster durch selbstständiges Lernen
31,7 Millionen Tests habe Swearingen durchgeführt, um Muster zu finden, die die von ihm getestete Software hinter den Überwachungskameras und Kennzeichenlesern irritierten.
Nachdem er nachgewiesen habe, dass sein Konzept grundsätzlich funktioniere, habe er daraus ein sogenanntes Reinforcement-Learning-Modell entwickelt. Dieses System erzeugt und testet selbstständig verschiedene Muster und lernt anhand der Ergebnisse, welche davon die jeweils getesteten Kameraalgorithmen besonders stark beeinträchtigen. Vereinfacht ausgedrückt, erklärte Swearingen gegenüber der Plattform „TechCrunch“, habe er seinem Modell gewissermaßen beigebracht, „malen zu lernen“.
Vergleich repräsentativer Methoden zur adversarialen Tarnung. (a) Die bisherige Methode stellt die adversariale Tarnung mithilfe von Voronoi-Diagrammen dar, die durch lernbare Kontrollpunkte parametrisiert sind. (b) Unsere Methode stellt die adversariale Tarnung als Anordnung von Kacheln dar, wobei die Auswahlwahrscheinlichkeiten der Kacheln und die räumlichen Anordnungen gemeinsam optimiert werden, um eine feinkörnigere adversariale Textur zu ermöglichen.
Foto: Jinlei Wang et al./arXiv:2608.06801 (CC BY 4.0)
Die Überwachungskameras werden dadurch jedoch nicht „geblendet“. Sie zeichnen die Personen auch weiterhin auf. Angegriffen wird hingegen die Software, die aus dem erstellten Bild eine Person, ein Gesicht, eine Bewegung oder ein Kennzeichen erkennen soll.
Jedes Mal, wenn ein Muster nicht die gewünschte Wirkung erzielte, weil der Erkennungsalgorithmus die Person weiterhin erkannte, erzeugte das Modell ein neues Muster. Sein Modell begann bald, Muster zu finden, die alle von ihm getesteten Open-Source-Erkennungsalgorithmen austricksten, darunter die Software von Flock-Kennzeichenlesegeräten, Axon-Körperkameras und Gesichtserkennungskameras von Clearview AI.
Nun generiert das Modell jede Minute neue Muster, wobei jede Charge mathematisch besser sei als die vorherige, erläutert Swearingen gegenüber „TechCrunch“. Überwachungssysteme könnten zwar auch darauf trainiert werden, Swearingens Muster zu umgehen, doch der Algorithmus des Forschers verbesserte sich mit jedem neuen Entwurf auch darin, weitere und zunächst unerkennbare Muster zu erstellen.
Praktischer Test in Las Vegas mit Auto gelingt
Auch Autos will Swearingen mithilfe von gemusterten Folien „unsichtbar“ machen, sodass Überwachungstechnologien sie nicht mehr erkennen könnten. Dass das funktionieren könnte, demonstrierte er bei einem ersten öffentlichen Test mithilfe eines Toyota Yaris auf der Hacker- und Sicherheitskonferenz DEF CON in Las Vegas Anfang August. Zuvor hatte er den 2009 gebauten Pkw mit einem seiner neuesten Muster beklebt. „Wir haben die Wirksamkeit bewiesen“, sagte Swearingen. Allerdings stellten die Felgen eine Herausforderung dar, sagte er, ohne dabei Einzelheiten zu nennen.
Mit der erfolgreichen Demonstration in Las Vegas liefere das Projekt einen ersten Beweis dafür, dass es möglich sei, algorithmische Erkennung im öffentlichen Raum zu umgehen. Der nächste Schritt sei nun, die Muster Interessenten anzubieten.
Für sein „noRecognition“-Projekt hat Swearingen eine Crowdfunding-Kampagne gestartet, um den Verkauf von Merchandise-Artikeln mit den Mustern zu finanzieren – von T-Shirts bis zu Hoodies. Zukünftig sollen auch Fahrzeugfolien mit den Mustern angeboten werden. Seine besten Muster werde er allerdings nicht im Internet veröffentlichen, betonte Swearingen. Er wolle damit verhindern, dass Kamerahersteller sie überlisten.
Eigenen Angaben zufolge hat der Sicherheitsforscher inzwischen bei allen elf von ihm getesteten Erkennungsmodellen Erfolge erzielt. Ein einzelnes Muster, das alle elf Modelle gleichzeitig täuscht, konnte er allerdings noch nicht präsentieren.
Das amerikanische Fachmedium für Cybersicherheit „Dark Reading“ sieht Swearingens Entwicklungen hingegen mit einer gewissen Skepsis. So seien die Modelle nicht einheitlich aufgebaut. Deshalb gebe es keine allgemeingültige Regel, nach der sich Muster erstellen ließen, die die Künstliche Intelligenz verwirrten. Das beschränke Swearingens Experimente auf Versuch und Irrtum und erschwere ihm bis zu einem gewissen Grad auch, selbst zu verstehen, warum seine Muster funktionierten.
Auch bei der Umsetzung seines Experiments als Geschäftsmodell werde er mit praktischen Einschränkungen konfrontiert sein, mutmaßt die Fachpublikation. Ein zweidimensionales Bild eines Kleidungsstücks, das gegen eine simulierte Kamera getestet werde, könne zu anderen Ergebnissen führen als echter Stoff unter realen Bedingungen. Und obwohl das Angebot des Sicherheitsforschers aus Sicht des Datenschutzes überzeugend sei, dürften die Designs nicht jedermanns Verständnis von gutem Stil entsprechen.
Hinzu komme die Tatsache, dass es für jeden solchen Angriff eine Gegenmaßnahme gibt. „Wenn ich tausend T-Shirts verkaufen würde, die genau gleich aussehen, würden sie für all diese Menschen auf die gleiche Weise funktionieren – bis das Modell aktualisiert wird“, räumte Swearingen gegenüber dem Medium ein. „Dann könnte ich ein weiteres Muster herausbringen, das dasselbe bewirkt.“
Swearingen ist auch nicht der Einzige, der die Idee verfolgt, Überwachungstechniken auszutricksen. Wissenschaftler forschen bereits seit Jahren an sogenannter adversarialer Kleidung. Eine im August 2026 veröffentlichte Arbeit auf dem Forschungsportal „arXiv“ beschreibt mit „AdvTiles“ ein Verfahren, bei dem ein Computer Muster für Kleidungsstücke entwickelt, die Erkennungssoftware täuschen sollen.
Die Forscher druckten ihre Muster auf Kleidung und testeten sie unter unterschiedlichen Entfernungen, Blickwinkeln und Hintergründen. In digitalen Tests soll „AdvTiles“ eine durchschnittliche Täuschungsquote von 86,2 Prozent erreicht haben. Anschließend testeten sie bedruckte Kleidung unter realen Bedingungen. Dabei soll das Muster bei den meisten Blickwinkeln die Erkennung sogar bei mehr als 90 Prozent der Testläufe verhindert haben.
In dem Prozess in Oakland geht es um die Nutzung von Meta-Apps durch Kinder. (Archivbild) - Foto: Godofredo A. Vásquez/AP/dpa
In einem Prozess um Social-Media-Sucht von Kindern hat der Facebook-Mutterkonzern Meta einer Zahlung von insgesamt knapp 16,7 Milliarden US-Dollar zugestimmt. Darauf einigte er sich mit den klagenden US-Bundesstaaten, wie aus einem entsprechenden Gerichtsdokument hervorgeht.
Die Summe teilt sich auf die überwiegende Mehrheit der US-Bundesstaaten, mehrere US-Territorien und den Hauptstadtbezirk District of Columbia auf. Durch die Einigung hätten die Parteien vereinbart, die Klage ohne weitere gerichtliche Auseinandersetzung beizulegen.
Mehrere US-Bundesstaaten hatten dem Unternehmen vorgeworfen, Kinder bewusst zu einer ausufernden Nutzung von Facebook und Instagram verleitet zu haben. Zugleich habe Meta Risiken vor Eltern und der Öffentlichkeit verborgen. Der Konzern wies damals wie auch jetzt bei der Einigung die Vorwürfe zurück.
Der Generalstaatsanwalt des Bundesstaates Virginia, Jay Jones, bezeichnete die Einigung als „monumentalen Sieg für den Schutz der amerikanischen Kinder“: „Jahrelang hat Meta die Öffentlichkeit absichtlich über die süchtig machenden und schädlichen Designmerkmale getäuscht, die die psychische Gesundheit junger Menschen massiv beeinträchtigt haben“, hieß es in einer Pressemitteilung.
Meta kündigte unterdessen neue Einschränkungen an, die Jugendliche schützen und Eltern eine stärkere Kontrolle ermöglichen sollen. Vorbehaltlich einer gerichtlichen Genehmigung sollen diese automatisch für Minderjährige zehn Jahre lang gelten, die Instagram und Facebook nutzen.
Unter anderem ist ein tägliches Zeitlimit von zwei Stunden vorgesehen, dass Kinder und Jugendliche nur mit Zustimmung ihrer Eltern deaktivieren können. Die Begrenzung gelte kumulativ für Facebook und Instagram.
Zwischen Mitternacht und sechs Uhr morgen sollen die Apps zudem über einen Nachtmodus gesperrt werden, sodass Nutzer keine Beiträge veröffentlichen noch Inhalte sehen können. Regelmäßige Erinnerungen sollen zudem die minderjährigen Nutzer zu einem „bewussteren Umgang“ auf den Plattformen anregen.
Mit Blick auf möglicherweise falsche Schönheitsideale kündigte Meta an, Filter für „Schönheitsoperationen und extremes Make-up“ zu deaktivieren. Auch die in Kritik stehende Funktion von sogenannten Likes und Reaktionen auf Beiträge soll standardmäßig ausgeblendet werden. Jugendliche sollen weder bei ihren eigenen noch bei Beiträgen anderer Nutzer sehen können, wie stark auf Inhalte reagiert wurde.
Meta bezifferte zuvor geforderte Strafen auf bis zu 1,4 Billionen
Der Prozess vor Geschworenen im kalifornischen Oakland begann vergangene Woche Dienstag mit den Eröffnungsplädoyers. Die von Kalifornien angeführten Bundesstaaten strebten Geldstrafen sowie Auflagen zur Änderung des Geschäftsmodells an.
Meta gab vor einigen Monaten in einem Gerichtsdokument an, die von den Bundesstaaten geforderten Strafen könnten sich auf 1,4 Billionen Dollar (aktuell 1,2 Billionen Euro) belaufen und damit die Existenz des Unternehmens bedrohen.
Anwälten der Klägerseite zufolge könnte es eher um einen Betrag von etwa 200 Milliarden Dollar gehen. Meta nannte die Vorwürfe unbegründet und die finanziellen Forderungen unangemessen.
Jason Slothouber (2. v. l.), leitender Staatsanwalt aus Colorado, führt am 26. August 2026 Staatsanwälte zum Prozess gegen Meta in Oakland, Kalifornien.
Foto: Karl Mondon / AFP via Getty Images
Serie von Rückschlägen für Meta
Meta hatte zuletzt mehrere empfindliche Niederlagen vor US-Gerichten einstecken müssen. So soll der Konzern nach einer Gerichtsentscheidung im Bundesstaat New Mexico mehr als eine halbe Milliarde Dollar für Hilfen an Kinder zahlen, die durch Nutzung sozialer Medien Schaden genommen haben.
Zudem müssen in dem Bundesstaat zusätzliche Einschränkungen für Nutzer im Alter unter 18 Jahren eingeführt werden: Unter anderem sollen sie bei Facebook und Instagram maximal 90 Stunden pro Monat verbringen können. Meta will in Berufung gehen.
Im März verloren Meta und die Google-Videoplattform YouTube einen potenziell wegweisenden Prozess um das Suchtpotenzial von Online-Diensten. Geschworene in Los Angeles kamen zu dem Schluss, dass die Plattformen fahrlässig handelten und Nutzer ungenügend über Risiken informierten. Auch dieses Urteil wollen die Unternehmen kippen. (dpa/red)
