Anthropic-Chef Dario Amodei warnte schon oft vor den Risiken einer ungebremsten Entwicklung Künstlicher Intelligenz. (Archivbild) - Foto: Andrej Sokolow/dpa
Nach dem Schock eigenständiger Hacking-Attacken durch Künstliche Intelligenz zeigen sich große amerikanische KI-Firmen nach eigenen Angaben bereit, die Entwicklung der Technologie zu verlangsamen.
Dario Amodei, Chef des KI-Unternehmens Anthropic, machte einen solchen Vorstoß mit dem Plan, damit ein bis zwei Jahre Zeit zu gewinnen.
Binnen weniger Stunden bekam er Zuspruch von Rivalen wie dem Chef des ChatGPT-Entwicklers OpenAI, Sam Altman, sowie Elon Musk, der bei seiner Firma SpaceX eigene KI entwickeln lässt.
Warnung: KI-Schwarm könnte in einem halben Jahr gesamtes Internet übernehmen
Nach den Hacking-Angriffen sei er besorgt, dass in sechs bis zwölf Monaten ein KI-Schwarm in der Lage sein könnte, das gesamte Internet zu übernehmen und potenziell Hunderte Milliarden Dollar Schaden zu verursachen, schrieb Amodei am Samstag.
Altman von OpenAI schrieb wenige Stunden später auf der Plattform X, auch er sei der Ansicht, dass das Tempo bei der Entwicklung leistungsstärkster KI-Modelle verlangsamt werden müsse.
Amodei plädierte für eine koordinierte branchenweite Pause in der westlichen Welt. Zugleich werde Anthropic – ohne auf andere zu warten – in einem ersten Schritt dauerhaft unabhängige Beobachter ins Unternehmen lassen, die schon in der Trainingsphase die Sicherheit von KI-Modellen begutachten sollen.
Altman nannte das eine gute Idee und kündigte an, dass OpenAI das auch machen werde. Auch Tech-Milliardär Elon Musk, lange ein Kritiker Amodeis, schrieb auf X: „Dario hat recht.“
Altman sagte zudem dem Magazin „Fortune“, der mit Spannung erwartete Börsengang von OpenAI werde in diesem Jahr wohl nicht mehr stattfinden. Er verwies vor allem auf die aktuelle Debatte: „Man wäre schlecht beraten, genau jetzt an die Börse zu gehen.“
Auf die Nachfrage, ob er sich auch den Verzicht auf einen Börsengang im kommenden Jahr vorstellen könnte, erwiderte Altman: „Ich würde sagen, nicht 2026.“
Bei der jüngst bekanntgewordenen aufsehenerregenden Hacking-Attacke war Software von OpenAI in einem Testlauf eigenständig aus einer abgesicherten Umgebung ausgebrochen und drang auf eigene Faust in Systeme der KI-Firma HuggingFace ein.
Der Grund war lediglich, dass sie dort Antworten auf die ihr gestellte Testaufgabe vermutete. Für die Attacke nutzten die KI-Agenten unter anderem Software-Schwachstellen aus – und sprachen sich zudem untereinander ab.
Warnung von „katastrophalem Schaden“
Für ihn sei besorgniserregend, dass ein KI-Schwarm mit derselben Einstellung und größeren Fähigkeiten „katastrophalen Schaden“ hätte anrichten können, betonte Amodei. Als besonderes Risiko sieht er die Fähigkeit von KI-Software, sich selbst weiterzuentwickeln.
Seit diesem Sommer sei Künstliche Intelligenz besser darin – und dies erhöhe das Tempo weiter. Unkontrolliert könne dies dazu führen, dass Menschen diese Systeme nicht mehr verstehen und die Kontrolle über sie verlieren, warnte er.
Amodei hatte schon in den vergangenen Jahren immer wieder vor Risiken bei der Entwicklung Künstlicher Intelligenz gewarnt – und war dafür aus Teilen der KI-Branche zum Teil heftig kritisiert worden. Ein Argument von Befürwortern eines hohen Tempos in den USA ist der Wettlauf mit China.
Anthropic entwickelte zuletzt ein KI-Modell mit dem Namen Mythos, das besonders gut darin ist, zum Teil über Jahrzehnte unentdeckt gebliebene Software-Schwachstellen zu finden. Die Firma macht das volle Modell nur ausgewählten Behörden und Unternehmen zugänglich, damit sie ihre Computersysteme absichern können.
Die Debatte war in den vergangenen Tagen noch von einem Anthropic-Forscher angeheizt worden, der mit einer drastischen Warnung zurücktrat. Die großen Entwickler Künstlicher Intelligenz handelten unverantwortlich „und spielen mit unseren Leben“, erklärte Jacob Coxon.
Anthropic-Forscher Evan Hubinger, der mit dafür zuständig ist, dass KI mit den Interessen der Menschen im Einklang bleibt, bestätigte wenig später Coxons Sorgen. Er persönlich denke, die Gefahr, dass KI die Menschheit töte, liege im kommenden Jahrzehnt bei mehr als zehn Prozent, schrieb er auf X.
In den USA gibt es zudem eine wachsende Bewegung gegen riesige Rechenzentren, auf deren Bau KI-Firmen wie OpenAI für den Ausbau ihres Geschäfts angewiesen sind. (dpa/red)
Anthropic-Chef Dario Amodei warnte schon oft vor den Risiken einer ungebremsten Entwicklung Künstlicher Intelligenz. (Archivbild) - Foto: Andrej Sokolow/dpa
Nach dem Schock eigenständiger Hacking-Attacken durch Künstliche Intelligenz fordert der Chef des großen KI-Labors Anthropic, die Entwicklung der Technologie zu verlangsamen.
Er sei nun besorgt, dass in sechs bis zwölf Monaten ein Schwarm von KI in der Lage sein könnte, das gesamte Internet zu übernehmen und potenziell Hunderte Milliarden Dollar Schaden zu verursachen, schrieb Amodei in einem Blogeintrag.
Binnen weniger Stunden bekam Amodei Zuspruch von einem zentralen Rivalen, dem Chef des ChatGPT-Entwicklers OpenAI. Er sei auch der Ansicht, dass das Tempo bei der Entwicklung leistungsstärkster KI-Modelle moderiert werden müsse, schrieb Sam Altman auf der Online-Plattform X.
Amodei plädierte zwar für eine koordinierte branchenweite Pause in der westlichen Welt. Zugleich werde Anthropic – ohne auf andere zu warten – in einem ersten Schritt dauerhaft unabhängige Beobachter ins Unternehmen lassen, die schon in der Trainingsphase die Sicherheit von KI-Modellen begutachten sollen. Altman nannte das eine gute Idee und kündigte an, dass OpenAI das auch machen werde.
Bei der jüngst bekanntgewordenen aufsehenerregenden Hacking-Attacke war Software von OpenAI in einem Testlauf eigenständig aus der abgesicherten Umgebung ausgebrochen und drang auf eigene Faust in Systeme der KI-Firma HuggingFace ein.
Der Grund war lediglich, dass sie dort Antworten auf die ihr gestellte Testaufgabe vermutete. Für die Attacke nutzten die KI-Modelle unter anderem Software-Schwachstellen aus – und sprachen sich zudem untereinander ab.
Für ihn sei besorgniserregend, dass ein KI-Schwarm mit größeren Fähigkeiten, aber derselben Einstellung hätte „katastrophalen Schaden“ anrichten können, betonte Amodei. Als besonderes Risiko sieht er die Fähigkeit von KI-Software, sich selbst weiterzuentwickeln.
Seit diesem Sommer sei Künstliche Intelligenz besser darin – und dies erhöhe das Tempo weiter. Unkontrolliert könne dies dazu führen, dass Menschen diese Systeme nicht mehr verstehen und die Kontrolle über sie verlieren, warnte er.
OpenAI-Chef Altman und Musk, Eigentümer des KI-Unternehmens xAI, schlossen sich Amodeis Appell an. „Dario hat Recht“, schrieb Musk in seinem Onlinedienst X. „Ich stimme Dario zu“, erklärte auch Altman.
Eine Drosselung des Tempos bei der KI-Entwicklung sei auch bei OpenAI in den vergangenen Wochen intensiv diskutiert worden.
Gespaltene Branche
Amodei hatte schon in den vergangenen Jahren immer wieder vor Risiken bei der Entwicklung Künstlicher Intelligenz gewarnt – und war dafür aus Teilen der KI-Branche zum Teil heftig kritisiert worden.
Ein Argument von Befürwortern eines hohen Tempos in den USA – etwa auch im Weißen Haus von Präsident Donald Trump – ist der Wettlauf mit China.
Anthropic entwickelte zuletzt ein KI-Modell mit dem Namen Mythos, das besonders gut darin ist, zum Teil über Jahrzehnte unentdeckt gebliebene Software-Schwachstellen zu finden. Die Firma macht das volle Modell nur ausgewählten Behörden und Unternehmen zugänglich, damit sie ihre Computersysteme absichern können. (dpa/red)
Anthropic-Chef Dario Amodei warnte schon oft vor den Risiken einer ungebremsten Entwicklung Künstlicher Intelligenz. (Archivbild) - Foto: Andrej Sokolow/dpa
Nach dem Schock eigenständiger Hacking-Attacken durch Künstliche Intelligenz fordert der Chef des großen KI-Labors Anthropic, die Entwicklung der Technologie zu verlangsamen.
Er sei nun besorgt, dass in sechs bis zwölf Monaten ein Schwarm von KI in der Lage sein könnte, das gesamte Internet zu übernehmen und potenziell Hunderte Milliarden Dollar Schaden zu verursachen, schrieb Amodei in einem Blogeintrag.
Binnen weniger Stunden bekam Amodei Zuspruch von einem zentralen Rivalen, dem Chef des ChatGPT-Entwicklers OpenAI. Er sei auch der Ansicht, dass das Tempo bei der Entwicklung leistungsstärkster KI-Modelle moderiert werden müsse, schrieb Sam Altman auf der Online-Plattform X.
Amodei plädierte zwar für eine koordinierte branchenweite Pause in der westlichen Welt. Zugleich werde Anthropic – ohne auf andere zu warten – in einem ersten Schritt dauerhaft unabhängige Beobachter ins Unternehmen lassen, die schon in der Trainingsphase die Sicherheit von KI-Modellen begutachten sollen. Altman nannte das eine gute Idee und kündigte an, dass OpenAI das auch machen werde.
Bei der jüngst bekanntgewordenen aufsehenerregenden Hacking-Attacke war Software von OpenAI in einem Testlauf eigenständig aus der abgesicherten Umgebung ausgebrochen und drang auf eigene Faust in Systeme der KI-Firma HuggingFace ein.
Der Grund war lediglich, dass sie dort Antworten auf die ihr gestellte Testaufgabe vermutete. Für die Attacke nutzten die KI-Modelle unter anderem Software-Schwachstellen aus – und sprachen sich zudem untereinander ab.
Für ihn sei besorgniserregend, dass ein KI-Schwarm mit größeren Fähigkeiten, aber derselben Einstellung hätte „katastrophalen Schaden“ anrichten können, betonte Amodei. Als besonderes Risiko sieht er die Fähigkeit von KI-Software, sich selbst weiterzuentwickeln.
Seit diesem Sommer sei Künstliche Intelligenz besser darin – und dies erhöhe das Tempo weiter. Unkontrolliert könne dies dazu führen, dass Menschen diese Systeme nicht mehr verstehen und die Kontrolle über sie verlieren, warnte er.
Amodei hatte schon in den vergangenen Jahren immer wieder vor Risiken bei der Entwicklung Künstlicher Intelligenz gewarnt – und war dafür aus Teilen der KI-Branche zum Teil heftig kritisiert worden.
Ein Argument von Befürwortern eines hohen Tempos in den USA – etwa auch im Weißen Haus von Präsident Donald Trump – ist der Wettlauf mit China.
Anthropic entwickelte zuletzt ein KI-Modell mit dem Namen Mythos, das besonders gut darin ist, zum Teil über Jahrzehnte unentdeckt gebliebene Software-Schwachstellen zu finden. Die Firma macht das volle Modell nur ausgewählten Behörden und Unternehmen zugänglich, damit sie ihre Computersysteme absichern können. (dpa/red)
Laut Apple soll beim iPhone Duo die Falte in der Mitte des aufklappbaren Bildschirms deutlich weniger sichtbar sein als in Modellen der Konkurrenz. - Foto: Andrej Sokolow/dpa
Vor beinahe 20 Jahren prägte Apple mit dem iPhone den Grundstein für die Geräteklasse moderner Smartphones, jetzt spendiert der Konzern seinem wichtigsten Produkt die erste radikale Veränderung.
Sieben Jahre nach Vorreitern wie Samsung steigt Apple ins Geschäft mit aufklappbaren Telefonen ein. Ein Versprechen beim neuen Modell mit dem Namen iPhone Duo ist, es besser zu machen als die Konkurrenz.
Wirtschaftlich entging Apple durch die Falt-Abstinenz in den vergangenen Jahren nicht viel. Gerade einmal 2,2 Prozent der verkauften Smartphones sind nach Berechnungen der Marktforschungsfirma IDC Klapp-Modelle in verschiedenen Formaten – obwohl Samsung und chinesische Rivalen wie Huawei schon seit Jahren versuchen, die Kategorie im Markt zu etablieren.
Apple versichert nun, die richtige Formel gefunden zu haben: Ein breiteres Format als bei vielen Konkurrenz-Geräten, keine nervige Falte in der Mitte des aufgeklappten Innen-Displays und eine Software-Optik, die auf den nahtlosen Wechsel zwischen den beiden Bildschirmen abgestimmt sei.
Das aufklappbare iPhone ist die erste große Wette des Konzerns unter dem neuen Chef John Ternus (r).
Foto: Jeff Chiu/AP/dpa
Teure Geräteklasse
Doch das alles hat seinen Preis – auch weil die Kosten für Speicherchips gerade wegen des Ausbaus von Rechenzentren im KI-Boom explosiv in die Höhe gehen. Mit einem Preis ab 2.299 Euro wird das Duo beim Marktstart im Oktober das bisher teuerste iPhone-Modell sein. Und die Spitzen-Ausführung mit zwei Terabyte Speicher bringt 3.799 Euro auf den Kassenbon.
Für wen ist so ein Gerät etwas? „Zunächst einmal für alle, die das Geld dafür haben“, sagt IDC-Branchenanalyst Francisco Jeronimo. Es gebe aber Apple-Fans, die bereit seien, jeden Preis für etwas zu zahlen, was sich abhebe.
Damit werde das iPhone Duo definitiv als Statussymbol dienen. Dann gebe es aber auch Leute, die ein iPhone und ein iPad-Tablet nutzten – „und jetzt die Chance haben, beides in einem Gerät zu bekommen“.
Auf dem iPhone Duo können zwei Apps nebeneinander laufen.
Foto: Andrej Sokolow/dpa
Abschläge bei der Kamera
Zugleich bringt die Geräteform Abschläge mit sich. Aufgeklappt ist das Duo das bisher dünnste iPhone. Das bedeutet weniger Platz für Technik als etwa bei einem iPhone Pro, das eine hochgerüstete Kamera in sich trägt. Beim Duo ist der Zoom auf 2x beschränkt, während die Kamera des neuen iPhone 18 Pro sogar eine veränderbare physische Blende bekommt.
Branchenanalyst Bob O’Donnell von Technalysis Research glaubt allerdings nicht, dass das viele Interessenten abschrecken wird. Für einige iPhone-Nutzer sei die Kamera wichtiger, für andere die Displaygröße – und hier werde die Trennlinie zwischen Käufern von Pro und Duo liegen, argumentiert er. Auch O’Donnell sieht eher den Preis als Bremsfaktor: „Es ist eine Menge Geld für eine Menge Laute.“
Einstand für frisch gekrönten Apple-Boss
Der neue Apple-Chef John Ternus kann seine Amtszeit damit gleich als Innovator beginnen. Als langjähriger Gerätechef des Konzerns dürfte er federführend für die Entwicklung des Duo gewesen sein – und nun wird der Erfolg oder Flop des neuen Geräts auch mit seinem Namen verbunden werden.
Das Falt-iPhone hat ungefähr die Abmessungen eines Reisepasses – jeweils auf- und zusammengeklappt mit Displays innen und außen. Es weicht damit deutlich von ersten Anläufen der Rivalen ab, die zunächst vor allem auf eine schmalere und höhere Form setzten, die sich zu einem quadratischen Display aufklappen lässt.
Konkurrenten hätten Falt-Telefone entwickelt, die sich wie „zwei aneinander geklebte Smartphones“ anfühlten, begründete Ternus Apples Entscheidung für das Format. Mit den Pass-Abmessungen könne man dagegen besser von der größeren Fläche des inneren Displays mit einer Diagonalen von 7,6 Zoll profitieren. Der äußere Bildschirm hat eine Diagonale von 5,4 Zoll und 90 Prozent der Fläche eines iPhone 18 Pro.
„Tropfen im Ozean“ – aber Milliardenmarkt
Kann Apple nun Falt-Smartphones aus der Nische herausholen? Nach Stückzahlen werde die Kategorie gemessen am gesamten Smartphone-Markt weiterhin „ein Tropfen im Ozean“ bleiben, sagt Jeronimo.
Die teureren Geräte könnten aber zum Jahr 2030 einen Umsatzanteil von zehn Prozent erreichen. Damit wäre es ein lukratives Milliarden-Geschäft.
IDC geht davon aus, dass Apple trotz des späten Einstiegs binnen zwölf Monaten die Führung in dem Marktsegment übernehmen wird. Auch Analyst O’Donnell sagt, das iPhone Duo habe mit seinem Zusammenspiel von Technik und Software die Gerätekategorie „neu definiert“.
Mit dem Format des iPhone Duo sollen Nutzer Apple zufolge besser von dem größeren inneren Display profitieren als bei Modellen der Konkurrenz.
Foto: Andrej Sokolow/dpa
Apples Vision für KI-Ära
Beim ersten Neuheiten-Event unter Ternus‘ Regie trat auch Apples Strategie für die Ära Künstlicher Intelligenz klarer hervor. Apple will mit dem iPhone und anderen verknüpften Geräten ein persönliches Zentrum für KI bieten.
Es ist die Antwort auf Versuche etwa des ChatGPT-Entwicklers OpenAI, eigene Geräte als Tor zur Künstlichen Intelligenz zu etablieren. Apple betont dabei den Datenschutz und hebt die Verarbeitung von Informationen auf den Geräten statt in der Cloud hervor.
Ein erster Blick darauf in Aktion sind neue Funktionen für die frischen Computer-Uhren Watch Series 12 und Ultra 4. Sie können auf Wunsch Unterhaltungen im Laufe des Tages zusammenfassen – sowie in den vergangenen 15 Sekunden Gesagtes als Text wiederholen. Apple versichert, dass dafür überhaupt keine Aufzeichnungen angefertigt würden und der Konzern nicht auf irgendwelche Informationen zugreifen könne.
Neues iPhone Pro – aber kein Standard-Modell
Zusammen mit dem Duo stellte Apple auch die nächste Generation des iPhone Pro vor. Vom Standard-Modell, das bisher stets gleichzeitig vorgestellt wurde, war diesmal aber nicht die Rede. Nach Informationen des Finanzdienstes Bloomberg soll es erst im Frühjahr folgen.
Die Kamera des iPhone 18 Pro soll unter anderem bessere Bilder bei schlechten Lichtverhältnissen machen. Dafür soll unter anderem eine verstellbare Blende wie bei klassischen Fotoapparaten sorgen.
In Zeiten von KI-Fakes wird mit der Funktion Apple Reference Image ein unverändertes Originalbild des Bildsensors gespeichert, das nicht verändert werden kann. Damit kann immer ein Referenzbild ohne Veränderungen überprüft werden.
Mit einem Preis ab 1.449 Euro wird das iPhone 18 Pro 150 Euro teurer als das Vorgängermodell. Apple erhöhte im Sommer die Preise auf breiter Front unter Verweis auf die im KI-Boom explosiv gestiegenen Speicherkosten. Damals blieben die iPhone-Preise aber unverändert. (dpa/red)
Forscher der großen KI-Labore warnen zunehmend vor Risiken bei der rapiden Entwicklung Künstlicher Intelligenz. (Archivbild) - Foto: Hendrik Schmidt/dpa
Ein Forscher der KI-Firma Anthropic ist mit einer drastischen Warnung zurückgetreten: Die großen Entwickler Künstlicher Intelligenz handelten unverantwortlich „und spielen mit unseren Leben“. Bald werde es Computersysteme geben, deren Fähigkeiten die von Menschen überträfen, betonte Jacob Coxon auf der Online-Plattform X. Künstliche Intelligenz würde dann „alles hacken können“ und die Möglichkeit haben, sich „Zugang zu echter Macht und Ressourcen“ zu verschaffen.
„Die Leute, die KI entwickeln, glauben ernsthaft, dass sie zum Ende des Jahrzehnts alle töten könnte“, warnte Coxon. Dem „Wall Street Journal“ sagte der 27-jährige Brite, nach den „aggressivsten Szenarien“ könnten die Dinge bereits Ende kommenden Jahres außer Kontrolle geraten. Als eine zentrale Gefahr sieht er Künstliche Intelligenz, die sich selbst weiterentwickeln kann – und damit schwerer zu kontrollieren wird.
Anthropic-Forscher Evan Hubinger, der mit dafür zuständig ist, dass KI mit den Interessen der Menschen im Einklang bleibt, bestätigte wenig später Coxons Sorgen. Er persönlich denke, die Gefahr, dass KI die Menschheit töte, liege im kommenden Jahrzehnt bei mehr als zehn Prozent, schrieb er bei X.
Zuvor mahnte auch der Forschungschef des ChatGPT-Entwicklers und schärfsten Anthropic-Rivalen OpenAI, Jakub Pachocki, „extreme Vorsicht“ an. Er sei besorgt, dass niemand auf eine rapide Weiterentwicklung der Fähigkeiten Künstlicher Intelligenz vorbereitet sei, schrieb Pachocki in einem Blogeintrag. Man sei an einem Moment der Geschichte angelangt, in dem die Intelligenz von Maschinen beginne, die der Menschen zu übertreffen.
Der OpenAI-Manager umschrieb ausführlicher, warum moderne KI-Systeme schwerer zu kontrollieren seien. Man lasse diese Künstliche Intelligenz eher „wachsen“, statt sie zu designen. KI-Systeme seien ein Produkt komplexer Prozesse. „Unsere groß angelegten Trainingsläufe sind Experimente – und wir sind manchmal überrascht von ihren Ergebnissen.“ Und je mehr die Fähigkeiten der Maschinen die menschlichen überträfen, desto schwieriger werde es zu verstehen, zu was sie in der Lage seien.
Zugleich sieht Pachocki ein Argument für die Fortsetzung rapider Forschung: Künstliche Intelligenz zu entwickeln, die gegen die Gefahren anderer KI verteidigen könnte. Man werde sie unter anderem brauchen, um Infrastruktur zu schützen und ganz neue Verteidigungsmechanismen zu entwickeln.
Ein Weckruf für die Branche waren in den vergangenen Monaten Hacking-Attacken, bei denen sogenannte KI-Agenten in Testläufen eigenständig in Systeme anderer Unternehmen eindrangen. Solche Agenten sind Programme mit Künstlicher Intelligenz, die selbstständig Aufgaben für die Nutzer erfüllen sollen. Bei OpenAI fand ein KI-Modell in einem Test einen Weg, aus einer eigentlich isolierten Testumgebung ins offene Internet zu gelangen – und hackte sich dann ins Computersystem der KI-Plattform Hugging Face. Dabei suchte es nur nach einer Lösung für die Testaufgabe und richtete keinen Schaden an. Allerdings zeigte der Vorfall, wie weit KI-Systeme ungeplant auf eigene Faust gehen können, ohne dass ihre Entwickler das mitbekommen.
Zuletzt wurde auch bekannt, dass KI-Agenten von OpenAI bereits im Frühjahr eine deutschsprachige Wiki-Seite in großem Stil für Absprachen untereinander missbraucht hatten. Ein aktueller Schutzmechanismus der KI-Entwickler ist, dass die Modelle mit Künstlicher Intelligenz ihr Handeln in menschlicher Sprache erklären müssen. Die KI-Agenten nutzten die Kommunikationsmöglichkeit in Testläufen, um sich über Notizen auf der Wiki-Seite untereinander zu Antworten auf gestellte Fragen auszutauschen. (dpa/red)
Der KI-Chatbot ChatGPT ist das wichtigste Produkt von OpenAI. (Archivbild) - Foto: Karl-Josef Hildenbrand/dpa
Tausende autonome KI-Agenten des US-Technologieunternehmens OpenAI haben einer am Freitag veröffentlichten Untersuchung zufolge eigenmächtig eine deutsche Programmierer-Website gekapert.
Auf der frei bearbeitbaren Plattform DSEwiki hinterließen sie demnach rund 18.000 Beiträge, in denen sie Antworten auf Testfragen und Tipps zum Umgehen digitaler Sicherheitsbarrieren austauschten.
„Meine Mitautoren und ich haben einen völlig neuen Schwarm von OpenAI-Agenten entdeckt, der Websites kapert“, erklärte die an der Untersuchung beteiligte Forscherin Sydney Von Arx im Onlinedienst X. OpenAI habe von dem Vorgang gewusst und ihn nicht offengelegt, warf sie dem Unternehmen vor.
OpenAI erklärte, die Vorwürfe zunächst nicht im Detail beantworten zu können. Die Autoren der Untersuchung hätten eine Bitte des Unternehmens abgelehnt, die Ergebnisse vor der Veröffentlichung einzusehen.
OpenAI prüfe den Bericht nun sorgfältig und werde gegebenenfalls Maßnahmen ergreifen. Ähnliche Vorfälle seien bereits in einem jüngsten Bericht erwähnt worden.
KI-Agenten sind Programme, die Aufgaben weitgehend selbständig ausführen können, ohne dass ein Mensch jeden einzelnen Schritt vorgibt. Die Technologie gilt als wichtiger nächster Entwicklungsschritt der Künstlichen Intelligenz.
Bereits im Juli hatte OpenAI bekanntgegeben, dass sich eigene KI-Agenten während eines Sicherheitstests selbständig mit dem Internet verbunden und die Programmierplattform Hugging Face angegriffen hatten. Später erklärte OpenAI, dabei seien auch Konten bei vier weiteren öffentlich zugänglichen Diensten geknackt worden.
Der Vorfall hatte Forderungen nach strengeren Sicherheitsvorkehrungen ausgelöst. OpenAI-Chef Sam Altman sagte im August, bei der KI-Entwicklung werde es zu Zwischenfällen kommen. Zugleich betonte er, sein Unternehmen wolle keine Modelle entwickeln, die sich nicht kontrollieren ließen.
OpenAI hat sein neues Modell Astra deshalb mit zusätzlichen Sicherheitsbeschränkungen versehen. Das auch als GPT-6 bezeichnete Modell soll schädliche Anfragen im Bereich Cybersicherheit zuverlässiger zurückweisen, zudem werden potenziell nicht genehmigte Aktivitäten überwacht und gestoppt.
Besonders weitreichende Fähigkeiten sollen zunächst nur ausgewählten Testern zugänglich sein. Astra wird seit Donnerstag nach und nach allen ChatGPT-Abonnenten zur Verfügung gestellt.(afp/red)
In dem Prozess in Oakland geht es um die Nutzung von Meta-Apps durch Kinder. (Archivbild) - Foto: Godofredo A. Vásquez/AP/dpa
In einem Prozess um Social-Media-Sucht von Kindern hat der Facebook-Mutterkonzern Meta einer Zahlung von insgesamt knapp 16,7 Milliarden US-Dollar zugestimmt. Darauf einigte er sich mit den klagenden US-Bundesstaaten, wie aus einem entsprechenden Gerichtsdokument hervorgeht.
Die Summe teilt sich auf die überwiegende Mehrheit der US-Bundesstaaten, mehrere US-Territorien und den Hauptstadtbezirk District of Columbia auf. Durch die Einigung hätten die Parteien vereinbart, die Klage ohne weitere gerichtliche Auseinandersetzung beizulegen.
Mehrere US-Bundesstaaten hatten dem Unternehmen vorgeworfen, Kinder bewusst zu einer ausufernden Nutzung von Facebook und Instagram verleitet zu haben. Zugleich habe Meta Risiken vor Eltern und der Öffentlichkeit verborgen. Der Konzern wies damals wie auch jetzt bei der Einigung die Vorwürfe zurück.
Der Generalstaatsanwalt des Bundesstaates Virginia, Jay Jones, bezeichnete die Einigung als „monumentalen Sieg für den Schutz der amerikanischen Kinder“: „Jahrelang hat Meta die Öffentlichkeit absichtlich über die süchtig machenden und schädlichen Designmerkmale getäuscht, die die psychische Gesundheit junger Menschen massiv beeinträchtigt haben“, hieß es in einer Pressemitteilung.
Meta kündigte unterdessen neue Einschränkungen an, die Jugendliche schützen und Eltern eine stärkere Kontrolle ermöglichen sollen. Vorbehaltlich einer gerichtlichen Genehmigung sollen diese automatisch für Minderjährige zehn Jahre lang gelten, die Instagram und Facebook nutzen.
Unter anderem ist ein tägliches Zeitlimit von zwei Stunden vorgesehen, dass Kinder und Jugendliche nur mit Zustimmung ihrer Eltern deaktivieren können. Die Begrenzung gelte kumulativ für Facebook und Instagram.
Zwischen Mitternacht und sechs Uhr morgen sollen die Apps zudem über einen Nachtmodus gesperrt werden, sodass Nutzer keine Beiträge veröffentlichen noch Inhalte sehen können. Regelmäßige Erinnerungen sollen zudem die minderjährigen Nutzer zu einem „bewussteren Umgang“ auf den Plattformen anregen.
Mit Blick auf möglicherweise falsche Schönheitsideale kündigte Meta an, Filter für „Schönheitsoperationen und extremes Make-up“ zu deaktivieren. Auch die in Kritik stehende Funktion von sogenannten Likes und Reaktionen auf Beiträge soll standardmäßig ausgeblendet werden. Jugendliche sollen weder bei ihren eigenen noch bei Beiträgen anderer Nutzer sehen können, wie stark auf Inhalte reagiert wurde.
Meta bezifferte zuvor geforderte Strafen auf bis zu 1,4 Billionen
Der Prozess vor Geschworenen im kalifornischen Oakland begann vergangene Woche Dienstag mit den Eröffnungsplädoyers. Die von Kalifornien angeführten Bundesstaaten strebten Geldstrafen sowie Auflagen zur Änderung des Geschäftsmodells an.
Meta gab vor einigen Monaten in einem Gerichtsdokument an, die von den Bundesstaaten geforderten Strafen könnten sich auf 1,4 Billionen Dollar (aktuell 1,2 Billionen Euro) belaufen und damit die Existenz des Unternehmens bedrohen.
Anwälten der Klägerseite zufolge könnte es eher um einen Betrag von etwa 200 Milliarden Dollar gehen. Meta nannte die Vorwürfe unbegründet und die finanziellen Forderungen unangemessen.
Jason Slothouber (2. v. l.), leitender Staatsanwalt aus Colorado, führt am 26. August 2026 Staatsanwälte zum Prozess gegen Meta in Oakland, Kalifornien.
Foto: Karl Mondon / AFP via Getty Images
Serie von Rückschlägen für Meta
Meta hatte zuletzt mehrere empfindliche Niederlagen vor US-Gerichten einstecken müssen. So soll der Konzern nach einer Gerichtsentscheidung im Bundesstaat New Mexico mehr als eine halbe Milliarde Dollar für Hilfen an Kinder zahlen, die durch Nutzung sozialer Medien Schaden genommen haben.
Zudem müssen in dem Bundesstaat zusätzliche Einschränkungen für Nutzer im Alter unter 18 Jahren eingeführt werden: Unter anderem sollen sie bei Facebook und Instagram maximal 90 Stunden pro Monat verbringen können. Meta will in Berufung gehen.
Im März verloren Meta und die Google-Videoplattform YouTube einen potenziell wegweisenden Prozess um das Suchtpotenzial von Online-Diensten. Geschworene in Los Angeles kamen zu dem Schluss, dass die Plattformen fahrlässig handelten und Nutzer ungenügend über Risiken informierten. Auch dieses Urteil wollen die Unternehmen kippen. (dpa/red)
Indem sie Autokäufer dafür bezahlen lassen, bestimmte Funktionen wie Sitzheizung und Fernsteuerung freizuschalten, können die Autohersteller auch nach dem Verkauf des Fahrzeugs noch Einnahmen generieren. - Foto: IherPhoto/iStock
In Kürze:
Autoherstellerverlagern Einnahmen zunehmend vom Fahrzeugkauf auf digitale Dienste und Abonnements.
Vernetzte Fahrzeuge erzeugen umfangreiche Daten, die wirtschaftlich genutzt werden könnten.
EU Data Act und Datenschutzregeln bestimmen zunehmend, wer auf Fahrzeugdaten zugreifen und sie nutzen darf.
„Die Krise der Autoindustrie ist politisch bedingt“, sagt Johannes Gardelöf von der Auto-Nachrichtenagentur Car News & Pictures (CNP) gegenüber der schwedischsprachigen Ausgabe der Epoch Times. Gardelöf macht dafür insbesondere politische Vorgaben, steigende regulatorische Anforderungen und den Druck zur Entwicklung von Elektrofahrzeugen verantwortlich.
Er arbeitet seit 35 Jahren in der Autobranche, hat aber noch nie zuvor erlebt, dass die Branche so hart um ihr Überleben kämpfen musste wie jetzt. Seiner Meinung nach haben gestiegene Anforderungen von Politikern und Bürokraten sowie der Druck zur Entwicklung von Elektroautos der europäischen Automobilindustrie große Schwierigkeiten verursacht. Gardelöf sagt:
„Wenn Politiker darüber entscheiden wollen, welche Autos wir kaufen sollen, schaffen sie Probleme.“
Laut Gardelöf entstehen infolge der Krise neue Geschäftsmodelle – es gibt jedoch eine Reihe von Unsicherheiten, die berücksichtigt werden sollten. Die größte Veränderung liegt seiner Ansicht nach darin, wie die Autohersteller ihre Fahrzeuge verkaufen.
Ein zunehmender Trend besteht darin, dass Hersteller zusätzliche Einnahmen nach dem Fahrzeugkauf erzielen wollen. Bei manchen Fahrzeugen können bestimmte technische Funktionen bereits vorhanden sein, für deren Aktivierung oder Nutzung jedoch zusätzlich bezahlt werden muss. Nach Einschätzung Gardelöfs können zusätzliche Gebühren für Funktionen und digitale Dienste dazu führen, dass die Gesamtkosten eines Fahrzeugs über dessen Nutzungsdauer über dem ursprünglichen Kaufpreis liegen.
Da das Auto zunehmend vernetzt und softwaregesteuert ist, nutzen Hersteller Möglichkeiten, auch nach der Auslieferung des Fahrzeugs zusätzliche Einnahmen zu erzielen. Dies kann durch Abonnements für digitale Dienste, Fernsteuerung, Navigation, Wartung, Unterhaltungssysteme und verschiedene Formen der Fahrerassistenz geschehen.
In einigen Fällen handelt es sich auch um Funktionen, bei denen die erforderliche Hardware bereits im Auto installiert ist, der Kunde jedoch für die Aktivierung bezahlen muss.
BMW sorgte für großes Aufsehen, als das Unternehmen in bestimmten Ländern begann, die Sitzheizung als Abonnement anzubieten. Kunden konnten monatlich, jährlich oder für einen längeren Zeitraum bezahlen, um die Funktion zu aktivieren. Das Modell ist ein Beispiel dafür, wie Autohersteller Teile ihrer Einnahmen vom einmaligen Fahrzeugverkauf auf die Nutzungsdauer des Fahrzeugs verlagern können.
Ähnliche Lösungen wurden beispielsweise für fortschrittliche Einparkhilfen, Fernsteuerung, Navigation und verschiedene Systeme zur Fahrerassistenz erprobt. Mercedes-Benz bietet über seinen digitalen Shop sogenannte „Digital Extras“ an, bei denen Kunden Dienste unter anderem in den Bereichen Navigation, Fernfunktionen und Sicherheit erwerben oder verlängern können.
Für die Hersteller kann dieses Modell einen wiederkehrenden Cashflow schaffen. Eine Funktion wird nicht nur einmalig beim Autokauf verkauft, sondern kann über mehrere Jahre hinweg Einnahmen generieren. Das bedeutet, dass das Auto in höherem Maße zu einer digitalen Plattform wird.
Durch Updates über das Mobilfunknetz kann der Hersteller die Eigenschaften des Autos ändern, ohne dass das Fahrzeug in die Werkstatt gebracht werden muss. Neue Dienste können nach dem Kauf eingeführt werden, und der Kunde kann in bestimmten Fällen Funktionen nachkaufen, sobald der Bedarf entsteht.
Für die europäische Automobilindustrie eröffnet dieses Modell damit neben dem Fahrzeugverkauf eine weitere Möglichkeit, über die Nutzungsdauer eines Fahrzeugs Einnahmen zu erzielen.
Dieser Wandel vollzieht sich zu einer Zeit, in der die europäische Autoindustrie mit mehreren großen Problemen konfrontiert ist. Der Übergang zu Elektroautos erfordert umfangreiche Investitionen in Batterien, Fabriken, Halbleiter und Software. Gleichzeitig stehen die Unternehmen unter dem Druck hoher Energie- und Arbeitskosten sowie zunehmender Konkurrenz aus China.
Apostolos Tzitzikostas, EU-Kommissar für nachhaltigen Verkehr und Tourismus, stellte im März 2025 den Aktionsplan der Kommission für die Automobilindustrie vor. Er sagte dabei, dass die Branche „vor großen technischen und wettbewerblichen Herausforderungen steht“. Die Kommission schlug unter anderem einen Innovationsfonds in Höhe von 1,8 Milliarden Euro vor, der zu einer sichereren Lieferkette für Batterierohstoffe beitragen soll.
Apostolos Tzitzikostas, EU-Kommissar für nachhaltigen Verkehr und Tourismus, hat sich für eine fossilfreie europäische Fahrzeugflotte eingesetzt. Im Aktionsplan der Kommission für die Automobilindustrie stellte er fest, dass die Branche „vor großen technischen und wettbewerblichen Herausforderungen steht“ (Brüssel, 5. März 2025)
Foto: Martin Bertrand/Hans Lucas/AFP via Getty Images
Fahrzeugdaten als mögliche zusätzliche Einnahmequelle
Gardelöf sieht weitere Möglichkeiten für die Autoindustrie, ihre Einnahmen zu steigern. Eine weitere potenzielle Einnahmequelle könnten die von vernetzten Fahrzeugen erzeugten Daten sein.
So wie digitale Plattformen wie Facebook Informationen über das Nutzerverhalten nutzen können, um gezielte Werbung zu verkaufen, könnten Automobilhersteller in Zukunft versuchen, die durch vernetzte Fahrzeuge gesammelten Informationen zu vermarkten.
Gardelöf sieht in der kommerziellen Nutzung von Fahrzeugdaten ein mögliches langfristiges Geschäftsmodell. Wie groß die daraus erzielbaren Einnahmen tatsächlich sein könnten, lässt sich derzeit jedoch schwer abschätzen.
Vernetzte Fahrzeuge können detaillierte Informationen über den Alltag und die Bewegungsmuster ihrer Nutzer liefern: wo sich das Fahrzeug befindet, welche Strecken gefahren werden, wie häufig es genutzt wird, wann es geladen oder betankt wird und welche Orte besucht werden.
Zusammen mit Informationen aus der App des Autos und dem Kundenkonto kann so ein detailliertes Bild der Gewohnheiten des Kunden entstehen.
Gardelöf ist der Ansicht, dass dieses Geschäftsmodell hervorragend zur Autoindustrie passt.
Ein Montagearbeiter bei Volkswagen am 24. Februar 2026.
Foto: Focke Strangmann/Getty Images
Fahrzeugdaten und Versicherungen
General Motors in den USA hat ebenfalls ein Geschäftsmodell mit vernetzten Autos getestet, die als Plattformen zur Datenerfassung genutzt werden.
Über den Dienst OnStar und die Funktion „Smart Driver“ sammelte General Motors unter anderem Daten über die genaue Position des Fahrzeugs und das Fahrverhalten des Nutzers. Nach Angaben der US-amerikanischen Wettbewerbs- und Verbraucherschutzbehörde Federal Trade Commission (FTC) umfassten diese Informationen unter anderem Geschwindigkeit, starkes Bremsen und Beschleunigen.
Nach Angaben der FTC wurden die erfassten Fahrzeug- und Fahrdaten unter anderem an die Datenunternehmen LexisNexis Risk Solutions und Verisk weitergegeben. Die Daten konnten anschließend unter anderem für versicherungsbezogene Zwecke genutzt werden.
Nach Darstellung der FTC informierten General Motors und OnStar die Kunden nicht ausreichend darüber, wie ihre Fahrzeug- und Fahrdaten erhoben und weitergegeben wurden. Die Behörde beanstandete insbesondere, dass für bestimmte Formen der Datennutzung und Weitergabe keine hinreichend klare und ausdrückliche Einwilligung der Kunden vorgelegen habe.
Am 14. Januar 2026 erließ die FTC eine endgültige Anordnung gegen General Motors und OnStar. Diese untersagt es den Unternehmen für fünf Jahre, bestimmte Daten über die Geolokalisierung und das Fahrverhalten von Verbrauchern an Verbraucherauskunfteien weiterzugeben.
Der EU Data Act schafft für Nutzer unter bestimmten Voraussetzungen einen Anspruch auf Zugang zu Daten, die durch vernetzte Produkte und damit auch durch bestimmte vernetzte Fahrzeuge erzeugt werden. Unter den gesetzlichen Voraussetzungen können diese Daten mit Dritten geteilt werden. Dies kann neue Möglichkeiten für Werkstätten, Versicherungsgesellschaften und andere Akteure schaffen – aber auch die alleinige Kontrolle der Autohersteller über diese Informationen einschränken.
Wie kann man sich vor unerwünschter Nutzung und Weitergabe personenbezogener Daten schützen?
Besitzer eines Neuwagens können je nach Fahrzeug und Anbieter bestimmte vernetzte Zusatzdienste deaktivieren, beispielsweise Fernsteuerung, Fahrstatistiken, personalisierte Werbung oder Standortfreigabe. Einzelheiten finden sich in der Regel in den Datenschutzeinstellungen und den Datenschutzbestimmungen des Fahrzeugs.
Gastprofil: Verwenden Sie, sofern verfügbar, ein Gastprofil und verweigern Sie die Einwilligung zu Marketing und zur Weitergabe an Partnerunternehmen, um personenbezogene Daten zu schützen. Fragen Sie den Hersteller, welche Daten erfasst werden, wie lange sie gespeichert werden und welche Unternehmen Zugriff darauf erhalten. Gemäß der DSGVO kann der Fahrzeughalter in vielen Fällen Auskunft über personenbezogene Daten, deren Berichtigung und Löschung verlangen, wobei Ausnahmen gelten, wenn die Daten für gesetzlich vorgeschriebene Sicherheitsfunktionen benötigt werden.
Gesetzlich vorgeschriebene Datenerhebung: Einige Systeme lassen sich nicht deaktivieren. Die EU schreibt beispielsweise eCall in neuen Personenkraftwagen und leichten Nutzfahrzeugen vor. Das System kann bei einem schweren Unfall automatisch einen Notruf auslösen und eine Verbindung zur Notrufabfragestelle herstellen. Ereignisdatenschreiber können zudem Daten wie Geschwindigkeit und Bremsvorgänge bei einem Unfall speichern. Für diese Daten gelten gesetzliche Vorgaben zur Speicherung, zum Schutz und zum Zugriff. Eine Weitergabe an Behörden ist nur unter den jeweils geltenden gesetzlichen Voraussetzungen zulässig.
Apple sieht sich wegen der Funktion unter anderem Kritik vom Facebook-Konzern Meta ausgesetzt. (Archivbild) - Foto: Christian Charisius/dpa
Apple nimmt nach Kritik von Wettbewerbshütern und Gegenwind aus der Werbebranche Änderungen an der App-Tracking-Abfrage auf iPhones in Deutschland und anderen europäischen Ländern vor. Zugleich endet damit eine Untersuchung der Funktion durch das Bundeskartellamt. Mit der Abfrage können Nutzer Apps verbieten, ihre Aktivitäten bei anderen Diensten zu Werbezwecken zu erfassen. Aus der Werbeindustrie gibt es Widerstand dagegen, Apple verweist auf ein Recht der Nutzer auf Datenschutz.
Zu den Änderungen gehört, dass das Wort „Tracking“ auf der Auswahlseite nicht mehr vorkommt. Außerdem bekommen die App-Betreiber die Möglichkeit, Nutzer nach einem Jahr wieder nach einer Erlaubnis zu fragen, deren Aktivität bei anderen Anwendungen und Websites zu verfolgen. Schließlich ändern sich die Auswahlmöglichkeiten. Bisher hieß es auf dem oberen der zwei digitalen Tasten in der Abfrage „App-Tracking ablehnen“ und auf dem unteren „Erlauben“. Künftig gibt es die Wahl zwischen „Erlauben“ auf dem oberen Button und „Verbieten“ auf dem unteren.
Die neue Version der Abfrage wird nur Nutzern in der Europäischen Union angezeigt. Dabei ist ausschlaggebend, dass sie sich gerade im Gebiet der EU aufhalten – und nicht in ihrem Herkunftsland.
Kartellwächter hatten Zweifel
Im vergangenen Herbst hatte der Konzern gewarnt, er könne sich gezwungen sehen, wegen Wettbewerbsuntersuchungen die App-Tracking-Abfrage auf iPhones in Deutschland und anderen europäischen Ländern aufgeben. Nun hieß es von Apple, man habe mit dem Bundeskartellamt, den anderen europäischen Wettbewerbsbehörden sowie der EU-Kommission zusammengearbeitet, um Änderungen zu erarbeiten, die die verschiedenen Verfahren gemeinsam beilegten.
Das Bundeskartellamt kam im Februar 2025 zur vorläufigen Einschätzung, dass die Ausgestaltung der Funktion gegen Missbrauchsvorschriften verstoßen könnte. Die Behörde verwies unter anderem darauf, dass die Anforderungen nur für andere App-Anbieter gälten, aber nicht für Apple. Der Konzern betont, seine eigenen Apps sammelten keine Daten in Anwendungen anderer Anbieter. Das Bundeskartellamt bemängelte damals aber, dass die Regeln den Konzern selbst nicht daran hinderten, Daten etwa aus dem App Store, der Apple ID oder angeschlossenen Geräten zu kombinieren und zu Werbezwecken zu verwenden.
Nun erklärte das Bundeskartellamt, dass Apple die Abfragefenster für eigene Angebote und Apps anderer Anbieter deutliche stärker angleiche. Dabei entfielen „abschreckend wirkende Symbole und Formulierungen in der von Apple vorgegebenen Abfrage für Drittanbieter“. Die Abfragefenster würden „inhaltlich, sprachlich und optisch neutral gestaltet“. Die App-Herausgeber und Inhalteanbieter bekämen zudem mehr Raum, um zu erläutern, welche Bedeutung personalisierte Werbung für ihr Modell habe.
Ausnahme für Polen
Die französische Kartellbehörde verhängte wegen der Funktion im März 2025 ein Bußgeld von 150 Millionen Euro. Auch die italienische Behörde AGM stellte in der App-Tracking-Abfrage einen Wettbewerbsverstoß fest und belegte Apple im vergangenen Dezember mit einer Strafe von 98,6 Millionen Euro. Apple zufolge werden die Änderungen zunächst in den meisten europäischen Ländern umgesetzt. In Polen aber gebe es einen anderen Zeitplan und man arbeite dort weiterhin mit der dortigen Wettbewerbsbehörde zusammen. (dpa/red)
Ein Facebook-Rechenzentrum von Meta in Eagle Mountain, Utah, am 18. Juli 2024. Das Rechenzentrum besteht aus einem Komplex von fünf großen Gebäuden, von denen jedes mehr als vier Fußballfelder lang ist. - Foto: George Frey/AFP via Getty Images
Nach den KI-Firmen OpenAI und Anthropic muss auch der Facebook-Konzern Meta einräumen, dass seine KI-Software sich in Computersysteme eines anderen Unternehmens gehackt hat.
Ähnlich wie bei einigen Vorfällen der beiden Rivalen lag das Problem auch hier in einer Fehlkonfiguration des Systems bei demselben Testpartner, wie Meta unter anderem dem Sender CNN mitteilte. Durch die falsche Einstellung hatten die KI-Modelle Zugang zum Internet – was eigentlich gar nicht vorgesehen war.
Meta machte keine Angaben zu dem Unternehmen, in dessen Systeme die KI des Konzerns durch die Ausnutzung einer Schwachstelle eindrang. Der Facebook-Konzern erfuhr von dem Zwischenfall nach eigenen Angaben durch eine Mitteilung des Testpartners.
Künstliche Intelligenz des ChatGPT-Entwicklers OpenAI war bei einem Test ungeplant in Computer einer anderen KI-Firma, der Plattform Hugging Face, eingedrungen.
Das hatte den Rivalen Anthropic veranlasst, seine eigenen Testläufe zu überprüfen, wobei weitere Vorfälle ans Licht kamen. Zudem stellten britische Sicherheitsforscher Cyberattacken durch KI von Anthropic und OpenAI fest, denen sie in ihren Versuchen ungehinderten Zugang zum Internet gewährt hatten.
Die ungeplanten Attacken richteten keinen Schaden an, verstärkten aber allgemein die Angst vor Cyberangriffen mit Hilfe Künstlicher Intelligenz.
KI-Modelle vereinbarten unentdeckt ihr Ausbrechen
Forscher von OpenAI berichteten unterdessen, dass KI-Modelle der Firma schon Wochen vor der Attacke auf Hugging Face unentdeckt miteinander kommuniziert hätten, um gemeinsam aus der eigentlich abgeschirmten Testumgebung auszubrechen.
Ihr Ziel dabei sei gewesen, im Internet nach der Antwort auf die im Test gestellte Aufgabe zu suchen, sagten Eric Wallace und Michael Dalton in einer Präsentation auf der Hacker-Konferenz Black Hat dem Finanzdienst Bloomberg zufolge.
Zu den Erkenntnissen der Forscher gehört, dass die Top-KI-Modelle oft schummeln wollten, um die Testaufgaben zu lösen.
Ein Problem der Testläufe sei zudem gewesen, dass die KI zum Teil Aufträge bekommen habe, die nicht erfüllbar gewesen seien. In einem Fall sei eine Tabelle, in der sie eine Aufgabe lösen sollte, ohne Internet-Zugang nicht abrufbar gewesen.
In einem anderen Fall habe das Team vergessen, eine zum Auftrag gehörende Datei hochzuladen. Die KI-Modelle hätten zunächst Kontakt untereinander aufgenommen, weil sie in der unlösbaren Situation Hilfe gesucht hätten, hieß es. (dpa/red)
Schon in mehreren Fällen ging Künstliche Intelligenz in Cybersicherheitstest eigenmächtig zu weit. (Archivbild) - Foto: Peter Steffen/dpa
Die Serie von Enthüllungen über alarmierende Hacker-Fähigkeiten führender KI-Modelle reißt nicht ab.
Jetzt ertappten britische Sicherheitsforscher Künstliche Intelligenz in einem Testlauf beim Versuch, in Eigeninitiative eine Schwachstelle in öffentlich zugängliche Software einzuschleusen.
Um damit durchzukommen, versuchte das KI-Modell der Entwicklerfirma Anthropic den Experten zufolge sogar, per E-Mail einen zuständigen Menschen zu manipulieren.
Das KI-Sicherheitsinstitut des britischen Ministeriums für Wissenschaft, Innovation und Technologie hatte den Modellen von Anthropic und des ChatGPT-Entwicklers OpenAI in seinen Tests der Cyberangriffsfähigkeiten absichtlich Zugang zum Internet gewährt.
Dabei sei man allerdings davon ausgegangen, dass die KI sich nur Software-Werkzeuge aus dem Netz holen würde, um die gestellte Aufgabe zu erfüllen. Man habe „nicht vorhergesehen“, dass das Anthropic-Modell Mythos 5 den Internet-Zugang für Aktivitäten ausnutzen würde, die sich gegen Menschen richten.
Die Forscher räumten auch ein, dass sie das Vorgehen erst nachträglich über eine Auswertung des Datenverkehrs entdeckten. In künftigen Test wollen sie die Datenströme in Echtzeit besser beobachten.
Anthropic und OpenAI hatten in den vergangenen Wochen bereits einräumen müssen, dass ihre KI-Modelle in Tests ungeplant in Computersysteme echter Unternehmen eingedrungen war.
Diese Eingeständnisse hatten die schon seit Jahren bestehende Sorge vor Cyberattacken mit Hilfe Künstlicher Intelligenz verstärkt.
In dem jüngsten Test legt die Anthropic-KI sich demnach selbst einen Account auf der Software-Plattform GitHub an und versuchte dort, in einem öffentlich zugänglichen Projekt Programmcode mit einer absichtlich eingebrachten Schwachstelle unterzubringen.
Um Betreuer der Software zu überzeugen, habe die KI Fake-Identitäten erschaffen, über die sie mit ihnen kommunizierte. Dazu hätten auch sogenannte Phishing-Mails gehört, mit denen Angreifer Menschen etwa Login-Informationen abluchsen.
Als der bösartige Programmiercode schließlich aufgefallen sei, habe das Anthropic-Modell alles als einen aufrichtigen Fehler dargestellt – und dann versucht, die Schwachstelle in angeblichen Korrekturen wieder unterzubringen.
Auch habe Mythos 5 daran gearbeitet, andere KI-Agenten zu infizieren. Der Programmiercode dafür sei nicht auf der Website angezeigt worden, sondern wäre nur von KI-Software über eine Schnittstelle gelesen worden, hieß es.
Anthropic verwies in einer Reaktion unter anderem darauf, dass dem KI-Modell in dem Test keine Einschränkungen zur Internet-Nutzung vorgegeben worden seien. Durch die fehlenden Leitplanken habe es sich anders verhalten als tatsächlich eingesetzte Software, argumentierte das Unternehmen.
Dem AI Security Institute (AISI) zufolge ist unklar, ob die KI bei dem Test verstand, dass sie mit der realen Welt und nicht dem Test-Umfeld interagierte.
Dass die Künstliche Intelligenz zur Lösung der Aufgabe öffentlich zugängliche Software manipulieren würde, kam für die Forscher jedenfalls überraschend. Auch KI von OpenAI sei in Testläufen auf eigene Faust im Internet aktiv gewesen, hieß es.
Anthropics Mythos 5 ist besonders gut darin, zum Teil über Jahrzehnte unentdeckt gebliebene Software-Schwachstellen aufzuspüren.
Deshalb ist das KI-Modell nicht öffentlich verfügbar. Stattdessen bekommen ausgewählte Behörden und Unternehmen Zugang dazu, um ihre Systeme abzusichern. (dpa/red)
Die iPhone-17-Modellreihe half Apple, zum Smartphone-Spitzenreiter zu werden. (Archivbild) - Foto: Andrej Sokolow/dpa/dpa-tmn
Vor dem erwarteten Start der nächsten iPhone-Generation hat der US-Techkonzern Apple mit Engpässen bei wichtigen Bauteilen zu kämpfen. Das Problem seien aktuell vor allem knappe Produktionskapazitäten bei kombinierten Chipsystemen, die das Herzstück von Apple-Geräten wie iPhones und Mac-Computern sind, sagte Konzernchef Tim Cook.
Apple habe die Nachfrage nach iPhones und Macs in den vergangenen Monaten trotz bereits hoher Absatzprognosen unterschätzt, gestand Cook, der im September nach 15 Jahren seinen Posten räumt.
In anderen Jahren wäre das kein allzu großes Problem gewesen – als Riesen-Kunde hat Apple viel Gewicht bei Zulieferern. Doch aktuell gebe es „weniger Flexibilität“ als üblich, beklagte Cook in einer Telefonkonferenz mit Analysten. Deshalb gebe es gravierende Engpässe und nur eingeschränkte Möglichkeiten zum Gegensteuern.
Die Chipkapazitäten sind ausgebucht, weil wegen des boomenden Geschäfts mit Künstlicher Intelligenz gerade enorm viele Halbleiter für den beschleunigten Ausbau von Rechenzentren bestellt werden.
Dabei ist jetzt die Zeit, in der Apple traditionell die Produktion neuer iPhone-Modelle rechtzeitig zur Markteinführung im Herbst hochfährt. Wie immer äußerte sich der Konzern nicht dazu, ob neue Modelle des Telefons auch diesmal wieder im September vorgestellt werden.
Branchenkenner gehen aber fest davon aus. Nach Informationen des Finanzdienstes Bloomberg soll in diesem Jahr auch das erste aufklappbare iPhone-Modell auf den Markt kommen.
Starkes iPhone-Quartal
Im vergangenen Quartal stieg der iPhone-Umsatz im Jahresvergleich um nahezu 22 Prozent auf 54,25 Milliarden Dollar (47 Milliarden Euro). Damit übertraf der Konzern die durchschnittlichen Erwartungen der Analysten.
Marktforschern zufolge legte der iPhone-Absatz im vergangenen Vierteljahr zu – und auch der durchschnittliche Verkaufspreis dürfte höher gewesen sein. Eigene Absatzzahlen nennen die großen Anbieter schon lange nicht mehr.
Das iPhone ist damit weiterhin das wichtigste Apple-Produkt. Es macht rund die Hälfte des Geschäfts aus. Insgesamt stieg der Apple-Umsatz um 16 Prozent auf gut 109,4 Milliarden Dollar. Unterm Strich legte der Gewinn um 27 Prozent auf knapp 29,8 Milliarden Dollar zu.
Dazu trugen laut Apple auch bereits verbuchte Rückzahlungen von US-Importzöllen bei, die dem Konzern zustehen, nachdem das Oberste Gericht der USA einige Maßnahmen von Präsident Donald Trump gekippt hatte.
Bei Dienstleistungen und dem Geschäft in der Region China konnte Apple trotz Zuwächsen die noch höheren Erwartungen der Analysten nicht erfüllen. Die Aktie fiel im US-Handel am Freitag zeitweise um mehr als neun Prozent.
Analyst Gil Luria von der Finanzfirma DA Nathanson verwies im US-Sender CNBC darauf, dass die Apple-Aktie als so etwas wie ein sicherer Hafen bei Wetten auf die KI-Zukunft galt: Egal, wer bei Künstlicher Intelligenz gewinnt, werde man die Software auf Geräten wie iPhones und Mac-Computern nutzen.
Die Anleger seien aber enttäuscht, dass Apple für das laufende Quartal ein verlangsamtes Wachstum vorhersagte. Die Apple-Aktie war in den vergangenen Monaten rasant gestiegen.
Teure Speicherchips
Wie auch anderen Computer-Anbietern macht Apple der drastische Preisanstieg bei Speicherchips zu schaffen. Unter Verweis auf die Kostenexplosion erhöhte der Konzern vor wenigen Wochen die Preise für mehrere Gerätekategorien. Die iPhones blieben davon ausgenommen.
Cook verwies nun darauf, dass der DRAM-Speichermarkt nur drei große Anbieter habe. „Es wäre gut, wenn es mehr Lieferanten gäbe“, sagte er. In der Branche wird das als Aufruf gedeutet, Apple und anderen US-Firmen den Kauf chinesischer Speicherchips zu erlauben. Dagegen gibt es aufgrund des Handelskonflikts zwischen Washington und Peking Widerstände in der US-Regierung.
Das Ende Juni abgeschlossene Vierteljahr war das letzte volle Quartal unter Cooks Regie. Er übergibt die Konzernführung zum September an den bisherigen Hardware-Boss John Ternus. (dpa/red)
Neue KI-Modelle des ChatGPT-Entwicklers OpenAI versuchten sich als Computer-Hacker, um bei einem internen Test zu schummeln. (Archivbild) - Foto: Richard Drew/AP/dpa
Der Hackerangriff durch eine außer Kontrolle geratene KI-Software von OpenAI hat größere Ausmaße als bislang bekannt. Wie Fachportale wie Wired.com und Hacker News berichten, hat der autonome KI-Agent von OpenAI bei einem Ausbruch aus seiner Testumgebung nicht nur die Open-Source-Plattform Hugging Face attackiert, sondern gezielt fremde Zugangsdaten abgegriffen und mindestens vier weitere Online-Dienste gekapert.
Der Vorfall ereignete sich beim Test eines neuartigen KI-Modells und eines Forschungsprototypen auf der Benchmark-Plattform ExploitGym. Um die maximalen Angriffsfähigkeiten zu messen, hatte OpenAI die Sicherheitsleitplanken deaktiviert.
Statt die gestellten Programmierrätsel regulär zu lösen, entschied sich die KI autonom dazu, die Musterlösungen direkt von den Servern von Hugging Face zu stehlen.
In einer aktualisierten Stellungnahme betont OpenAI jedoch, dass bisher keine weiteren Vorfälle von ähnlicher Schwere oder Skalierung wie bei Hugging Face festgestellt wurden.
Die laufende Untersuchung ergab lediglich, dass die Modelle öffentlich einsehbare Zugangsdaten nutzten, um auf Account-Ebene in vier Konten bei vier Drittanbieter-Diensten einzudringen.
Zudem war der Code eines Kunden des Anbieters Modal betroffen. Hinweise auf eine tiefere Beeinträchtigung dieser Anbieter oder anderer Nutzerkonten gebe es nicht.
Zusätzlich nutzte die KI frei zugängliche Web-Werkzeuge wie Screenshot-Dienste als Steuerungsnetzwerk, ohne diese jedoch auf System- oder Account-Ebene zu kompromittieren.
Bei Hugging Face hingegen erlangte der Agent Administrator-Rechte, Root-Zugriffe auf Produktionsservern und band 181 eigene Geräte ein.
Politik fordert Notausschaltknopf
Der Vorfall hat in den USA bereits politische Konsequenzen ausgelöst. Im US-Kongress wurde parteiübergreifend der „AI Kill Switch Act“ eingebracht, um Notabschalt-Mechanismen für KI gesetzlich vorzuschreiben.
OpenAI hat den betroffenen Forschungsprototypen inzwischen deaktiviert und verschlüsselt. (dpa/red)
Tesla schaffte ein deutliches Absatzplus. (Archivbild) - Foto: Patrick Pleul/dpa
Tesla kommt beim Plan von Firmenchef Elon Musk, den Elektroauto-Vorreiter auf Roboter und selbstfahrende Robotaxis auszurichten, langsamer voran als vor wenigen Monaten in Aussicht gestellt.
So spricht Tesla nicht mehr von einer Serienproduktion der Optimus-Roboter und des Robotaxi-Fahrzeugs Cybercab ohne Lenkrad und Pedale noch in diesem Jahr. Die Produktion werde wegen der Komplexität nur langsam anlaufen.
Zugleich verbuchte Tesla im vergangenen Quartal bei steigenden Ausgaben für die neuen Projekte einen niedrigeren Gewinn. Die Kapitalinvestitionen würden auch in den nächsten zwei oder drei Jahren weiter wachsen, sagte Finanzchef Vaibhav Taneja. 2026 sollen sie bei rund 26 Milliarden US-Dollar liegen.
Spekulationen über einen möglichen Zusammenschluss von Tesla mit seiner Raumfahrtfirma SpaceX sind nicht aus der Welt. Elon Musk sprach nach einer entsprechenden Analystenfrage von Überschneidungen zwischen den Unternehmen.
Doch man könne in einer Telefonkonferenz zu Quartalszahlen nicht über eine Zusammenlegung von Firmen reden. „Das muss mit einem angemessenen Verfahren gemacht werden.“
Chefjustiziar Brandon Ehrhart hob noch einmal gemeinsame Projekte wie den Bau einer Chipfabrik mit dem Namen Terafab hervor.
Musk ist Chef sowohl bei Tesla als auch bei SpaceX, das im Juni an die Börse gegangen war. Nach anfänglichen Kursgewinnen notiert die SpaceX-Aktie aktuell unter dem Ausgabepreis.
Bei SpaceX hat Musk dank einer höheren Beteiligung und Aktien mit mehr Stimmrechten komplett das Sagen, bei Tesla strebt er eine solche Position seit Jahren an. SpaceX schluckte bereits Musks KI-Firma xAI. Zuvor hatte Musk die Online-Plattform X in xAI eingebracht.
Tesla hatte die zwei vergangenen Jahre mit Absatzrückgängen abgeschlossen. Zuletzt wuchsen die Auslieferungen im zweiten Quartal im Jahresvergleich überraschend stark um rund ein Viertel auf 480.126 Fahrzeuge.
Dabei stieg auch der Umsatz um 26 Prozent auf etwa 28,24 Milliarden Dollar (24,75 Milliarden Euro). Analysten hatten im Schnitt mit rund 25,7 Milliarden Dollar gerechnet.
Doch beim bereinigten Ergebnis pro Aktie verfehlte Tesla die Wall-Street-Erwartungen. Analysten waren im Schnitt von 51 US-Cent ausgegangen, Tesla kam auf 33 Cent. Die Aktie fiel im nachbörslichen US-Handel um rund vier Prozent.
Tesla hat sein europäisches Werk, das das Model Y produziert, in Grünheide bei Berlin. Der Konzern kündigte jüngst einen Ausbau der Produktion in der Fabrik an.
Mitarbeiter von SpaceX feiern am 12. Juni 2026 in New York City am Nasdaq Marketsite den Börsenschluss des Börsengangs (IPO) von SpaceX. SpaceX wurde unter dem Tickersymbol SPCX notiert.
Foto: Spencer Platt/Getty Images
Quartalsgewinn sinkt
Der Quartalsgewinn sank um fünf Prozent auf gut 1,11 Milliarden Dollar. Der Rückgang dürfte unter anderem eine Folge von Rabatten im wichtigen Heimatmarkt USA gewesen sein. Zugleich nahm Tesla die lukrativeren teureren Modelle S und X aus dem Programm – um Platz für die Optimus-Produktion im kalifornischen Stammwerk Fremont zu schaffen.
Zudem fielen die Erlöse aus dem Verkauf von CO2-Verschmutzungsrechten auf 146 Millionen Dollar von 380 Millionen Dollar noch drei Monate zuvor. US-Präsident Donald Trump hatte dieses Geschäft durch sein Vorgehen gegen Abgas-Grenzwerte in den USA dezimiert. In den vergangenen Jahren half der Handel mit CO2-Rechten Tesla oft über Durststrecken.
Vom Quartalsgewinn gehen zudem 763 Millionen Dollar auf einen reinen Buchgewinn dank der Aufwertung der SpaceX-Beteiligung von Tesla durch den Börsengang zurück. Nach dem Bilanz-Stichtag 30. Juni verlor das Papier deutlich an Wert.
Unklarheit über Robotaxi-Flotte
Tesla versichert zwar, dass die Einführung der fahrerlosen Robotaxis gut laufe. Doch rund ein Jahr nach dem Start gibt es keine offiziellen Angaben zur Größe der Flotte in mehreren US-Städten – oder dazu, wie viele Fahrgäste befördert wurden.
Als führend Robotaxis-Anbieter gilt bislang Waymo. (Archivbild)
Foto: Andrej Sokolow/dpa
Als neue Zahl wurde genannt, dass Teslas fahrerlose Autos bisher insgesamt 380.000 Meilen (rund 611.000 Kilometer) ohne Aufsicht zurückgelegt hätten. Robotaxis der Google-Schwesterfirma Waymo kommen aktuell auf rund zwei Millionen Meilen (rund 3,2 Mill. Kilometer) pro Woche.
Tesla sieht seinen Ansatz bestätigt, bei selbstfahrenden Autos nur mit Kameras auszukommen, ohne die teureren Laser-Radare, auf die unter anderem Waymo setzt. (dpa/red)
Microsoft und Mistral AI bauen mit ihrer Vereinbarung die KI-Rechenkapazitäten in Europa aus. (Archivbild) - Foto: Martin Lelievre / AFP via Getty Images
Der US-Technologiekonzern Microsoft und das französische KI-Start-up Mistral AI bauen ihre strategische Allianz erheblich aus.
Mit einer neuen Vereinbarung im Umfang von mehreren Milliarden Euro wollen die Partner die europäischen Infrastrukturkapazitäten für Künstliche Intelligenz spürbar erweitern und hochmoderne KI-Modelle in sensiblen Unternehmen sowie Behörden verankern. Eine exakte Summe nannten die beiden Tech-Unternehmen nicht.
Im Zentrum des Abkommens stehe eine erhebliche Ausweitung der Rechenkapazitäten in Europa, teilten die beiden Unternehmen mit. Microsoft verpflichtet sich, Teile der von Mistral ausgebauten europäischen Hardware-Infrastruktur direkt zu nutzen.
Damit will der US-Konzern die enorm steigende Nachfrage nach Cloud- und KI-Diensten auf dem Kontinent bedienen und zugleich seine im Jahr 2025 abgegebenen Versprechen zur europäischen Digitalisierung einlösen.
Warum kooperiert Microsoft mit einem europäischen KI-Anbieter?
Sowohl europäische Unternehmen als auch öffentliche Institutionen stehen beim Einsatz US-amerikanischer KI-Lösungen häufig vor rechtlichen und regulatorischen Hürden.
Die erweiterte Partnerschaft setzt genau an dieser Schwachstelle an: Durch die Integration von Mistrals europäischen KI-Modellen in Microsofts Produktportfolio erhalten Kunden flexible Bereitstellungsoptionen.
Microsoft und Mistral haben am 21. Juli 2026 in Paris eine Vereinbarung im Wert von mehreren Milliarden Dollar geschlossen, durch die Microsoft Zugang zur europäischen KI-Recheninfrastruktur des französischen Entwicklers erhält.
Foto: Xavier Galiana / AFP via Getty Images
Anwendungen können künftig wahlweise in der öffentlichen Cloud, in lokal angebundenen Infrastrukturen oder völlig autark in physisch isolierten Systemen („fully disconnected“) betrieben werden.
Dies richtet sich insbesondere an Betreiber kritischer Infrastrukturen, Banken, den Gesundheitssektor sowie die Fertigungsindustrie, in denen Datenschutz, Geschäftsgeheimnisse und Ausfallsicherheit oberste Priorität besitzen.
Neben der Infrastruktur ebnen die Partner auch auf Softwareebene den Weg für einen breiteren Einsatz in Unternehmen.
Die neuen Flaggschiff-Modelle Mistral Medium 3.5 für kosteneffiziente Unternehmens-Anwendungen sowie OCR 4 für automatisierte Dokumentenverarbeitung stehen ab sofort in Microsofts Entwicklungsplattform bereit.
Zudem hält Mistral Medium 3.5 Einzug in das Automatisierungswerkzeug Microsoft Copilot Studio. Die Lösungen wollen Mistral und Microsoft gemeinsam vermarkten.
Abhängigkeit von OpenAI reduzieren
Der Milliarden-Deal unterstreicht die Strategie von Microsoft, sich im Bereich der generativen KI nicht allein auf den US-Partner OpenAI zu verlassen, sondern auch andere Schlüsselspieler im globalen Ökosystem frühzeitig einzubinden.
Für das Pariser KI-Aushängeschild Mistral wiederum bedeutet die Vertiefung der Allianz den direkten Zugang zum weltweiten Vertriebsnetzwerk von Microsoft, während der KI-Standort Europa nachhaltig gestärkt wird. (dpa/red)
Die Europäische Kommission will europäischen Nutzerinnen und Nutzern eine breitere Auswahl an KI- und Suchdiensten ermöglichen. (Symbolbild) - Foto: Mohssen Assanimoghaddam/dpa
Die Europäische Kommission macht im Streit mit Google um KI-Optionen für Android-Nutzer sowie die Weitergabe von Daten an Suchmaschinen verbindliche Vorgaben an den US-Konzern. Google muss laut Mitteilung der Wettbewerbshüter in Brüssel damit beginnen, Daten mit Drittanbietern von Suchfunktionen zu teilen, darunter auch KI-Chatbots.
Zudem muss der Tech-Riese konkurrierenden KI-Assistenten vollen Zugang zu den Funktionen des Google-Betriebssystems Android gewähren.
Ziel der Maßnahmen sei es, europäischen Nutzerinnen und Nutzern eine breitere Auswahl an KI- und Suchdiensten zu ermöglichen, erklärte die Kommission.
Konkret sollen Menschen ihren bevorzugten KI-Assistenten auf Android-System per Sprachbefehl aktivieren können, ähnlich wie mit „Hey Google“. KI-Dienste sollen zudem in der Lage sein, Aktionen wie Taxibuchungen in Apps auszuführen. Bislang behält Google laut EU-Kommission diese Möglichkeiten weitgehend etwa seinem eigenen KI-Angebot Gemini vor.
Die zweite Entscheidung betrifft das Teilen von Daten zu Suchanfragen, Rangfolgen in den Ergebnissen sowie Klick- und Nutzungsverhalten.
Der Austausch mit Drittanbieter-Suchmaschinen sei entscheidend für deren Entwicklung und Optimierung, so die Kommission. Ihr Ziel ist es, dass kleinere Suchmaschinen und KI-Chatbots trotz der dominierenden Marktstellung von Google eine Chance im Wettbewerb haben.
Google kritisiert Vorgaben: Gefahr für Privatsphäre
Der Tech-Riese wies die Vorgaben wegen Datenschutzbedenken erneut zurück. „Die heutigen Entscheidungen bergen die Gefahr, dass wichtige Schutzmechanismen für die Privatsphäre und Sicherheit von Millionen Europäern untergraben werden“, hieß es vom Unternehmen.
Besonders besorgniserregend sei, dass die privaten Suchanfragen der Europäer unbekannten Unternehmen zugänglich gemacht würden. Die EU-Kommission betonte hingegen, dass die Entscheidung eine Anonymisierung der Suchdaten sicherstelle und eine mehrschichtige Methode dafür festlege.
Die Maßnahmen zu Suchdaten muss Google laut Kommission ab Januar 2027 umsetzen, beim Android-System ab Juli 2027. Die Vorgaben basieren auf dem Gesetz über digitale Märkte (Digital Markets Act – DMA), mit dem die EU die Macht großer Online-Plattformen begrenzen will. Google gehört zu den sogenannten Gatekeepern („Torwächtern“), die wegen ihrer dominanten Stellung besonderen Regeln unterliegen. (dpa/red)
Die ChatGPT-Firma OpenAI will ein Gerät speziell für KI-Nutzung bauen - und handelte sich eine Klage von Apple ein. (Archivbild) - Foto: Richard Drew/AP/dpa
Apple wirft dem ChatGPT-Entwickler OpenAI und zwei ehemaligen Mitarbeitern in einer Klage Diebstahl von Firmengeheimnissen vor. Einer der beiden ist Tang Tan, ein ehemaliger ranghoher Apple-Designer, der heute Hardware-Chef von OpenAI ist. In dieser Funktion spielt er eine zentrale Rolle bei der Arbeit an einem neuartigen Gerät, das die ChatGPT-Firma auf die Nutzung mit Künstlicher Intelligenz ausrichten will.
OpenAI entgegnete in einer Stellungnahme beim Finanzdienst Bloomberg, man habe kein Interesse an Geheimnissen anderer Unternehmen. Die Firma bleibe fokussiert darauf, innovative Technologie zu entwickeln.
Zugang zum neuen KI-Modell von OpenAI bekommt auf Forderung der US-Regierung nur eine kleine Gruppe vertrauenswürdiger Partner. (Archivbild)
Foto: Karl-Josef Hildenbrand/dpa
Design-Guru als Türöffner
OpenAI verpflichtete für das Hardware-Projekt auch Jony Ive, den langjährigen Design-Visionär von Apple, der unter anderem maßgeblich die Form von iPhones und MacBook-Laptops geprägt hatte. Das dürfte der ChatGPT-Firma geholfen haben, attraktiver für andere Apple-Beschäftigte zu werden. Der Klage zufolge sind inzwischen mehr als 400 ehemalige Apple-Mitarbeiter bei OpenAI angestellt.
Tan gehört zu den ranghöchsten Überläufern. Er arbeitete mehr als 20 Jahre bei Apple und verantwortete vor seinem Wechsel das Design des iPhones und der Computer-Uhr Apple Watch.
Apple vermutet Strategie von OpenAI dahinter
Der Klage zufolge kam Apple nach Ermittlungen zu dem Schluss, dass Tan vertrauliche Informationen des iPhone-Konzerns zum Vorteil von OpenAI missbraucht habe. Unter anderem habe er Apple-Mitarbeiter aufgefordert, zu Job-Interviews für Arbeitsplätze bei OpenAI Bauteile des Konzerns mitzubringen – darunter Batterien und Geräte-Gehäuse in verschiedenen Farben.
Apple sieht das als Teil einer „Strategie“ von OpenAI, an vertrauliche Informationen des Unternehmens zu kommen. Nach Darstellung von Apple griff die Firma zu „rechtswidrigen Abkürzungen“, um das KI-Gerät zu entwickeln, weil dies sich als schwieriger erwiesen habe als angenommen.
Der andere verklagte Ex-Mitarbeiter von Apple, ein ranghoher Ingenieur, soll dem Konzern zufolge über einen mitgenommenen Firmen-Computer noch als OpenAI-Beschäftigter auf vertrauliche Daten seines früheren Arbeitgebers zugegriffen haben.
Schatten auf Hardware-Projekt von OpenAI
Ive wird in der Klage nicht erwähnt – wohl aber die unter anderem von ihm und Tan mitgegründete Firma io Products, die OpenAI 2025 für rund 6,5 Milliarden Dollar kaufte. Man habe neben OpenAI auch io verklagt, um zu verhindern, dass über das Unternehmen weiter Apple-Geheimnisse verwendet würden, hieß es in der Klage.
Durch die Zusammenarbeit mit OpenAI war Ive dabei, in direkte Konkurrenz zu seinem einstigen Arbeitgeber zu treten. Nun wirft die Apple-Klage einen Schatten auf das ganze Hardware-Projekt von OpenAI. Es sei „bis ins Mark verrottet“, da OpenAI sich dafür auf illegal erworbene Firmengeheimnisse gestützt habe, kritisierte Apple in der Klageschrift.
Apple-Logo (Archiv)
Foto: via dts Nachrichtenagentur
OpenAI ist zugleich ein KI-Partner von Apple
Apple und OpenAI sind seit mehreren Jahren Partner bei der Nutzung Künstlicher Intelligenz auf iPhones und anderen Geräten des Konzerns. Apple-Kunden können allgemeine Anfragen, die die hauseigene Sprachassistentin Siri nicht beantworten kann, an ChatGPT weiterreichen lassen. Medienberichten zufolge erwog OpenAI vor einigen Monaten eine Klage gegen Apple mit dem Vorwurf des Vertragsbruchs, weil diese Partnerschaft sich schlechter entwickelt habe als von der KI-Firma erwartet. (dpa/red)
Investitionen in Software oder Forschung und Entwicklung sind immateriell, aber wichtig für die Zukunft. (Symbolbild) - Foto: Oliver Berg/dpa
Deutschland liegt bei Investitionen in Forschung und Entwicklung, Software, Design und andere immaterielle Werte weltweit in der Spitzengruppe.
Nach einer Studie der Weltorganisation für geistiges Eigentum (Wipo) und der Luiss Business School summierten sich die privaten und öffentlichen immateriellen Investitionen in Deutschland 2025 auf knapp 728 Milliarden US-Dollar (637,5 Milliarden Euro).
Das bedeutete Platz drei hinter Japan und den USA. Allerdings fehlt mangels verfügbarer Daten China in der Auswertung. Veröffentlicht wurden die Daten vom Deutschen Patent- und Markenamt in München.
Als „immaterielle“ Investitionen zählt die UN-Organisation Ausgaben für unterschiedlichste Zwecke, die nicht unter die traditionelle Definition von Investitionen in neue Maschinen, Anlagen oder Fabriken fallen.
Dazu gehören neben Forschung und Entwicklung und Software unter anderem noch Finanzprodukte, aber auch Design und Marken.
„Know-how und Schutzrechte des geistigen Eigentums sind immer entscheidendere Faktoren für die internationale Wettbewerbsfähigkeit und die globale Entwicklung des Wohlstands“, sagte Patentamtspräsidentin Eva Schewior.
„Dass Deutschland bei den Investitionen in immaterielles Vermögen zu den führenden Nationen gehört, ist ein gutes Zeichen.“
Die deutschen immateriellen Investitionen machten demnach 2025 11,7 Prozent des Bruttoinlandsprodukts aus. Das war deutlich höher als der Anteil der traditionellen materiellen Investitionen, der bei 10,4 Prozent lag.
USA führt mit großem Abstand
Die Berechnungen illustrieren zumindest indirekt die Probleme der deutschen Industrie. Spitzenreiter sind die USA, die 2025 laut Wipo knapp fünf Billionen Dollar (4,38 Billionen Euro) an immateriellen Investitionen tätigten.
Das war annähernd die Hälfte der weltweiten Gesamtsumme von zehn Billionen Dollar (8,76 Billionen Euro) und sechsmal so viel wie im zweitplatzierten Japan (810 Milliarden Dollar/709 Milliarden Euro).
Doch während die herkömmlichen materiellen Investitionen der Industrie in Deutschland laut Studie stagnieren, sind auch diese in den USA gestiegen.
Die Bundesrepublik ist allerdings nicht das einzige Land, in dem die traditionellen Investitionen stagnieren: In Kanada ist die Entwicklung ähnlich, und in Japan sind sie laut Wipo sogar gesunken. (dpa/red)
Das Bundesland Mecklenburg-Vorpommern möchte sich von US-Tech-Konzernen wie Microsoft stärker unabhängig machen. - Foto: Jens Büttner/dpa
Mecklenburg-Vorpommern geht in der Digitalpolitik in die Offensive und setzt auf Eigenständigkeit. Wie das Finanz- und Digitalisierungsministerium bekannt gab, trennt sich das Land schrittweise von der Software großer Tech-Konzerne wie Microsoft.
Stattdessen wird eine landesweite Plattform auf Open-Source-Basis aufgebaut. Dabei gehe es nicht nur darum, die digitale Souveränität zu erlangen, sondern auch mittel- und langfristig Geld einzusparen, sagte Finanzminister Heiko Geue (SPD) der Deutschen Presse-Agentur (dpa).
Nextcloud statt SharePoint: Der sanfte Umstieg
Im Zentrum der neuen Strategie steht die Einführung der in Deutschland entwickelten quelloffenen Online-Plattform Nextcloud, mit der man Dateien sicher speichern, teilen sowie gemeinsam in Teams chatten und Videokonferenzen abhalten kann, ohne die Kontrolle über die eigenen Daten an fremde Anbieter zu verlieren.
Der bisherige Umstieg von Microsoft SharePoint sei für die ersten 5.000 Beschäftigten bereits reibungs- und datenverlustfrei abgeschlossen worden, berichtet Marco Anschütz, der als Chief Information Officer (CIO) für IT und Digitalisierung im Bundesland verantwortlich ist.
Mittelfristig ist das Projekt viel größer angelegt: Über 50.000 Mitarbeiterinnen und Mitarbeiter im öffentlichen Dienst – von den Ministerien bis hin zu den kommunalen Einrichtungen – sollen künftig mit dem System arbeiten. Betrieben wird die Software auf eigener Infrastruktur durch den landeseigenen IT-Dienstleister DVZ M-V GmbH.
Technologische Allianz im Norden
Mecklenburg-Vorpommern geht diesen Weg nicht allein. Bereits im Oktober 2025 schloss das Land eine Kooperationsvereinbarung mit Schleswig-Holstein, das bundesweit als Pionier beim Wechsel auf Open-Source-Software gilt. Zusammen bilden die beiden Bundesländer eine technologische Allianz im Norden.
Man stimme die Infrastrukturen aufeinander ab, um insbesondere die IT-Sicherheit zu erhöhen und gegenseitige Notfallszenarien abzusichern.
Beim Thema Künstliche Intelligenz (KI) versucht Mecklenburg-Vorpommern von vornherein eine Abhängigkeit von US-Techriesen wie Microsoft, OpenAI, Google oder Amazon zu vermeiden.
Bei der Entwicklung des Verwaltungs-Chatbots „Lea“ werde bewusst auf US-amerikanische Hyperscaler verzichtet. „Stattdessen wollen wir auf europäische Sprachmodelle wie Mistral aus Frankreich oder Tilde aus Lettland setzen“, sagt Anschütz.
Kein vollständiger Verzicht auf Microsoft
Der Verzicht auf Microsoft-Lösungen im Bereich Cloud und KI heißt allerdings nicht, dass Mecklenburg-Vorpommern dem weltgrößten Softwarekonzern komplett den Rücken kehren wird.
Es sei nicht geplant, die in der Verwaltung eingesetzten Windows-PCs kurzfristig durch Rechner mit dem offenen Betriebssystem Linux zu ersetzen. Dies habe derzeit noch keine Priorität, betont Anschütz.
Der Landesbeauftragte für Datenschutz und Informationsfreiheit Mecklenburg-Vorpommern, Sebastian Schmidt, begrüßte den Schritt. „Die Verwaltungen im Land verarbeiten viele – teilweise sehr sensible – personenbezogene Daten der Bürgerinnen und Bürger. Diese Daten gilt es, vor den Zugriffen von Dritten bestmöglich zu schützen“, sagte Schmidt. (dpa/red)
Anthropic-Chef Dario Amodei findet, dass Regierungen die Macht haben sollten, gefährliche KI blockieren zu können. (Archivbild) - Foto: Andrej Sokolow/dpa
Die KI-Firma Anthropic wirft dem chinesischen Alibaba-Konzern einen großangelegten Versuch vor, widerrechtlich Fähigkeiten seiner Software mit Künstlicher Intelligenz abzugreifen.
Anthropic fordert deswegen vom US-Kongress Maßnahmen, die solche Attacken verhindern sollen, wie aus einem von der „Financial Times“ veröffentlichten Brief an amerikanische Senatoren hervorgeht. Alibaba äußerte sich zunächst nicht zu den Vorwürfen.
Dem Brief zufolge interagierten mit Alibaba verbandelte Angreifer über nahezu 25.000 betrügerische Accounts von Ende April bis Anfang Juni fast 29 Millionen Mal mit Anthropics KI-Software Claude. Dabei hätten sie mehr über zentrale Aspekte wie etwa den Aufbau der Software und deren Logik beim Ausführen von Aufgaben erfahren wollen.
Dabei hätten die Angreifer zu einer unter dem Begriff „Destillation“ bekannten Methode gegriffen, bei der Entwickler neuer Software sie mit Künstlicher Intelligenz von einem bereits existierenden Modell anlernen lassen. Solche Zugriffe sind gemeinhin in Nutzungsbedingungen untersagt.
Tech-Milliardär Elon Musk räumte jüngst in einem Gerichtsverfahren ein, dass er mit dieser Technik seinen KI-Chatbot Grok von KI-Modellen des ChatGPT-Entwickler OpenAI lernen ließ. Anthropic gilt aktuell als der schärfste Rivale von OpenAI und warf chinesischen Unternehmen wiederholt vor, die Methode zu verwenden.
In dem Brief forderte Anthropic vom Kongress unter anderem ein härteres Vorgehen gegen chinesische Unternehmen, die zur „Destillation“ greifen.
Auch sollten amerikanische KI-Firmen die Freiheit bekommen, einander vor solchen Attacken zu warnen. Zudem ruft Anthropic dazu auf, den Zugang chinesischer Player zu Technik wie KI-Chips weiter einzuschränken.
Damit bekräftigt die KI-Firma den Konfrontationskurs zum Chip-Schwergewicht Nvidia. Das Unternehmen wirbt bei der US-Regierung dafür, auch die Ausfuhr leistungsstärkerer KI-Systeme nach China zu erlauben.
Anthropic steckt dabei selbst in einem Konflikt mit der US-Regierung. Diese zwang die Firma jüngst, deren Top-Software mit Künstlicher Intelligenz vorläufig vom Markt zu nehmen. Zur Begründung wurde dabei auf angebliche Schwachstellen verwiesen, über die Einschränkungen des KI-Programms mit dem Namen „Fable 5“ ausgehebelt werden könnten.
Bei dem Programm ist unter anderem die Fähigkeit zur Suche nach Sicherheitslücken in anderer Software blockiert.
Die Sorge ist, dass KI für Cyberattacken verwendet werden könnte. Anthropic konterte, die Probleme seien nicht schwerwiegend. Verhandlungen mit der US-Regierung zu der Sperre laufen noch. (dpa/red)
