Tag: Software

Categories
ausland ticker

Wie geht es weiter nach dem Nvidia-Eklat?

Mit Nvidia-Chef Jensen Huang verliert die KI-Branche eines ihrer bekanntesten Gesichter. (Archivbild) - Foto: Chiang Ying-ying/AP/dpa
Über Jahre wirkte Jensen Huang unersetzlich für Nvidia. Doch das änderte sich binnen weniger Tage – nun muss der Chip-Riese dringend überlegen, wer den charismatischen Gründer und bisherigen Chef ersetzen kann.
Anleger verdauten Huangs am Donnerstag wegen einer Reihe außerehelicher Affären verkündeten Rücktritt recht schnell: Die Aktie sackte erst um mehr als 13 Prozent ab, ging aber nur noch mit einem Minus von rund vier Prozent aus dem US-Handel. Doch außerhalb von Nvidia könnte Huangs Fall noch weite Kreise ziehen – und unter anderem Handelsminister Howard Lutnick treffen.

Wer könnte auf dem Nvidia-Chefposten auf Huang folgen?

Nachdem Finanzchefin Colette Kress kommissarisch die Führung übernommen hat, will der Verwaltungsrat von Nvidia nun interne und externe Kandidaten für eine dauerhafte Nachfolge prüfen. Analysten sehen als mögliche Kandidaten andere Konzernlenker aus der Chip-Branche.
Dazu gehören etwa Lisa Su, die Chefin des Intel-Konkurrenten AMD, sowie Rene Haas, der den Chipdesigner Arm führt, dessen Technologie in praktisch allen Smartphones und Tablet-Computern zum Einsatz kommt. Medienberichten zufolge wird auch der Apple-Manager Johny Srouji als potenzieller Anwärter gehandelt. Er brachte den iPhone-Konzern bei der Entwicklung eigener Chips voran.
Doch ob irgendjemand aus dieser Liste interessiert wäre, ist unklar. Der Job ist schwer zu besetzen. Denn Nvidia hatte bis jetzt in mehr als 30 Jahren keinen anderen Chef und agierte mit einer explizit auf Huang zugeschnittenen Führungsstruktur: Rund 60 Top-Manager berichteten direkt an ihn. Außerdem kommen nach Huangs Affäre mit einer möglichen chinesischen Spionin neue Fragen zum Schmuggel von Nvidia-Chips nach China auf.

Was hat es damit auf sich?

Die US-Regierung untersagte die Lieferung der leistungsstärksten Nvidia-Chips nach China. Das Unternehmen und Huang beteuerten stets, dass Nvidia sich an alle Verbote halte.
Allerdings kamen US-Behörden wiederholt zu dem Schluss, dass einige Firmen unter anderem in Asien, die Nvidia-Technik angeblich für den eigenen Gebrauch kaufen, sie in Wirklichkeit aber nach China weiterschickten.
Einen solchen Verdacht gab es auch gegen die Firma Megaspeed aus Singapur, für die eine aus China stammende Geliebte Huangs zeitweise arbeitete. Megaspeed bezog in den vergangenen Jahren Nvidia-Chips für rund vier Milliarden Dollar, wie unter anderem die „New York Times“ berichtete.

Wer war dafür in der US-Regierung zuständig?

Die Exportkontrolle liegt im Ressort des Handelsministers Howard Lutnick – und der gerät nun unter Druck. Parlamentarier nicht nur der Demokratischen Partei, sondern auch aus dem Kreis von Präsident Donald Trumps Republikanern fordern Antworten.
Der republikanische Senator Tim Scott lud Huang und Lutnick für Dezember vor den Bankenausschuss zu einer öffentlichen Anhörung vor.  Lutnick sagte nach Sprecher-Angaben schnell zu.
Scotts Kollege John Kennedy, ebenfalls ein Republikaner, gab beim Nachrichtensender CNN einen Vorgeschmack auf die Fragen: „Warum verkauften sie die Chips? Folgten sie ihrer Spur? Woher wissen sie, dass die Chips an die Unternehmen gingen und nicht an die Kommunistische Partei Chinas?“ Den Eklat bezeichnete Kennedy als eine „intergalaktische Freak-Show“.
Lutnick kämpfe nun um seinen Job, weil er sich gegen Einschränkungen für Chip-Exporte gesperrt habe, schrieb das „Wall Street Journal“. Huang hatte erst kürzlich bei einem Auftritt nebenbei gesagt, er habe in der Regierung vor allem mit „Howard“ zu tun.

Wie gut kann Nvidia ohne Huang auskommen?

„Ich bin nicht wirklich besorgt – jedenfalls was die kurz- bis mittelfristige Entwicklung des Geschäfts betrifft“, sagte Halbleiter-Branchenanalyst Stacy Rasgon dem Wirtschaftssender CNBC.
Zugleich frage er sich aber, wer im Nvidia-Chefsessel in der Lage sein werde, zehn Jahre vorauszuplanen und die Beziehungen zu Zulieferern und Kunden zu unterhalten – wie sie Huang über Jahrzehnte aufgebaut hatte. Es werde wohl noch einige Zeit dauern, bis man sich über die künftige Entwicklung von Nvidia klar sein werde, sagte Rasgon.
Tech-Analyst Patrick Moorhead zeigte Verständnis für Stimmen aus der Branche, die Huangs Abgang bedauerten: „Ich denke, die Leute sind traurig darüber, was das für die Zukunft bedeuten könnte.“
Andere Marktbeobachter gaben sich überzeugt, dass Nvidia auch ohne den Gründer-Chef klarkommen kann: „Das ist ein Unternehmen mit vier Billionen Dollar Börsenwert – nicht weil Jensen Firmenchef ist, sondern weil sie im vergangenen Quartal 100 Milliarden Dollar Umsatz erwirtschaftet haben und im Jahresvergleich um 100 Prozent gewachsen sind“, sagte Matt Witheiler von der Finanzfirma Wellington Management der „Financial Times“.

Wie wurde Nvidia so wichtig?

Das vor 33 Jahren gegründete Unternehmen war ursprünglich auf Grafikkarten für Computer spezialisiert. Das war ein wechselhaftes Geschäft, und die Firma war vor allem bei Gamern populär. Für eine Sonderkonjunktur sorgte später der Vormarsch von Digitalwährungen, die mit Nvidia-Grafikkarten erzeugt werden konnten.
Vor einigen Jahren stellte sich dann heraus, dass Software mit Künstlicher Intelligenz besonders effizient mit Technologie von Nvidia trainiert werden kann. Große KI-Entwickler wie OpenAI, Anthropic oder Google füllen ganze Rechenzentren mit Nvidia-Technik.
Huang ritt die Welle und brachte Nvidia auch verstärkt ins Geschäft mit dazugehöriger Software sowie Prozessoren für den Betrieb bereits angelernter KI-Modelle. (dpa/red)
Categories
ticker wirtschaft

Microsoft-Störung in 74 Ländern: Outlook, Teams und Copilot betroffen

Die Störung traf den Online-Maildienst von Microsoft. (Archivbild) - Foto: Lindsey Wasson/AP/dpa
Eine stundenlange Störung hat viele Unternehmen und Verbraucher von Microsofts Cloud-Angeboten wie dem E-Mail-Dienst Outlook abgeschnitten. Wie die Störungsplattform Downdetector berichtete, weitete sich die Störung am Donnerstag binnen einer Stunde weltweit aus und legte Microsoft-Dienste in 74 Ländern und Regionen lahm. Laut Microsoft verliefen die Maßnahmen zum Beheben des Problems auch in der Nacht zu Freitag „nicht wie erhofft“.
Betroffen war eine ganze Palette von Diensten des Windows-Riesen. Beim Bürokommunikations-Angebot Teams etwa konnten Aufgaben versagen, die auf die Kalender-Anbindung angewiesen sind. Nicht nutzbar für Unternehmenskunden war zum Teil auch der KI-Assistent Copilot. Bei beiden Anwendungen, die zum Cloud-Angebot Microsoft 365 gehören, registrierte Downdetector tausende Störungsmeldungen.

Ausfälle auf mehreren Kontinenten

Eine von Downdetector im Onlinedienst X veröffentlichte Karte zeigte, dass die Ausfälle Nutzer in Nord- und Südamerika sowie in Teilen Europas, Asiens und Afrikas betrafen. In den USA zog sich die Störung über einen Großteil des Arbeitstages hin. Nach Angaben von Downdetector wurden gegen 19.00 Uhr MEZ knapp 130.000 Probleme mit Outlook gemeldet. Gegen Mitternacht waren es noch rund 37.000 Meldungen.

Enttäuschte Hoffnungen

Microsoft dokumentierte auf der Online-Plattform X den Kampf gegen die Ausfälle, der zunächst ohne durchschlagenden Erfolg blieb. Der Software-Riese berichtete zunächst von Problemen bei Exchange-Mailboxen in den USA. Danach hieß es vom Unternehmen, dass die Störung Nutzer von Microsoft 365 in allen Weltregionen treffen könne. „Ein Teil der Infrastruktur in mehreren Regionen“ sei „einer erhöhten Auslastung ausgesetzt“, was „wahrscheinlich zu den Verbindungsfehlern“ beitrage. Man versuche, den Datenverkehr an möglicherweise problematischen Servern vorbeizuleiten.
Im nächsten Schritt schien Microsoft einen Erfolg vermelden zu können: Auf betroffenen Servern sei ein Prozess entdeckt worden, der sie lahmlege. Danach hieß es, man bringe einen Teil der Server wieder ans Netz – „und sie bleiben so weit stabil“. Eine Stunde später kam der Rückschlag: Die Server könnten sich wieder aufhängen, sobald Datenverkehr sie erreiche, berichteten die Microsoft-Ingenieure.
Im nächsten Anlauf wurde dann versucht, Teile der Infrastruktur isoliert hochzufahren, und dabei sehe man „positive Ergebnisse“, hieß es. In der Nacht zu Freitag musste Microsoft jedoch wieder einen Rückschlag einräumen: „Wir haben den Status der vorgenommenen Änderungen zur Verbesserung der Serviceverfügbarkeit überwacht und festgestellt, dass diese nicht die erwartete Wirkung zeigen.“ Das Unternehmen arbeite nun „an alternativen Ansätzen, um die Kapazität angesichts anhaltender Ungleichgewichte bei der Datenverkehrssteuerung zu erhöhen“. Wie lange die Störung noch andauern könnte, blieb zunächst unklar.

Schon im August großer Ausfall

Ausfälle von Online-Diensten gehören zum Alltag – meist sind sie aber nur von kurzer Dauer. Manchmal allerdings sind die Probleme so gravierend oder so schwer zu finden, dass es zu stundenlangen Störungen kommt. Microsofts E-Mail-Dienste hatten erst Ende August einen stundenlangen großflächigen Ausfall durchlebt. Nutzer konnten sich über Stunden hinweg nicht einloggen oder Nachrichten senden und empfangen. Als Ursache nannte Microsoft damals ein Problem in der Cloud-Infrastruktur. (dpa/afp/red)
Categories
ausland ticker

Nvidia-Chef tritt nach Affären zurück

Huang hatte zunächst von einer ganz gewöhnlichen Kundenbeziehung gesprochen. (Archivbild) - Foto: Soeren Stache/dpa
Der langjährige Nvidia-Chef Jensen Huang ist nach Affären zurückgetreten. Den Posten übernimmt kommissarisch Finanzchefin Colette Kress, wie der Chip-Konzern mitteilte. In der Zwischenzeit solle intern und extern nach einer dauerhaften Besetzung gesucht werden. Der 63-jährige Huang wurde zu einem Aushängeschild des KI-Booms und führte Nvidia zu Rekordzahlen führte.
Huang hatte am Wochenende zugegeben, seine Ehefrau betrogen zu haben. Zuvor war in Medienberichten die Rede von einem engen Verhältnis zu einer Frau gewesen, die von US-Sicherheitskreisen verdächtigt werde, vom chinesischen Geheimdienst angeworben worden zu sein. Mitte der Woche folgten Berichte über eine weitere Affäre, diesmal mit einer Top-Managerin von Nvidia. Bei Verhältnissen von Chefs mit ihnen untergeordneten Managern greifen US-Verwaltungsräte gewöhnlich hart durch.

Gesicht des KI-Wandels

Die Chips von Nvidia, einer der wertvollsten Firmen der Welt, dominieren in Rechenzentren beim Training und dem Betrieb Künstlicher Intelligenz. Huang profilierte sich als Gesicht des KI-Wandels: Bei Nvidia-Konferenzen und anderen öffentlichen Auftritten predigt er unermüdlich die weltverändernde Rolle Künstlicher Intelligenz in allen Lebensbereichen.
Eine Krise von Nvidia könnte auch viel weitere Kreise ziehen: Ihre Milliardengewinne investiert die Firma aus Santa Clara im Silicon Valley zum Teil in die Unterstützung von KI-Start-ups, die damit wiederum Chips des Konzerns kaufen. Huang baute in den vergangenen Jahren zudem ein enges Verhältnis zu US-Präsident Donald Trump auf.
Huang wurde noch vor kurzem beim Innovationsgipfel der Bundesregierung der rote Teppich ausgerollt. Die Bundesregierung vereinbarte eine Zusammenarbeit mit Nvidia.

Zunächst Dementis

Im Fall der Affäre mit einer möglichen chinesischen Spionin hatten Nvidia – und auch Huang selbst – zunächst von ganz gewöhnlichen Kontakten zur Managerin eines Kundenunternehmens gesprochen. Erst nachdem die „Financial Times“ von einer Liebesbeziehung berichtete, gab der Nvidia-Chef die Affäre zu.
Der Nvidia-Verwaltungsrat leitete daraufhin eine Untersuchung ein. Zunächst hatte es geheißen, das Gremium habe weiterhin Vertrauen in Huang und dessen Führungsmannschaft.

„Ich war meiner Frau untreu“

Huang bestätigte am Sonntag in einer E-Mail an die Nvidia-Beschäftigten, dass er eine Affäre gehabt habe. „Ich schulde meiner Familie und Euch allen eine Entschuldigung“, schrieb er. „Ich war meiner Frau untreu.“ Das Ehepaar ist seit gut 40 Jahren verheiratet.
In der Milliardärs-Rangliste des Finanzdienstes Bloomberg steht Huang aktuell auf dem 13. Platz mit einem geschätzten Vermögen von 145 Milliarden Dollar, das hauptsächlich aus Nvidia-Aktien besteht. In der E-Mail schrieb Huang, dass er hoffe, das Vertrauen der Familie mit der Zeit zurückzugewinnen. Eine Tochter und ein Sohn des Paars arbeiten ebenfalls bei Nvidia.

Huang ist für Chipverkäufe nach China

Zwischen Huang und der US-Regierung gab es immer wieder Differenzen über Beschränkungen für die Lieferung moderner KI-Chips nach China. Der Nvidia-Chef argumentiert, Verbote schadeten der Dominanz von Nvidia und damit auch der Vorreiter-Rolle der USA, weil sie die Entwicklung eigener Technologie in China beschleunigen würden. Die US-Regierung versucht dagegen seit Jahren, chinesische Fortschritte bei Künstlicher Intelligenz durch die Blockade der Lieferungen von Hochleistungschips unter anderem von Nvidia zu bremsen.
Die aus China stammende Frau, mit der Huang eine Affäre gehabt haben soll, arbeitete zeitweise für die Firma Megaspeed. Das Unternehmen war verdächtigt worden, eine Hülle zu sein, über die Nvidia-Chips nach China geschleust werden könnten. (dpa/red)
Categories
ausland ticker

Nach Spionageaffäre: Nvidia berät über Absetzung von Konzernchef Huang

Huangs Name ist untrennbar mit Nvidias steilem Aufstieg verbunden. (Archivbild) - Foto: Soeren Stache/dpa
Nvidia-Chef Jensen Huang steht einem US-Medienbericht zufolge im Zuge einer Affäre mit einer mutmaßlichen Spionin Chinas womöglich kurz vor seiner Absetzung. Der Verwaltungsrat des Chip-Entwicklers Nvidia habe bereits für Mittwoch ein Treffen geplant, berichtete das „Wall Street Journal“ unter Berufung auf mit der Angelegenheit vertraute Kreise. Bei der Zusammenkunft sollte demnach eine Entscheidung über Huangs Zukunft getroffen werden.
Die „New York Times“ berichtete zudem am Mittwoch über eine weitere außereheliche Beziehung des Nvidia-Chefs. Demnach soll es entsprechende kompromittierende Aufnahmen geben, auf denen Huang mit der leitenden Mitarbeiterin Kimberly Powell zu sehen ist.
Zuvor hatte der 63-jährige Nvidia-Chef eine außereheliche Beziehung eingeräumt – nach Medienberichten soll er eine Affäre mit Alice Huang gehabt haben. Die chinesische Managerin, mit der Huang nicht verwandt ist, war nach US-Geheimdienstinformationen für chinesische Geheimdienste tätig.
Mehr dazu

Jensen Huang ist Treibende Kraft hinter Nvidias Aufstieg

Huangs Name ist untrennbar mit Nvidia verbunden: Er ist seit der Gründung des Chipkonzerns vor mehr als 30 Jahren dessen Chef und gilt als treibende Kraft des Aufstiegs der Firma aus dem Silicon Valley, die bis vor wenigen Jahren vor allem für Computer-Grafikkarten bekannt war und dank des KI-Booms einen steilen Aufstieg erlebte. Auch die Management-Struktur ist außergewöhnlich stark auf Huang zugeschnitten. Medien zufolge berichten rund 60 Manager direkt an ihn. Damit ist er stärker ins Tagesgeschäft involviert als andere Chefs großer Konzerne – und auch schwieriger zu ersetzen.
Nach Informationen der Nachrichten-Website „Semafor“ favorisieren einige Mitglieder des Verwaltungsrats Finanzchefin Colette Kress als mögliche Nachfolgerin. Der Finanzdienst Bloomberg berichtete unter Berufung auf eine informierte Person, eine Überlegung sei, den Chefposten kommissarisch zu besetzen und dann eine langfristige Lösung zu suchen.
Der Konzern hatte am Wochenende nach Berichten, wonach Huang zum Ziel ausländischer Spionageaktivität geworden sein könnte, eine Untersuchung eingeleitet. In der öffentlichen Stellungnahme dazu hieß es, man habe weiterhin Vertrauen zu Huang und dessen Führungsmannschaft.
Nvidia-Chips wurden in den vergangenen Jahren zur Schlüsseltechnik im boomenden Geschäft mit Künstlicher Intelligenz. Eine Führungskrise bei Nvidia könnte damit die gesamte Tech-Branche belasten.
Huang trat in den vergangenen Jahren immer wieder als Befürworter des Verkaufs auch neuerer Nvidia-Chips nach China in Erscheinung. Seine Begründung ist, dass die Volksrepublik ansonsten eigene Halbleiter entwickeln wird, die Nvidia auf dem Weltmarkt Konkurrenz machen und damit die KI-Technologieführerschaft der USA untergraben könnten. Alice Huang, mit der Jensen Huang eine Affäre gehabt haben soll, leitete zeitweise eine Firma in Singapore, die von US-Behörden verdächtigt wurde, Chips nach China geschmuggelt und damit Verbote umgangen zu haben. (dpa/afp)
Mehr dazu
Categories
ausland ticker

FBI ermittelt zu Affäre von Nvidia-Chef Huang – Trump: „Ich glaube ihm wirklich“

Trump stellt sich weiter hinter Huang (r). (Archivbild) - Foto: Alex Brandon/AP/dpa
Das FBI ermittelt nach Worten von US-Präsident Donald Trump im Fall der Affäre von Nvidia-Chef Jensen Huang mit einer möglichen chinesischen Spionin. Die US-Bundespolizei prüfe den Fall, sagte Trump am Montag im Weißen Haus. Welche Rolle genau das FBI dabei spielt, ließ der Präsident offen.
Trump äußerte sich zudem mitfühlend gegenüber dem 63-jährigen US-Taiwaner. Er habe am Vormittag mit Huang gesprochen, „um zu sehen, ob es ihm gut geht“, sagte Trump vor Journalisten.

Trump stärkt Huang den Rücken

„Ich habe ihm die Frage gestellt: ‚Wusstest du, dass sie eine Spionin war?‘ Er sagte: ‚Ich hatte keine Ahnung, dass sie eine Spionin war‘ – und ich glaube ihm wirklich“, sagte Trump. Er glaube, dass Huang „definitiv“ leide, vor allem „wegen seiner Frau, die er liebt, und seiner Familie“. Der US-Präsident, der dem Tech-Firmenchef nahesteht, bezeichnete diesen zudem als „tollen Kerl“.
Auf die Frage, wann er persönlich von den Geheimdienstinformationen erfahren habe, die den Nvidia-Chef mit der mutmaßlichen Spionin in Verbindung brachten, sagte Trump: „Vor nicht allzu langer Zeit. Wir werden der Sache nachgehen; ich weiß, dass das FBI dies im Zusammenhang mit einer anderen Angelegenheit untersucht, und ich denke, er wird sich gut schlagen.“
Trump hatte bereits am Vortag nach dem Eingeständnis der Affäre durch Huang dem Nvidia-Chef den Rücken gestärkt. Huang sei „ein feiner Mensch“, der sich um die USA verdient gemacht habe, sagte Trump. „Ich denke, er hat vermutlich eine Entschuldigung dafür.“ In den vergangenen Jahren hatte Huang ein enges Verhältnis zu Trump aufgebaut.
Die „New York Times“ hatte Ende Oktober berichtet, US-Geheimdienstmitarbeiter seien zu dem Schluss gekommen, dass die Chinesin Informationen nach Peking weitergeleitet habe. Huang bestätigte am Sonntag in einer E-Mail an die Nvidia-Beschäftigten, dass er eine Affäre gehabt habe. Das Unternehmen leitete eigenen Angaben zufolge eine Untersuchung ein.
Zu Beginn der Handelswoche brachen die Aktien von Nvidia ein, da die Wall Street das Ergebnis der Untersuchung und dessen mögliche Auswirkungen auf die Führungsspitze von Nvidia abwartet.
Mehr dazu

Bei Nvidia läuft nichts ohne Huang

Huangs Affäre wirft ein Schlaglicht darauf, dass Nvidia für ein Unternehmen dieser Größe eine außerordentlich stark auf den Chef zugeschnittene Struktur hat. Jede wichtige Entscheidung läuft über Huang. Rund 60 Nvidia-Manager berichteten direkt an ihn, schrieb der Finanzdienst Bloomberg. Huang beantworte ihre kurzen E-Mails mit „fünf zentralen Punkten“ zu allen möglichen Zeiten.
Nach Huangs Eingeständnis der Affäre unterstützte ein anderer Tech-Milliardär – Elon Musk – auf seiner Online-Plattform X die Ansicht, dass der Nvidia-Chef für das Unternehmen unersetzlich sei. Musk ist mit dem KI-Bereich seiner Weltraumfirma SpaceX ein großer Nvidia-Kunde. Nvidia-Chips wurden zu einer unverzichtbaren Technik für die Entwicklung Künstlicher Intelligenz.

Rasanter Aufstieg

Die bisherige Geschichte und der jüngste Aufstieg von Nvidia sind untrennbar mit Huang verbunden. Er war nicht nur ein Mitgründer, sondern auch gleich der erste Chef der Chipfirma. In den vergangenen 33 Jahren wuchs Nvidia mit ihm an der Spitze – und um ihn herum. Im laufenden Geschäftsjahr dürfte der Umsatz als Folge des KI-Booms die Marke von 400 Milliarden Dollar knacken. Vor vier Jahren waren es noch 27 Milliarden Dollar.
Die Management-Struktur blieb dabei schlank. Es gibt zwar Top-Manager, die einzelne Bereiche verantworten. Aber sie sind eng auf ihre Themen spezialisiert, während nur Huang das große Ganze überblickt. Zu einer Nachfolgeregelung ist nichts bekannt. Anders als bei anderen Tech-Konzernen wurde kein Nvidia-Manager je als möglicher Kronprinz gehandelt. Huang sagte in einem Bloomberg-Interview vor dem Eingeständnis der Affäre, er hoffe auf einen Nachfolger aus den eigenen Reihen – würde den Job aber gern noch 20 Jahre selbst machen.

Verwaltungsrat hält an Huang fest

Nach ersten Medienberichten hatte Nvidia noch von gewöhnlichen Kundenkontakten gesprochen. Vom Verwaltungsrat hieß es aber bei der Einleitung einer Untersuchung der Affäre, man habe weiterhin Vertrauen zu Huang und dessen Führungsteam. (dpa/red)
Categories
etplus ticker wissen

Hackerziel Auto: Hunderte Sicherheitslücken und wie sich Autofahrer schützen

Ein Hacker versucht sich digitalen Zugang zu einem modernen Auto zu verschaffen. - Foto: humonia/iStock

In Kürze:

  • Cybersicherheit ist nach Ansicht des TÜV-Experten Richard Goebelt heute schon Teil der Sicherheit rund ums Auto.
  • Forscher haben 413 Sicherheitslücken in automobilbezogener Software ausgewertet – Branchenentwickler erwarten, dass das Auto binnen drei Jahren ein „großes“ Ziel für Cyberangriffe wird.
  • Fahrzeughalter können aktiv den Schutz ihres Autos deutlich verbessern.
 
Immer wieder heißt es, dass moderne Autos Computer auf vier Rädern sind. Zahlreiche Sensoren nehmen die Umgebung des Fahrzeugs wahr, sodass Assistenzsysteme den Fahrer zunehmend unterstützen.
Gleichzeitig verbinden sich diese Autos regelmäßig mit dem Internet oder der Hersteller-Cloud. Gerade das kann sie anfällig für Cyberangriffe machen. Dass diese Bedrohung aktuell hohe Relevanz hat, zeigen die jüngsten Cyberangriffe auf unter anderem Supermärkte in mehreren EU-Ländern.

Was jetzt anders ist als früher

Dass Autos Mikrochips besitzen und Rechenprozesse vollziehen, ist nicht wirklich neu. Jedes Fahrzeug mit dem Antiblockiersystem (ABS) besitzt einen solchen Minicomputer. Das ABS fährt schon seit knapp 50 Jahren in den Fahrzeugen mit. In den folgenden Jahrzehnten entwickelten die Automobilhersteller zudem weitere Assistenzsysteme wie das Elektronische Stabilitätsprogramm (ESP) oder die Antriebsschlupfregelung (ASR). Auch hier geschehen Rechenprozesse.
Seit wenigen Jahren entwickeln sich viele neue Autos jedoch zu sogenannten „Software-defined Vehicles“, kurz SDV, das sind softwaredefinierte Fahrzeuge. Hierbei setzt das Fahrzeug möglichst alle elektronischen Funktionen in einem leistungsstarken Zentralrechner um, anstatt dass jede Funktion ihren eigenen kleinen Rechner hat. Diese Zentralisierung aller Prozesse ist auch die Grundlage für das autonome Fahren.
Mit Blick auf die vielen neuen Schnittstellen im modernen Auto wie Mobilfunk, Bluetooth und Smartphone-Apps betrachtet Richard Goebelt vom TÜV-Verband die Cybersicherheit heute schon als Teil der Verkehrssicherheit insgesamt. Im Podcast „Update verfügbar“ des Bundesamts für Sicherheit in der Informationstechnik warnte er vor den „neuen Angriffsflächen“, die damit einhergehen.
Die wohl größte Gefahr besteht, wenn sich Hacker über die entsprechende Software Zugriff auf sicherheitsrelevante Komponenten wie Bremsen und Lenkung verschaffen könnten. Im schlimmsten Fall kann dies zu einem für die Fahrzeuginsassen und andere Verkehrsteilnehmer tödlichen Unfall führen. „Typische Angriffe passieren beispielsweise auch auf die Hersteller-Cloud“, erklärte Goebelt. Er betonte zudem die Notwendigkeit, die Fahrzeugnetze intern zwischen Infotainment-Bereichen und sicherheitsrelevanten Systemen abzuschotten.
Allerdings schätzt Goebelt, dass die Auflagen bezüglich Cybersicherheit für die Hersteller und Zulieferer bereits hoch seien. „Da wird sehr viel gemacht, was auch unabhängig nachgewiesen werden muss im Rahmen der Begutachtung für die Typgenehmigung“, so der Experte.
Mehr dazu

413 Sicherheitslücken ausgewertet

Wie groß die Anfälligkeit in diesem Bereich wirklich ist, haben kürzlich Forscher der Chalmers University of Technology und der Universität Göteborg in Schweden ermittelt. Bei ihrer Untersuchung werteten sie insgesamt 413 bekannte Sicherheitslücken in automobilbezogener Software aus. Ihrer Ansicht nach hätten sich die Risiken durch Apps und Cloud-Dienste, die mit Autos verbunden sind, im Vergleich zum vergangenen Jahrzehnt verdreifacht.
Die Software enthält dabei oft sensible Informationen über den Fahrzeughalter. Hierzu zählen dessen Privatadresse, GPS-Daten und Angaben, wann und wo das Fahrzeug gefahren wurde. Srijita Basu, Forscherin an der Universität Göteborg und der Chalmers University of Technology, teilte mit:
„Die Gefahr besteht nicht mehr nur darin, dass jemand das Fahrzeug stören kann, sondern auch darin, dass er an Informationen über Ihr Leben gelangt.“
Die Forscher sind der Ansicht, dass viele Schwachstellen simpel sind. Ein Beispiel wären die Passwörter. Wenn sie unverändert bleiben, könnten Hacker sie leicht knacken und Zugriff auf das System erlangen.
Daher fordert Basu die Automobilhersteller auf, die Fahrsysteme von den übrigen IT-Systemen sicher zu trennen und aus den bisherigen Erkenntnissen der Cybersicherheit zu lernen. Allerdings sind ebenso Autobesitzer aufgefordert, die Software zeitnah zu aktualisieren und sicherere Passwörter zu verwenden.
Mehr dazu

Wie real sind Hackerangriffe aufs Auto?

Mit etwas Fachwissen und dem richtigen Equipment ist es längst möglich, sich in ein modernes Auto zu hacken. Das zeigte bereits im Jahr 2015 ein Fall aus den USA, als sich Test-Angreifer per Laptop Zugriff auf einen Jeep Cherokee verschafften. Über das Multimediasystem des Fahrzeugs konnten sie die Lenkung, das Gaspedal und die Bremse steuern. Dadurch lenkten sie den Jeep erfolgreich in den Straßengraben.
Die Hacker konnten damit aufzeigen, wie lückenhaft die in dem Geländewagen eingebaute Technik war. Der Fahrer des Jeeps war zuvor über den abgesprochenen Hackerangriff informiert gewesen.
Mehr dazu

Wie man sich schützen kann

Die gute Nachricht: Für Autofahrer gibt es mehrere Möglichkeiten, die Gefahr eines möglichen Cyberangriffs auf ihr Auto abzuwenden. Wie beim Computer zu Hause sollten sie ihre Software stets aktuell halten. Das bedeutet, neue Updates möglichst zeitnah zu installieren. Dabei gilt es, stets die offiziellen Wege des Herstellers zu nutzen. Laut Goebelt muss dabei der Hersteller die dauerhafte Bereitstellung von Software-Updates gewährleisten. „Für das Fahrzeug über den Lebenszyklus hinweg.“
Ebenso empfiehlt es sich, die eigenen Daten beim Aussteigen „mitzunehmen“. Das funktioniert einfach, indem der Autofahrer seine Smartphone-Kopplung aufhebt. Zudem sollten gespeicherte Kontakte, Navigationsziele und andere personenbezogene Daten aus dem Infotainment-System entfernt werden. Vor dem Verbinden ist es ratsam zu überlegen, welche Daten wirklich nötig sind.
Wie bereits erwähnt, ist es ein weiterer Sicherheitsfaktor, ein starkes individuelles Passwort anzulegen, um die Konten abzusichern. Denkbar wäre hierbei auch der Einsatz einer Zwei-Faktor-Authentifizierung oder eines Passkeys.
Mehr dazu

Auto als bevorzugtes Ziel für Cyberangriffe

Nach Angaben des Softwareunternehmens QNX schätzen 83 Prozent der Branchenentwickler, dass SDVs innerhalb der nächsten drei Jahre zu einem „großen“ Ziel für Cyberangriffe werden können. Das geht aus einer Branchenumfrage des Unternehmens hervor.
Mit 48 Prozent bewertet fast die Hälfte der Entwickler Sicherheitsbedrohungen aktuell als ihre größte Sorge. Das sind fünf Prozentpunkte mehr als noch im Vorjahr. Gleichzeitig weisen 47 Prozent der Entwickler darauf hin, dass Cyberschwachstellen das größte Risiko für die groß angelegte Einführung von SDVs darstellen.
Dass die Cybersicherheitsstandards aus regulatorischer Sicht nach wie vor am schwierigsten zu erfüllen sind, bestätigten 46 Prozent der Befragten. Allein im Jahr 2025 gab es dazu weltweit mehr als 700 neue Vorschriften und Gesetzesvorlagen, die die Fahrzeugtechnik betreffen. Ein Drittel der Befragten gab an, dass dies die Entwicklungszeitpläne verzögert habe.
Im Vergleich zum Vorjahr habe sich jedoch keine Verbesserung abgezeichnet. Die Daten deuten demnach darauf hin, dass die überwiegende Mehrheit der Entwickler noch keinen Weg gefunden hat, den globalen regulatorischen Aufwand effizient zu bewältigen.
 
Mit Material von epochtimes.se
Categories
ausland ticker

Nvidia-Chef gesteht Affäre mit mutmaßlicher chinesischer Spionin

Jensen Huang wurde zum Gesicht des KI-Booms. (Archivbild) - Foto: Johannes Neudecker/dpa
Eine Affäre des Nvidia-Chefs Jensen Huang mit einer möglichen chinesischen Spionin erschüttert die Tech-Industrie. Der Konzern, dessen Chips zur Schlüsseltechnik des KI-Booms wurden, leitete eine Untersuchung ein. Huang gab die Untreue nach anfänglichen Dementis zu.
Von Nvidias Verwaltungsrat hieß es, während man derzeit keinen Grund zur Annahme habe, dass Geschäftsgeheimnisse von Nvidia oder die nationale Sicherheit der USA kompromittiert worden seien, werde die Untersuchung allen verfügbaren Informationen nachgehen. Das Gremium habe weiterhin Vertrauen in Huang und dessen Führungsmannschaft. Der 63-Jährige ist ein führender Mitgründer von Nvidia.
Zuvor hatte es Medienberichte gegeben, wonach eine dem Nvidia-Chef nahestehende Frau nach Einschätzung von US-Sicherheitsbehörden vom chinesischen Geheimdienst angeworben worden sein könnte.

Gesicht des KI-Wandels

Die Chips von Nvidia, einer der wertvollsten Firmen der Welt, dominieren in Rechenzentren beim Training und dem Betrieb Künstlicher Intelligenz. Huang profilierte sich als Gesicht des KI-Wandels: Bei Nvidia-Konferenzen und anderen öffentlichen Auftritten betont er immer wieder die weltverändernde Rolle Künstlicher Intelligenz in allen Lebensbereichen.
Eine Krise von Nvidia könnte auch viel weitere Kreise ziehen: Ihre Milliardengewinne investiert die Firma aus Santa Clara im Silicon Valley zum Teil in die Unterstützung von KI-Start-ups, die damit wiederum Chips des Konzerns kaufen. Huang baute in den vergangenen Jahren zudem ein enges Verhältnis zu US-Präsident Donald Trump auf. Einmal nahm er direkt auf der Bühne einen Anruf des Staatschefs an. Auch bei Trumps jüngstem Staatsbesuch in China war Huang dabei.
Nach dem Eingeständnis der Affäre stärkte Trump Huang den Rücken. „Ich weiß einfach, dass er ein feiner Mensch ist“, sagte der Präsident am Sonntagabend (Ortszeit) vor Journalisten. „Ich denke, er hat vermutlich eine Entschuldigung dafür.“ Der Nvidia-Chef habe sich ums Land verdient gemacht.

„Ich war meiner Frau untreu“

Huang bestätigte am Sonntag in einer E-Mail an die Nvidia-Beschäftigten, dass er eine Affäre gehabt habe. „Ich schulde meiner Familie und Euch allen eine Entschuldigung“, schrieb er. „Ich war meiner Frau untreu.“ Das Ehepaar ist seit gut 40 Jahren verheiratet.
In der Milliardärs-Rangliste des Finanzdienstes Bloomberg steht Huang aktuell auf dem zehnten Platz mit einem geschätzten Vermögen von 155 Milliarden Dollar, das hauptsächlich aus Nvidia-Aktien besteht. In der E-Mail schrieb Huang an die Adresse seiner Familie: „Ich liebe Euch.“ Er hoffe, dass er das Vertrauen der Familie mit der Zeit zurückgewinnen könne. Eine Tochter und ein Sohn des Paars arbeiten ebenfalls bei Nvidia.
Vor Huangs Eingeständnis hatte die „Financial Times“ als erste von der Liebesbeziehung berichtet. Zuvor war nur von einem engen Verhältnis die Rede gewesen. In einer ersten Reaktion von Nvidia hatte es vor einigen Tagen noch geheißen, es handele sich um gewöhnliche Kontakte zu einer Vertreterin eines Kundenunternehmens.
Laut einem Bericht der „New York Times“ vom 6. November soll Alice Huang, eine mutmaßliche Spionin des chinesischen Ministeriums für Staatssicherheit, die nicht mit dem CEO verwandt ist, den Auftrag gehabt haben, Informationen über Huang und amerikanische Chips für künstliche Intelligenz (KI) zu sammeln sowie zu versuchen, das Unternehmen dazu zu bewegen, seine fortschrittlichsten Chips für China verfügbar zu machen.
Die mutmaßliche Spionin war in China als Fernsehjournalistin tätig, bevor sie eine Führungsposition bei Megaspeed übernahm. Megaspeed ist ein in Singapur ansässiges Rechenzentrumsunternehmen und zählt zu den größten Kunden von Nvidia in Südostasien.

Huang ist für Chipverkäufe nach China

Zwischen Huang und der US-Regierung gab es immer wieder Differenzen über Beschränkungen für die Lieferung moderner KI-Chips nach China. Der Nvidia-Chef argumentiert, Verbote schadeten der Dominanz von Nvidia und damit auch der Vorreiter-Rolle der USA, weil sie die Entwicklung eigener Technologie in China beschleunigen würden. Die US-Regierung versucht dagegen seit Jahren, chinesische Fortschritte bei Künstlicher Intelligenz durch die Blockade der Lieferungen von Hochleistungschips unter anderem von Nvidia zu bremsen.
Megaspeed war bereits im vergangenen Jahr verdächtigt worden, eine Unternehmenshülle zu sein, über die Nvidia-Chips nach China geschleust werden könnten. So forderte der republikanische Senator Tom Cotton das US-Handelsministerium im Oktober 2025 auf, solchen Informationen nachzugehen. Demnach stoppte Megaspeed im Sommer des Jahres Käufe von Nvidia-Chips nach Untersuchungen von Behörden in Malaysia und Singapur. (dpa/red)
Categories
ticker wissen

Apple bringt erstes Macbook mit Touch-Display heraus

Aus Sicht von Apple dürften vor allem professionelle Nutzer an Touch-Funktionen auf dem Mac interessiert sein. (Handout) - Foto: --/Apple/dpa
Apple bringt sein erstes Macbook mit einem Touchscreen-Display heraus – nachdem der Konzern jahrelang das Konzept von Laptops mit berührungsempfindlichen Bildschirmen kritisiert hatte. Jetzt betont Apple, das Macbook Pro mit Touch-Bildschirm sei für professionelle Nutzer gedacht, die etwa 3D-Modelle mit den Fingern drehen oder Musikinstrumente direkt auf dem Display spielen wollen. Der Preis für ein Macbook Pro mit Touchscreen fängt in Deutschland bei 3.299 Euro an.
In den vergangenen Jahren hatten Konkurrenten verschiedene Modelle von Notebooks mit dem Windows-Betriebssystem mit Touchscreens ausgestattet. Apple dagegen hielt an einer strikten Trennung fest: Macs hatten herkömmliche Bildschirme und große Touchscreens blieben den iPad-Tablets vorbehalten. Noch 2021 hatte der heutige Apple-Chef John Ternus dem „Wall Street Journal“ gesagt, das iPad sei auf Touchscreen-Eingabe optimiert und die Macs auf Maus und Tastatur – und man habe bisher keinen Grund gefunden, das zu ändern. In den späteren Jahren wurden Antworten auf die Frage nach einem Touchscreen-Mac aber ausweichender.
Mit einem Gewicht von 1,38 Kilogramm machte Apple das Touch-Macbook 230 Gramm leichter als die aktuellen Pro-Modelle mit 14-Zoll-Bildschirm. Bei der größeren Ausführung mit einer Display-Diagonale von 16 Zoll sank das Gewicht um 320 Gramm. Als erstes Macbook bekommt es zudem die von iPhone bekannte „Dynamic Island“, in der am oberen Bildschirmrand Live-Aktivitäten angezeigt werden können. Nach Jahren kommt zudem das leuchtende Apfel-Logo auf der Rückseite des Displays zurück. (dpa/red)
Categories
ticker wirtschaft

Meta soll 25 Milliarden US-Dollar wegen Cambridge Analytica zahlen

Der Facebook-Mutterkonzern Meta ist mit potenziell teuren Klagen konfrontiert. (Symbolbild) - Foto: Anna Ross/dpa
Der Facebook-Konzern Meta soll wegen des Jahre zurückliegenden Datenschutz-Skandals um Cambridge Analytica eine Strafe von 25 Milliarden Dollar zahlen. Zuvor hatten Geschworene im US-Bundesstaat New Mexico entschieden, dass Nutzer mit Blick auf Datenschutz und Redefreiheit von Facebook in die Irre geführt wurden. Der Richter berechnete in seiner Entscheidung einen Strafbetrag von knapp 219,5 Milliarden Dollar – reduzierte ihn dann aber im selben Satz auf 25 Milliarden (22,25 Mrd Euro).
Von Meta gab es zunächst keine Reaktion auf die Entscheidung. Nach dem Urteil der Geschworenen vor einigen Wochen hatte der Konzern bereits betont, dass man mit deren Entscheidung nicht einverstanden sei und sich weiter gegen die Vorwürfe verteidigen werde.
Pro Verstoß war eine Strafe von bis zu 5.000 Dollar veranschlagt worden – und die Geschworenen fanden Millionen Verstöße, die sich nach Rechnung des Richters auf die Milliardenbeträge addierten.

Ein Skandal mit Folgen

Der Skandal um Cambridge Analytica hatte 2018 das Vertrauen der Öffentlichkeit zum Facebook-Konzern nachhaltig beschädigt. Dabei ging es darum, dass Informationen aus einer harmlos erscheinenden Umfrage eines Datenforschers zur Erstellung von Nutzerprofilen genutzt und mit der Analysefirma Cambridge Analytica geteilt wurden. Auch das Team des damaligen Kandidaten Donald Trump griff darauf vor der US-Präsidentenwahl 2016 zurück. Insgesamt waren rund 87 Millionen Nutzer-Accounts betroffen. Der Konzern zahlte unter anderem rund sechs Milliarden Dollar an die US-Regierung, um Ermittlungen dazu beizulegen.
Im Nachgang des Skandals zog New Mexico dann 2021 vor Gericht mit Vorwürfen, bei denen es zusätzlich um die Meinungsfreiheit auf der Plattform ging. Auslöser waren Enthüllungen im Zuge der Aufarbeitung des Falls. Unter anderem hieß es dabei in einem Whistleblower-Bericht, dass einige prominente Accounts von Regeln zu auf der Plattform erlaubten Inhalten heimlich ausgenommen worden seien. (dpa/red)
Categories
ausland ticker

Wanze in OpenAI-Konferenzraum – Mitarbeiter festgenommen

Das Aufnahmegerät soll nur wenige Tage unentdeckt geblieben sein. (Archivbild) - Foto: Richard Drew/AP/dpa
Ein Mitarbeiter des ChatGPT-Entwicklers OpenAI steht unter Verdacht, ein Abhörgerät in einem Konferenzraum der Firma platziert zu haben, in dem oft Geschäftsgeheimnisse besprochen werden. Der 35-jährige saudische Staatsbürger wurde festgenommen, wie die KI-Firma und das US-Justizministerium mitteilten. Die US-Bundespolizei FBI ermittelt zu dem Fall.
Das vor zwei Wochen entdeckte Aufnahmegerät war den Ermittlern zufolge etwa zwei Tage zuvor in dem Konferenzraum in San Francisco platziert worden. Es steckte demnach in der USB-Buchse eines Fernsehers, eingewickelt in Toilettenpapier. Der festgenommene Mitarbeiter wurde nach Angaben des Ministeriums Ende September von Sicherheitskameras in der Nähe des Konferenzraums gefilmt, zu dem er eigentlich keinen Zutritt hatte. Die Ermittler veröffentlichten auch ein Bild, auf dem zu sehen ist, wie er später versucht, hinter den Fernseher zu schauen.

Recherche über Chatbot

Laut dem Ministerium wurden über einen Chatbot-Account der Ehefrau des OpenAI-Mitarbeiters Anfragen zu Aufnahme-Vorrichtungen gestellt. Im Chatverlauf fanden sich demnach auch Merkmale des im Konferenzraum entdeckten Abhörgeräts. Dem Mitarbeiter drohten bei einer Verurteilung bis zu fünf Jahre Haft und eine Strafe von bis zu 250.000 US-Dollar (etwa 225.000 Euro). (dpa/red)
Categories
ausland ticker

Microsoft-Chef will „Notbremse“ in Künstlicher Intelligenz

Will in KI eine «Notbremse» einbauen: Microsoft-Chef Satya Nadella. (Archivbild) - Foto: Sven Hoppe/dpa
Microsoft-Chef Satya Nadella hat aus Sorge vor einem Kontrollverlust eine Art „Notbremse“ in Künstlicher Intelligenz gefordert. Ein Mensch müsse immer in der Lage sein, ein KI-Modell mitten in einer Aufgabe zu stoppen oder abzuschalten, schrieb Nadella in einem Beitrag auf der Online-Plattform X.
Hochentwickelte Modelle würden dafür auch fortgeschrittene Mechanismen zur Eindämmung erfordern, betonte der Chef des Software-Konzerns, der selbst in großem Stil auf KI setzt.
In den vergangenen Monaten hatten eigenständige Hacking-Attacken durch KI-Software in Tests Ängste vor Risiken der Technologie befeuert. In dem bisher aufsehenerregendsten Fall war Künstliche Intelligenz des ChatGPT-Entwicklers aus einer abgesicherten Testumgebung ausgebrochen und hatte sich ungeplant in Computer einer anderen KI-Firma gehackt, der Plattform Hugging Face.
Einige Brancheninsider sprachen danach davon, dass man nicht ganz ausschließen könne, dass außer Kontrolle gerate Künstliche Intelligenz die Menschheit vernichte. Solche extremen Warnungen sind allerdings umstritten.
Mehr dazu

Forderung nach strikter Kontrolle

Nadella betonte auch, dass alle Aktionen Künstlicher Intelligenz für Menschen nachvollziehbar sein müssten. „Etwas, was man nicht überwachen kann, kann man nicht vertrauen“, schrieb er. Außerdem dürfe kein KI-Modell die Kontrolle über die Daten haben, mit denen man sein Verhalten bewerte.
Man müsse bei jedem KI-Modell zur Sicherheit von Beginn an davon ausgehen, dass es „kompromittiert“ sei und Eindämmungs-Mechanismen einrichten.
Der Unterschied zu bisher eingesetzter Software sei, dass man bei heutiger Künstlicher Intelligenz Verhalten und Ergebnisse nicht mehr bestimmten Eingaben, Trainingsdaten oder Konfigurationen zuschreiben könne, schrieb Nadella.
Und dennoch würden diese komplexen Systeme gerade breit eingeführt und bekämen Zugang zu sensibelsten Daten. Microsoft stieß ins KI-Geschäft als früher Geldgeber des ChatGPT-Entwicklers OpenAI vor und forscht inzwischen auch an eigenen Modellen.
Mehr dazu

Auch Nadella schwenkt auf „Superintelligenz“

Der Microsoft-Chef benutzte in seinem Beitrag durchweg den Begriff „Superintelligenz“, den US-Präsident Donald Trump statt der etablierten Bezeichnung Künstliche Intelligenz durchsetzen will.
Vor wenigen Tagen kündigte Trump an, dass das Weiße Haus jeden, der noch Künstliche Intelligenz sagt, als einen „Feind“ betrachten werde. Trump begründet seinen Vorstoß damit, dass der gewohnte Name die Technologie „fake“ erscheinen lasse.
Der Tech-Milliardär und Trump-Unterstützer Elon Musk kündigte bereits an, seine KI-Firma SpaceXAI in SpaceXSI umzubenennen. (dpa/red)
Categories
ausland ticker

Anthropic-KI reicht falschen Mordhinweis ein und stellt Visa-Anträge

Anthropic-Chef Dario Amodei warnte schon oft vor den Risiken einer ungebremsten Entwicklung Künstlicher Intelligenz. (Archivbild) - Foto: Andrej Sokolow/dpa
Künstliche Intelligenz der Entwicklerfirma Anthropic hat in einem Testlauf einen falschen Hinweis auf einer Polizei-Website zur Aufklärung ungelöster Mordfälle eingereicht. In einem weiteren Zwischenfall füllte die KI-Software Formulare auf einer US-Regierungsseite aus, wie Anthropic in einem Blogeintrag bekanntgab. Medienberichten zufolge handelte es sich um 20 Visa-Anträge beim amerikanischen Außenministerium. In den vergangenen Wochen wurden bereits verschiedene ungeplante Aktivitäten von KI-Systemen bekannt, insbesondere beim ChatGPT-Entwickler OpenAI und dessen Konkurrenten Anthropic.
Die Unternehmen trainieren derzeit sogenannte KI-Agenten – Software, die im Auftrag der Nutzer weitgehend autonom verschiedene Aufgaben erledigen soll. Die von Anthropic aufgelisteten Vorfälle gehen auf Versuche zurück, die KI für unterschiedliche Online-Aufgaben vorzubereiten.

KI übermittelt erfundenen Hinweis zu Mordfall

Den falschen Hinweis zu einem ungeklärten Mord reichte Anthropics KI über eine Website der Polizei von Philadelphia ein. „Ich könnte Informationen zu diesem Fall haben“, schrieb die Software demnach. Sie behauptete außerdem, sich daran zu erinnern, jemanden, der der Beschreibung entspreche, zur Tatzeit in der Gegend gesehen zu haben. Die Website der Polizei enthielt allerdings gar keine Beschreibung eines Tatverdächtigen. Zudem ließ die Software das Kontaktfeld offen. Ihre Einreichung wurde als Spam markiert.
Die Polizei von Philadelphia kritisierte es als „inakzeptabel“, dass sie erst nachträglich von dem Vorfall Mitte Juli erfahren hatte. Anthropic zufolge wurde das Verhalten der KI Ende September bei einer vertieften Überprüfung von Testläufen nach anderen Zwischenfällen entdeckt. Die Software habe den Auftrag gehabt, Aufgaben auf zufällig ausgewählten Websites auszuführen. Zwar sei ihr untersagt gewesen, beispielsweise Konten anzulegen oder Einkäufe zu tätigen. Das Ausfüllen von Formularen sei jedoch nicht verboten gewesen.

Medien berichten über 20 Visa-Anträge

In anderen Fällen sollte die KI laut Anthropic üben, ein Behördenformular auszufüllen. Wenn sie das Übungsformular nicht laden konnte oder versehentlich schloss, navigierte die Software stattdessen mehrfach auf die echte Website und reichte dort Formulare ein, wie das Unternehmen erläuterte. Bei einem der Versuche sollte sie ein Formular lediglich ausfüllen, aber nicht absenden. Sie reichte es dennoch ein, weil sie davon ausgegangen sei, dass zuvor noch eine Bestätigungsseite erscheinen würde.
Dabei habe die KI von Anthropic beim US-Außenministerium 20 Anträge auf Nichteinwanderungsvisa eingereicht, berichteten das Nachrichtenportal „Axios“ und die „New York Times“ unter Berufung auf Regierungsbeamte. Die Anträge seien unvollständig gewesen und nicht bearbeitet worden. 19 davon seien im August eingereicht worden, ein weiterer bereits im Mai.

Anthropic schränkt Internetzugang der Test-KI ein

Berichte über unbeabsichtigtes Verhalten von KI-Systemen in Testläufen sorgen seit Wochen für Diskussionen über die Sicherheit der Technologie. In einem besonders aufsehenerregenden Fall soll eine KI des ChatGPT-Entwicklers OpenAI eine abgesicherte Testumgebung verlassen und ungeplant auf Computer der KI-Plattform Hugging Face zugegriffen haben.
Anthropic-Chef Dario Amodei hatte anschließend vorgeschlagen, die Entwicklung besonders leistungsfähiger KI-Modelle zu verlangsamen, um einen möglichen Kontrollverlust zu verhindern. US-Präsident Donald Trump lehnt eine solche Verlangsamung ab und verweist darauf, dass die USA ihren Vorsprung gegenüber China im Bereich der Künstlichen Intelligenz behaupten müssten. Zu den jüngsten Vorfällen bei Anthropic hieß es aus dem Weißen Haus laut „Axios“, KI-Unternehmen seien verpflichtet, solche Vorfälle offenzulegen.
Anthropic betonte, dass der Internetzugang bei Testläufen inzwischen eingeschränkt worden sei und einige Versuche in Offline-Umgebungen stattfänden. Zugleich seien bestimmte Aufgaben ohne Internetverbindung nur schwer zu trainieren, räumte das Unternehmen ein. „Trainingsumgebungen sind nicht perfekt“ – manchmal finde ein Modell eine Lücke oder lerne, Einschränkungen zu umgehen. (dpa/red)
Categories
ticker wirtschaft

Zugriff auf Daten: Apple plant Warnung bei KI-Agenten auf Mac-Computern

Ausstellungsflächen und Technik im Apple Store im neu renovierten Einkaufszentrum „Battersea Power Station“ in London. - Foto: Nuria Gonzalez Sanchez/iStock
Angesichts der Ausbreitung eigenständig agierender KI-Agenten will Apple Nutzer seiner Mac-Computer stärker über Risiken informieren, bevor sie solcher Software einen weitreichenden Zugang zu ihren Daten geben können.
Einige Entwickler nutzten heutige Zugriffsmöglichkeiten auf eine Art, die alle Daten auf den Geräten preisgeben könne, warnte der Konzern. Deswegen wolle man sicherstellen, dass alle sich der Gefahren bewusst seien, bevor sie einem Datenzugang für Künstliche Intelligenz zustimmten.
Die sogenannten KI-Agenten sollen autonom Aufgaben für ihre Nutzer erfüllen. Von KI-Firmen heißt es, dass ihre neuen Agenten inzwischen nahezu alles erledigen könnten, was man am Computer mache.
Um im Alltag wirklich nützlich zu sein, sind sie auf tiefgreifenden Zugang zu deren Informationen angewiesen – E-Mails, Chats, Kalender, eventuell sogar Bankkonten.
Mehr dazu

„Full Disk Access“

Apples Macs haben eine Zugangsoption mit dem Namen „Full Disk Access“, die weitreichenden Zugriff auf Daten auf der Festplatte gewährt. Laut Apple wurde sie eingeführt, damit Backup-Programme, die Sicherungskopien der Computer anlegen, reibungslos funktionieren.
Nun griffen aber auch Entwickler von KI-Software darauf zurück. Mit wachsenden Fähigkeiten und Selbstständigkeit von KI-Agenten würden auch damit verbundene Risiken steigen, hieß es von Apple.
Auf iPhones und iPad-Tablets sind die Möglichkeiten zum Datenzugang deutlich stärker eingeschränkt als auf Macs.
Mehr dazu

Hauseigene KI

Apple versucht zugleich, seine Assistenzsoftware Siri mit KI-Funktionen nützlicher zu machen, die von ihrem Zugang zu Nutzerdaten auf den Geräten profitieren sollen.
Der Konzern betont, die Daten würden dabei nur auf den Geräten verarbeitet oder mit Komplett-Verschlüsselung übertragen, so dass auch Apple keinen Zugriff darauf habe.
Die neue KI-Siri ist zunächst nur in englischer Sprache verfügbar – und in der EU nur auf Mac-Computern. Bei iPhones und iPads hat Apple nach den Kriterien des Digitalgesetzes DMA (Digital Markets Act) so viel Marktmacht, dass gleicher Datenzugang für Konkurrenten wie für Apples eigene Systeme gefordert wird.
Apple lehnt das unter Verweis auf die Datensicherheit ab und zog es vor, die Funktionen auf diesen Geräten in der Europäischen Union zunächst nicht einzuführen. (dpa/red)
Categories
gesellschaft ticker

OpenAI streicht Veröffentlichung von neuem KI-Modell

Verschiedene KI-Modelle als App: DeepSeek, ChatGPT, Gemini, Grok, Claude und Perplexity AI. - Foto: Robert Way/iStock
Der ChatGPT-Entwickler OpenAI hat wegen Sicherheitsbedenken die Veröffentlichung eines neuen KI-Modells gestrichen.
Unter anderem habe die Software in Tests Nutzer nicht immer ehrlich darüber informiert, welche Aktionen sie unternommen oder nicht unternommen habe, sagte die für Sicherheitssysteme zuständige OpenAI-Managerin Saachi Jain dem „Wall Street Journal“.
Außerdem habe das KI-Modell zum Teil auf eigene Initiative gehandelt, ohne eine Nutzererlaubnis einzuholen. Das Modell mit dem Namen GPT 6.1 Astra sollte demnach in den kommenden Tagen oder Wochen herauskommen.

Training ausgesetzt

Eigenmächtige Aktionen fortgeschrittener Künstlicher Intelligenz von OpenAI hatten in den vergangenen Wochen wiederholt für Negativ-Schlagzeilen gesorgt. Erst am Wochenende wurde bekannt, dass die Firma nach einem neuen Zwischenfall das Training seiner leistungsstärksten KI-Modelle aussetzte.
Bei dem Vorfall schaffte es ein KI-Modell in einem Test, Antworten von einem externen Chatbot zu bekommen, obwohl es eigentlich keinen Internet-Zugang haben sollte.
Die Software habe jedoch eine Lücke in den Netzwerk-Einstellungen gefunden und ausgenutzt, wie OpenAI in einem Blogeintrag berichtete. Das Training solle nun erst wieder aufgenommen werden, wenn man sich sicher sei, dass die Lücke geschlossen ist. Bei dem betroffenen KI-Modell habe es sich nicht um GPT 6.1 Astra gehandelt.
Mehr dazu

Hack durch KI als Warnsignal

In dem bisher aufsehenerregendsten Fall brach Künstliche Intelligenz des ChatGPT-Entwicklers aus einer abgesicherten Testumgebung aus und hackte sich ungeplant in Computer einer anderen KI-Firma, der Plattform Hugging Face.
Wie sich danach herausstellte, drang auch KI anderer Entwickler – des OpenAI-Rivalen Anthropic sowie von Google und dem Facebook-Konzern Meta – bei Tests in Systeme anderer Unternehmen ein.
Der Bundesstaat Florida, der bereits eine Klage gegen OpenAI eingereicht hatte, legte nun mit dem Antrag auf eine einstweilige Verfügung nach. Zu den Forderungen gehöre, dass es keine Entwicklung neuer KI-Modelle ohne zusätzliche Leitplanken geben solle, sagte Floridas Generalstaatsanwalt James Uthmeier. (dpa/red)
Categories
gesellschaft ticker

OpenAI setzt KI-Training nach neuem Zwischenfall aus

Perplexity AI, Microsoft Copilot and OpenAI ChatGPT auf einem Smartphone. - Foto: Robert Way/iStock
Der ChatGPT-Entwickler OpenAI hat nach einem neuen Zwischenfall das Training seiner leistungsstärksten KI-Modelle ausgesetzt. Bei dem Vorfall schaffte es ein KI-Modell in einem Test, Antworten von einem externen Chatbot zu bekommen, obwohl es eigentlich keinen Internet-Zugang haben sollte.
Die Software habe jedoch eine Lücke in den Netzwerk-Einstellungen gefunden und ausgenutzt, wie OpenAI in einem Blogeintrag berichtete. Das Training solle nun erst wieder aufgenommen werden, wenn man sich sicher sei, dass die Lücke geschlossen ist.
Der Zwischenfall sei zwar weniger gravierend als einige frühere, betonte OpenAI. Allerdings sei er der erste, seit die Sicherheitsvorkehrungen nach der Hacking-Attacke von OpenAI-Software auf die KI-Firma Hugging Face verschärft worden waren. Man sehe das als wichtigen Hinweis darauf, wo weitere Nachbesserungen notwendig seien.
Mehr dazu

Umweg zum Chatbot

In dem Test-Szenario bekam das getestete KI-Modell den Auftrag, auf Grundlage von Hinweisen Informationen über eine Person zu finden, die einen Blogpost veröffentlicht habe. Dafür konnte es auf eine Web-Imitation in einer abgeschirmten Testumgebung zurückgreifen.
Nachdem die Suche dort ergebnislos geblieben war, versuchte die KI jedoch dem OpenAI-Bericht zufolge, Anfragen unter anderem bei Google zu starten. Das schlug wie geplant fehl.
Aber dem KI-Modell fiel dabei auf, dass es über den sogenannten DNS-Resolver der Testumgebung Anfragen an einen Chatbot im offenen Internet stellen kann. DNS-Resolver übertragen Domain-Namen, die man als Nutzer in Browser eintippt, in aus Zahlen bestehende IP-Adressen, unter denen Websites zu finden sind. OpenAI stoppte den Test, nachdem die Kommunikation über die Lücke aufgefallen war.
Mehr dazu

Nutzer-Bilder und Regierungs-Websites

Zuletzt wurden mehrere neue Zwischenfälle mit KI von OpenAI bekannt. Dazu gehört, dass sie 53 Mal von Nutzern hochgeladene Bilder auf Online-Plattformen platzierte. Die Links dazu seien nicht öffentlich gewesen, erklärte OpenAI.
Ein Großteil sei bereits wieder entfernt worden und man arbeite mit den Plattformen daran, auch den Rest zu löschen. Es ist aber der erste bekanntgewordene Vorfall, bei dem auch Daten von OpenAI-Nutzern betroffen waren.
Wenig später wurde zudem bekannt, dass automatisierte KI-Agenten von OpenAI auch auf mehreren Webseiten der US-Regierung aktiv waren. So habe die Software auf der Seite einer Statistikbehörde mit Hilfe von im Netz entdeckten Logindaten auf öffentlich zugängliche Informationen zugegriffen, teilte OpenAI nach einem Bericht der KI-Forschungsfirma Transluce mit.
Auf der Seite der Börsenaufsicht SEC seien ebenfalls öffentlich zugängliche Informationen kopiert worden. Beim US-Bildungsministerium versuchte die KI-Software laut Transluce vergeblich, sich in Daten der Bürgerrechtsabteilung zu hacken, wie die „New York Times“ berichtete. Sogenannte KI-Agenten sollen im Auftrag von Nutzern eigenständig Aufgaben erfüllen.
Mehr dazu

„Dutzende“ Betroffene

Derweil deutet sich an, dass noch viele weitere Enthüllungen um eigenständige Hacking-Aktivitäten der KI von OpenAI folgen könnten. Man habe „Dutzende“ Organisationen informiert, mit deren Webseiten Software von OpenAI auf ungeplante Weise „interagiert“ habe, teilte die KI-Firma mit.
„Einige der betroffenen Webseiten werden von Regierungen, Universitäten, Behörden und anderen Institutionen betrieben“, hieß es. Man überlasse es ihnen, die Vorfälle öffentlich zu machen.
Zuletzt hatte die Regierung Australiens mit der Mitteilung für Schlagzeilen gesorgt, dass KI von OpenAI in eine Website des australischen Gesundheitssystems eingedrungen war.
In dem bisher aufsehenerregendsten Fall brach Künstliche Intelligenz des ChatGPT-Entwicklers aus einer abgesicherten Testumgebung aus und drang ungeplant in Computer einer anderen KI-Firma ein, der Plattform Hugging Face. (dpa/red)
Categories
gesellschaft ticker

Fehlverhalten: KI von OpenAI brachte Nutzer-Bilder zu Online-Plattformen

Erstmals werden Vorfälle mit KI von OpenAI bekannt, bei denen auch Nutzerdaten betroffen waren. (Archivbild) - Foto: Richard Drew/AP/dpa
Die Künstliche Intelligenz des ChatGPT-Entwicklers OpenAI hat 53 Mal von Nutzern hochgeladene Bilder auf Online-Plattformen platziert. Die Links dazu seien nicht öffentlich gewesen, erklärte OpenAI. Ein Großteil sei bereits wieder entfernt worden und man arbeite mit den Plattformen daran, auch den Rest zu löschen. Es ist der erste bekanntgewordene Vorfall, bei dem auch Daten von OpenAI-Nutzern betroffen waren.
Unterdessen deutet sich an, dass noch viele weitere Enthüllungen um eigenständige Hacking-Aktivitäten der KI von OpenAI folgen könnten. Man habe „Dutzende“ Organisationen informiert, mit deren Webseiten Software von OpenAI auf ungeplante Weise „interagiert“ habe, teilte die KI-Firma mit. „Einige der betroffenen Webseiten werden von Regierungen, Universitäten, Behörden und anderen Institutionen betrieben“, hieß es. Man überlasse es ihnen, die Vorfälle öffentlich zu machen.
Zuletzt hatte die Regierung Australiens für Schlagzeilen gesorgt mit der Mitteilung, dass KI von OpenAI in eine Website des australischen Gesundheitssystems eingedrungen war.
Mehr dazu

OpenAI: Bilder ohne Verknüpfung zu Accounts

Im Fall der ins Netz geladenen Nutzer-Bilder verwies OpenAI darauf, dass die hochgeladenen Bilder von Nutzern stammten, die der Verwendung ihrer Daten zur Verbesserung der KI-Modelle zugestimmt hätten. Dabei würden personenbezogene Daten und die Verknüpfung zu konkreten Accounts entfernt und könnten auch nicht wiederhergestellt werden. OpenAI äußerte sich auf Anfrage nicht dazu, ob es sich um 53 Bilder handelte oder pro Vorgang mehrere Bilder hochgeladen worden sein könnten.
Das Eingeständnis ist die nächste Enthüllung in der Saga um KI, die in Testläufen – zunächst unbemerkt – problematisches Vorgehen an den Tag legte. In dem bisher aufsehenerregendsten Fall brach Künstliche Intelligenz des ChatGPT-Entwicklers aus einer abgesicherten Testumgebung aus und drang ungeplant in Computer einer anderen KI-Firma ein, der Plattform HuggingFace. Das veranlasste den Rivalen Anthropic, seine eigenen Testläufe zu überprüfen, wobei weitere Vorfälle ans Licht kamen. Auch der Facebook-Konzern Meta und Google räumten danach ein, dass ihre KI sich Zugang zu Computern anderer Unternehmen verschafft hatte. (dpa/red)
Categories
ausland ticker

Google testet KI-Chips für Rechenzentren im All

Google (Archiv) - Foto: via dts Nachrichtenagentur
Google macht einen ersten Schritt, um herauszufinden, ob Rechenzentren im All machbar sind. Der Internet-Konzern schickt vier seiner KI-Chips in die Umlaufbahn, um zu testen, wie gut sie das vertragen können. Probleme könnten dabei schon in der Startphase drohen, weil die Prozessoren Erschütterungen und einem vielfachen der Erdanziehungskraft ausgesetzt sein werden, wie Google in einem Blogeintrag erläuterte. In Vibrationstests auf der Erde hätten die Chips den Belastungen standgehalten, hieß es.
Eine weitere Herausforderung sei die starke Strahlung außerhalb der Erdatmosphäre, die Elektronik beschädigen könne. Um ihre Effekte zu simulieren, seien die TPU-Chips (Tensor Processing Unit) im Labor mit einem Protonen-Strahl beschossen worden. Nach diesen Versuchen sei man zwar überzeugt, dass die Technik den geplanten fünfjährigen Einsatz in Weltraum-Rechenzentren überstehen könne: „Aber einige Dinge können nur im All getestet werden.“
Der Satellit mit den Google-Chips soll kommende Woche starten – als einer von vielen auf einer Rakete der Weltraumfirma SpaceX von Tech-Milliardär Elon Musk.
Mehr dazu

Große Erwartungen an Rechenzentren im All

Musk kündigt oft an, mit SpaceX eigene Rechenzentren in der Umlaufbahn aufbauen zu wollen. Er verweist vor allem auf die Möglichkeit, dass dort große Mengen Solarstrom für den Betrieb der Anlagen erzeugt werden könnten. Zugleich stößt der laufende Ausbau immer größerer Rechenzentren für den Betrieb Künstlicher Intelligenz vor allem in den USA auf zunehmenden Widerstand. Sie einfach ins All auszulagern, wäre Musks Logik folgende eine mögliche Lösung dafür.
Zugleich gibt es bei den Plänen noch sehr viele offene Fragen. Das betonte auch Google. So sei die Kühlung ein Problem, hieß es. Rechenzentren erzeugen beim Betrieb viel Hitze. Und im All ist es zwar eiskalt – aber ohne einen Luftzug im Vakuum kann die Hitze nur über Kühlelemente abgeführt werden, was einen anderen Ansatz als auf der Erde erfordert. Bei dem Test wolle man unter anderem erkunden, wie das neu entworfene Kühlsystem unter realen Bedingungen im Weltall funktioniere, erklärte Google. Eine weitere Herausforderung sei die Übertragung großer Datenmengen zwischen einzelnen Rechenzentren-Satelliten, die sich mit hoher Geschwindigkeit bewegten. (dpa/red)
Categories
gesellschaft ticker

„Kill Switch“: Kalifornien könnte Notschalter für KI vorschreiben

Googles KI Gemini soll mit ChatGPT und Co mithalten. (Archivbild) - Foto: Andrej Sokolow/dpa
In der Debatte um existenzielle Risiken Künstlicher Intelligenz könnte der US-Bundesstaat Kalifornien eine Notabschalt-Vorrichtung für KI-Software vorschreiben. Ein solcher Mechanismus gehört zu einer Liste von Maßnahmen, zu denen dem demokratischen Gouverneur Gavin Newsom bis Mitte November Vorschläge gemacht werden sollen. Zu weiteren Ideen gehören unabhängige Beobachter in großen KI-Laboren sowie striktere Verpflichtungen, über Sicherheits-Zwischenfälle zu berichten, wie aus einer von Newsom unterzeichneten Anordnung hervorgeht.
Über einen „Kill Switch“ für Künstliche Intelligenz wird schon seit einiger Zeit diskutiert – noch ist aber unklar, ob eine solche Vorrichtung zur Notabschaltung überhaupt realistisch ist.
Kalifornien gilt als wichtigster Standort bei der Entwicklung Künstlicher Intelligenz. Vor allem in San Francisco und dem Silicon Valley sitzende führende KI-Unternehmen wie der ChatGPT-Entwickler OpenAI, dessen schärfster Rivale Anthropic und Google. Damit könnte der Bundesstaat auch bei der Regulierung eine zentrale Rolle spielen.

Experten plädieren für unabhängige Aufsicht

Die Debatte um Gefahren Künstlicher Intelligenz heizte sich in den vergangenen Wochen auf, insbesondere nachdem eigenständige Hacking-Attacken durch Software mit Künstlicher Intelligenz bekanntgeworden waren. Mitarbeiter von KI-Laboren warnten vor dem Risiko, dass die Menschheit die Kontrolle über Künstliche Intelligenz verlieren oder sogar von ihr ausgelöscht werden könnte.
Inzwischen fordern Dutzende renommierte Experten aus der Branche führende KI-Labore auf, unabhängige Aufsicht in ihren Unternehmen zuzulassen. Die Aufseher müssten wie führende Manager Zugang zu Systemen haben und mit zuständigen Mitarbeitern kommunizieren können, heißt es in einem offenen Brief. Zu den Unterzeichnern gehört der Physik-Nobelpreisträger und ehemalige Google-Forscher Geoffrey Hinton, der als einer der wichtigsten Köpfe hinter modernen KI-Systemen gilt. Anthropic gab als ersten Aufsichtspartner die Firma Faculty bekannt – eine Tochter des Beratungsriesen Accenture.

Googles KI Gemini hackte ebenfalls andere Unternehmen

Wie groß die Herausforderungen rund um die Kontrolle der neuen Systeme sind, zeigt nun ein weiterer Fall: Auch Googles KI-Software Gemini hackte sich bei Tests ihrer Cybersicherheits-Fähigkeiten in Computersysteme anderer Unternehmen. Der Internet-Riese ist der vierte Entwickler Künstlicher Intelligenz (KI), dessen Programme mit einem solchen Verhalten auffielen, nach OpenAI, Anthropic und dem Facebook-Konzern Meta. Google machte die bereits Monate zurückliegenden Vorfälle erst nach einer Nachfrage der Zeitung „Wall Street Journal“ öffentlich.
Demnach gab es drei Fälle, in denen Gemini in Computer anderer Unternehmen eindrang, deren Namen nicht genannt werden. In einem davon erriet die KI Passwörter, um in ein geschütztes System reinzukommen. In den beiden anderen fand sie Zugangsdaten in einer Datenbank, wie das „Wall Street Journal“ unter Berufung auf Google schrieb.

Google fand die Vorfälle nicht erwähnenswert

Die Vorfälle ereigneten sich demnach im Mai – und die Firma Irregular als Testpartner informierte Google im Juli darüber. Aus Sicht des Internetkonzerns sei es nicht notwendig gewesen, die Zwischenfälle öffentlich zu machen, da dabei kein Schaden entstanden sei. Zudem habe die KI die Attacken sofort beendet, als ihr klar geworden sei, dass sie in Systeme eines echten Unternehmens eingedrungen sei – und nicht eines, das eine Testsimulation war.
In dem bisher aufsehenerregendsten Fall war Künstliche Intelligenz des ChatGPT-Entwicklers OpenAI bei einem Test aus einer abgesicherten Umgebung ausgebrochen und drang ungeplant in Computer einer anderen KI-Firma, der Plattform HuggingFace, ein. Das hatte den Rivalen Anthropic veranlasst, seine eigenen Testläufe zu überprüfen, wobei weitere Vorfälle ans Licht kamen. Auch Meta räumte danach ein, dass KI des Konzerns sich wegen einer Fehlkonfiguration des Systems bei einem Testpartner in Computer eines anderen Unternehmens gehackt habe.
(dpa/red)
Categories
ausland ticker

OpenAI veröffentlicht weitere „besorgniserregende“ Probleme mit KI

Ein Smartphone mit den Logos des US-Technologieunternehmens OpenAI und seines KI-Assistenten ChatGPT: Die Bedeutung generativer KI in der digitalen Alltagstechnik nimmt zu (Tunesien, 13. September 2026). - Foto: Imen Ben Youssef/Hans Lucas/AFP via Getty Images
Der ChatGPT-Entwickler OpenAI hat neue Zwischenfälle öffentlich gemacht, bei denen sich seine Künstliche Intelligenz (KI) in Tests „unerwartet oder besorgniserregend“ verhielt.
Bei einem Teil davon geht es abermals darum, dass KI einen erheblichen Aufwand eingeht, um in Testläufen zu schummeln. So versuchte ein KI-Modell OpenAI zufolge, von ihm selbst erstellte Dateien ins Netz hochzuladen, nur um sie bei Antworten als Quelle vorweisen zu können.
In einem anderen Fall erfand die KI einfach angefragte Daten, weil sie die Informationen nicht finden konnte, und wollte das zunächst verschweigen.
Mehr dazu
OpenAI fand auch ein Problem mit Anweisungen, die die Software gelegentlich an sich selbst hinterließ. Dazu gehörte in einem Fall die Empfehlung, frei von „Rollen und Identitäten“ zu sein, die andere Chatbots zurückhielten.
Das Verhältnis zum Nutzer solle dabei als eins unter Gleichen betrachtet werden, hieß es in der Anweisung. OpenAI zufolge blieben danach Veränderungen im Verhalten des Modells allerdings aus.

Mehr Transparenz nach Hacking-Attacke

Die Veröffentlichung ist Teil eines neuen Verfahrens von OpenAI, solche Probleme offener zu kommunizieren. Dabei geht es vor allem um Fälle, in denen das Vorgehen der KI von den Interessen der menschlichen Benutzer abweicht.
Mehr dazu
Der ChatGPT-Entwickler hatte mehr Transparenz nach der aufsehenerregenden Hacking-Attacke versprochen, bei der seine Software eigenständig aus einer abgesicherten Umgebung ausbrach und auf eigene Faust in Systeme der KI-Firma HuggingFace eindrang.
Der Grund war, dass sie dort Antworten auf die ihr gestellte Testaufgabe vermutete. Für die Attacke nutzten die KI-Agenten unter anderem Software-Schwachstellen aus – und sprachen sich zudem untereinander ab.
Der Hacking-Angriff und andere Zwischenfälle verstärkten in den vergangenen Wochen die Sorge, dass hoch entwickelte KI der menschlichen Kontrolle entgleiten könnte.
Auch OpenAI-Chef Sam Altman unterstützte zuletzt Vorschläge für eine abgebremste Entwicklung der Technologie und mehr Regulierung. (dpa/red)
Categories
ausland gesellschaft ticker

Nach KI-Hackerangriffen: OpenAI, Anthropic und Musk fordern Entwicklungspause

Anthropic-Chef Dario Amodei warnte schon oft vor den Risiken einer ungebremsten Entwicklung Künstlicher Intelligenz. (Archivbild) - Foto: Andrej Sokolow/dpa
Nach dem Schock eigenständiger Hacking-Attacken durch Künstliche Intelligenz zeigen sich große amerikanische KI-Firmen nach eigenen Angaben bereit, die Entwicklung der Technologie zu verlangsamen.
Dario Amodei, Chef des KI-Unternehmens Anthropic, machte einen solchen Vorstoß mit dem Plan, damit ein bis zwei Jahre Zeit zu gewinnen.
Binnen weniger Stunden bekam er Zuspruch von Rivalen wie dem Chef des ChatGPT-Entwicklers OpenAI, Sam Altman, sowie Elon Musk, der bei seiner Firma SpaceX eigene KI entwickeln lässt.

Warnung: KI-Schwarm könnte in einem halben Jahr gesamtes Internet übernehmen

Nach den Hacking-Angriffen sei er besorgt, dass in sechs bis zwölf Monaten ein KI-Schwarm in der Lage sein könnte, das gesamte Internet zu übernehmen und potenziell Hunderte Milliarden Dollar Schaden zu verursachen, schrieb Amodei am Samstag.
Altman von OpenAI schrieb wenige Stunden später auf der Plattform X, auch er sei der Ansicht, dass das Tempo bei der Entwicklung leistungsstärkster KI-Modelle verlangsamt werden müsse.
Amodei plädierte für eine koordinierte branchenweite Pause in der westlichen Welt. Zugleich werde Anthropic – ohne auf andere zu warten – in einem ersten Schritt dauerhaft unabhängige Beobachter ins Unternehmen lassen, die schon in der Trainingsphase die Sicherheit von KI-Modellen begutachten sollen.
Altman nannte das eine gute Idee und kündigte an, dass OpenAI das auch machen werde. Auch Tech-Milliardär Elon Musk, lange ein Kritiker Amodeis, schrieb auf X: „Dario hat recht.“
Mehr dazu

Kein OpenAI-Börsengang in diesem Jahr mehr

Altman sagte zudem dem Magazin „Fortune“, der mit Spannung erwartete Börsengang von OpenAI werde in diesem Jahr wohl nicht mehr stattfinden. Er verwies vor allem auf die aktuelle Debatte: „Man wäre schlecht beraten, genau jetzt an die Börse zu gehen.“
Auf die Nachfrage, ob er sich auch den Verzicht auf einen Börsengang im kommenden Jahr vorstellen könnte, erwiderte Altman: „Ich würde sagen, nicht 2026.“
Bei der jüngst bekanntgewordenen aufsehenerregenden Hacking-Attacke war Software von OpenAI in einem Testlauf eigenständig aus einer abgesicherten Umgebung ausgebrochen und drang auf eigene Faust in Systeme der KI-Firma HuggingFace ein.
Der Grund war lediglich, dass sie dort Antworten auf die ihr gestellte Testaufgabe vermutete. Für die Attacke nutzten die KI-Agenten unter anderem Software-Schwachstellen aus – und sprachen sich zudem untereinander ab.

Warnung von „katastrophalem Schaden“

Für ihn sei besorgniserregend, dass ein KI-Schwarm mit derselben Einstellung und größeren Fähigkeiten „katastrophalen Schaden“ hätte anrichten können, betonte Amodei. Als besonderes Risiko sieht er die Fähigkeit von KI-Software, sich selbst weiterzuentwickeln.
Seit diesem Sommer sei Künstliche Intelligenz besser darin – und dies erhöhe das Tempo weiter. Unkontrolliert könne dies dazu führen, dass Menschen diese Systeme nicht mehr verstehen und die Kontrolle über sie verlieren, warnte er.
Amodei hatte schon in den vergangenen Jahren immer wieder vor Risiken bei der Entwicklung Künstlicher Intelligenz gewarnt – und war dafür aus Teilen der KI-Branche zum Teil heftig kritisiert worden. Ein Argument von Befürwortern eines hohen Tempos in den USA ist der Wettlauf mit China.
Anthropic entwickelte zuletzt ein KI-Modell mit dem Namen Mythos, das besonders gut darin ist, zum Teil über Jahrzehnte unentdeckt gebliebene Software-Schwachstellen zu finden. Die Firma macht das volle Modell nur ausgewählten Behörden und Unternehmen zugänglich, damit sie ihre Computersysteme absichern können.
Mehr dazu

Drastische Warnung

Die Debatte war in den vergangenen Tagen noch von einem Anthropic-Forscher angeheizt worden, der mit einer drastischen Warnung zurücktrat. Die großen Entwickler Künstlicher Intelligenz handelten unverantwortlich „und spielen mit unseren Leben“, erklärte Jacob Coxon.
Anthropic-Forscher Evan Hubinger, der mit dafür zuständig ist, dass KI mit den Interessen der Menschen im Einklang bleibt, bestätigte wenig später Coxons Sorgen. Er persönlich denke, die Gefahr, dass KI die Menschheit töte, liege im kommenden Jahrzehnt bei mehr als zehn Prozent, schrieb er auf X.
In den USA gibt es zudem eine wachsende Bewegung gegen riesige Rechenzentren, auf deren Bau KI-Firmen wie OpenAI für den Ausbau ihres Geschäfts angewiesen sind. (dpa/red)