Tag: Intelligenz

Categories
deutschland ticker

„KI-Zeitenwende“ in der Bundeswehr – Verteidigungsfähigkeit erhöhen

Generalleutnant Michael Vetter spricht von einer „technologischen Zeitenwende“ in der Bundeswehr. (Archivbild) - Foto: Sean Gallup/Getty Images
Angesichts des rasanten technischen Fortschritts und der zunehmenden Automatisierung der Kriegsführung rüstet sich die Bundeswehr für das Zeitalter der künstlichen Intelligenz. Ranghohe Offiziere und Vertreter des Verteidigungsministeriums stellten am Dienstag, den 28. Juli, in Berlin die Kernpunkte der neuen KI-Strategie vor.

Technologische Zeitenwende

Die vom damaligen Kanzler Olaf Scholz 2022 ausgerufene sicherheitspolitische Zeitenwende gehe einher mit einer „technologischen Zeitenwende“, sagte Generalleutnant Michael Vetter, Abteilungsleiter Innovation und Cyber im Verteidigungsministerium.
Mehr dazu
Die Truppe müsse Cloud Computing und Quantentechnologie ebenso beherrschen wie die Automatisierung von Waffensystemen und die systematische Vernetzung innerhalb der Bundeswehr und mit den Nato-Partnern.
KI habe „durchaus disruptiven Charakter“ und verändere die Art der Kriegsführung. Als Beispiel nannte Vetter die Ukraine. „Wir reden nicht mehr über Theorie, wir sind mitten in der Anwendung.“

Informations-, Führungs- und Wirkungsüberlegenheit

Für eine erfolgreiche Abschreckung im KI-Zeitalter nannte Vetter einen „Dreiklang“: Informationsüberlegenheit, Führungsüberlegenheit und Wirkungsüberlegenheit. Dabei gehe es um das Beherrschen riesiger Datenmengen und den technologischen Vorsprung bei KI-gestützten Waffensystemen wie Drohnen oder Fernlenkwaffen.
„Die KI hilft uns schlichtweg, verteidigungsfähiger zu werden“, betonte Flotillenadmiral Christian Bock, Leiter des Innovationszentrums der Bundeswehr.
Mehr dazu
Der Bundestag bewilligte die Beschaffung im Dezember 2025. Das von der Airbus-Rüstungssparte gemeinsam mit deutschen Start-ups entwickelte System soll die taktische Überwachung großer Räume an der Nato-Ostflanke ermöglichen.
Drohnen und Sensoren sammeln Daten in der Luft und am Boden und fügen sie quasi in Echtzeit zu einem einheitlichen Lagebild zusammen. Zwei Kampfbataillone der Litauen-Brigade sollen spätestens ab Mitte 2027 damit ausgerüstet werden.
Auch als „bürokratische Organisation“ müsse die Bundeswehr schlagkräftiger werden, sagte Vetter – etwa indem Soldatinnen und Soldaten mithilfe von KI von Verwaltungsaufgaben entlastet werden.

Bei KI-Waffensystemen soll stets ein Mensch am Ende der Befehlskette stehen. (Archivbild)

Foto: Ronny Hartmann / AFP via Getty Images

Mensch bleibt am Ende der Befehlskette

Bei allen KI-Anwendungen stehe immer ein Mensch am Ende der Befehlskette, betonte Vetter. Dass Maschinen selbst entscheiden, ob und welche Ziele sie angreifen, solle möglichst ausgeschlossen werden.
In ihrem KI-Konzept gibt sich die Bundeswehr klare Regeln für einen verantwortungsvollen Umgang. Internationale Normen, das Völkerrecht, Nato-Regularien und das Grundgesetz fließen ein.
„Deutschland gehört zu den wenigen Staaten, die eine völkerrechtskonforme Waffenprüfung durchführen, auch für KI-gestützte Waffensysteme“, sagte Jan-Peter Ganschow, zuständig für KI-Governance im Ministerium.
Ein Kriegsgeschehen erfordere eine „nochmalige Betonung von Recht und Ethik“ – etwa bei der Frage, „ob eine Maschine einen minderjährigen Kombattanten bekämpfen darf“. (afp/red)
Categories
wissen

Mathematiker: KI-Hype nicht unkritisch übernehmen

Globale Risiken: Forscher warnen vor KI-Einsatz bei Massenüberwachung und moderner Kriegsführung. (Symbolbild). - Foto: Riccardo Milani / Hans Lucas / AFP via Getty Images
Mehr als 150 Mathematiker aus aller Welt haben davor gewarnt, den „Hype“ um die mathematischen Fähigkeiten von Systemen der Künstlichen Intelligenz (KI) unkritisch zu übernehmen.
In einer am Dienstag, 2. Juni nach einer Konferenz in der niederländischen Universitätsstadt Leiden veröffentlichten Erklärung hieß es, KI-Entwickler hätten „einen starken kommerziellen Anreiz“, die Fähigkeiten ihrer Produkte übertrieben darzustellen.
Mehr dazu

Kommerzielle Marktlogik und falsche Beweise

Öffentlichkeitsarbeit zu KI werde häufig nach Marktlogik betrieben und nicht im Tempo wissenschaftlicher Begutachtung.
Dabei würden KI-Lösungen für einzelne mathematische Aufgaben irreführend als Maßstab für die allgemeinen Fähigkeiten kommerzieller KI-Modelle dargestellt, hieß es in der Leidener Erklärung.

Kritik am KI-Wettlauf: Mathematiker Michael Harris von der Columbia Universität, bemängelt den extremen wirtschaftlichen Druck in der Branche, der zu einer verzerrten und übertriebenen Darstellung realer KI-Fähigkeiten führe.

Foto: Steve Rosenbach / iStock

Der Mathematiker Michael Harris von der Columbia Universität, einer der Mitautoren der Erklärung, sagte, zwischen den großen KI-Laboren herrsche ein „Wettbewerb auf Leben und Tod“. Die Unternehmen versuchten, mit Hilfe der Mathematik Investitionen anzuziehen.
Mehr dazu
Die Autoren der Erklärung warnen unter anderem davor, dass KI-Systeme plausibel wirkende, aber letztlich falsche „Beweise“ erzeugen könnten, die für Menschen schwer zu überprüfen seien.
Auch bestehe die Gefahr, dass die Nutzung von KI in der Mathematik Forschung begünstige, die sich vor allem an neuen praktischen Anwendungen orientiere, zulasten anderer wichtiger Fragestellungen.

Warnung vor Missbrauch und ethische Pflichten

Die Autoren warnen außerdem vor möglichen Schäden durch KI bei der Kriegsführung, der Massenüberwachung, der Destabilisierung politischer Systeme und der Umweltbelastung.
Sie riefen Kollegen ihrer Zunft auf, die ethischen Folgen ihrer Forschung zu prüfen und sich nötigenfalls aus schädlicher Arbeit zurückzuziehen.
KI eröffne „neue und spannende Möglichkeiten“, werfe aber auch Fragen auf, „die nicht ungeprüft bleiben dürfen“, erklärte die Vizepräsidentin der Internationalen Mathematischen Union (IMU), Ulrike Tillmann.
Die Zukunft der mathematischen Forschung müsse von „menschlichem Urteilsvermögen, fairen und transparenten Verfahren“ sowie den „gemeinsamen Werten der weltweiten mathematischen Gemeinschaft“ geleitet werden. (afp/red)