US-Kriegsminister Pete Hegseth sprach am 30. September 2026 auf der Marine Corps Base Quantico in Virginia, zur Lage der Streitkräfte. - Foto: Alex Wong/Getty Images
In Kürze:
US-Kriegsminister Pete Hegseth gab sechs neue Vorhaben für das US-Militär bekannt.
Dazu gehört ein Kommando für autonome Kriegsführung und ein Projekt, dass Zukunftsszenarien der Kriegsführung untersucht.
Ein großer neuer Militärstützpunkt soll in den USA gebaut werden.
US-Kriegsminister Pete Hegseth gab auf der Marine Corps Base Quantico sechs neue Vorhaben des US-Militär bekannt. Zu den neuen Plänen gehörte die Gründung eines Kommandos für autonome Kriegsführung, des „AUTOWARCOM“.
Zudem kündigte er ein neues Projekt an, das die Zukunft der Kriegsführung erforschen soll. Dieses Projekt wird von SpaceX-CEO Elon Musk, dem ehemalige Sprecher des Repräsentantenhauses Newt Gingrich und Anduril-Gründer Palmer Luckey unterstützt.
„Wir hätten schon vor zehn Jahren über ein Autonomous Warfare Command nachdenken sollen“, sagte er. „Wir müssen in die Zukunft blicken, um technologische und militärische Dominanz auf dem Schlachtfeld für die kommenden Jahrzehnte zu erreichen.“
An seiner diesjährigen Rede am 30. September vor rund 600 Soldaten nahmen neben Generaloffizieren auch Unteroffiziere, Trupp- und Zugführer sowie Offiziere im Kompanie-Rang teil.
Zudem ist eine zwanzigprozentige Reduzierung der Zahl der General- und Admiralposten in den Streitkräften vorgesehen.
Autonome Kriegsführung
Das erste der sechs neuen politischen Vorhaben von Hegseth konzentriert sich auf autonome Kriegsführung. Das künftige Kommando AUTOWARCOM hat den Auftrag, autonome und robotische Fähigkeiten in den Streitkräften zu skalieren.
Bis zur Einrichtung eines voll einsatzfähigen Kommandos soll laut Hegseth eine überarbeitete Initiative des Pentagons – genannt „Projekt Agincourt“ –, die Einführung autonomer Systeme beschleunigen.
„Dieses Modell verbindet Anwender und Unternehmer in schnellen Anpassungszyklen miteinander und verlagert gleichzeitig Entscheidungsbefugnisse und Finanzmittel näher an die Frontverbände und die Einsatzkommandos“, sagte er.
„Projekt Agincourt“ werde zudem neue Rahmenbedingungen für militärische Fachgebiete entwickeln, die auf Aufgaben in der autonomen Kriegsführung zugeschnitten sind.
Das zweite Vorhaben beinhaltet eine Initiative namens „Projekt Meridian“, die potenzielle Zukunftsszenarien der Kriegsführung untersuchen soll. Geleitet wird dieses Projekt von Emil Michael, Unterstaatssekretär für Forschung und Technik im Kriegsministerium mit Unterstützung von Musk, Gingrich und Luckey.
Hegseth sagte, das Ziel des Projekts „Meridian“ bestehe darin, „kreativ in die Zukunft zu blicken und die Bereiche zu identifizieren, die wir erobern müssen, sowie die Fähigkeiten, die wir beherrschen müssen“.
Neue und modernisierte Militärstützpunkte
Hegseth kündigte an, wichtige US-Militärstützpunkte sowie andere kritische Versorgungs- und Infrastruktureinrichtungen widerstandsfähiger gegen Störungen zu machen. Diese Initiative wird als „Federal Operations for Resilience, Troop Resources, Energy, Supply, and Survivability (kurz: FORTRESS) America“ bezeichnet.
„Wir bauen längst überfällige strategische Reserven auf, die groß genug sind, um Störungen zu überstehen. Wir wappnen jede Einrichtung auf amerikanischem Boden gegen Cyberangriffe, Sabotage und Drohnen“, sagte er.
Das Militär hat begonnen, kleine Kernreaktoren zu entwickeln, mit denen auf Militärstützpunkten unabhängig von den lokalen Stromnetzen Strom erzeugt werden kann.
Hegseths vierte politische Ankündigung betrifft den Bau eines großen neuen Militärstützpunkts in den USA. Den Zweck der Basis gab er nicht bekannt. Er forderte Gouverneure im ganzen Land auf, sich für das Projekt zu bewerben. Gesucht würden „Hunderttausende Acres [mehrere Zehn- bis Hunderttausende Hektar] mit eigener Stromerzeugung, moderner Luftabwehr und Spitzentechnologie“.
Ein weiteres Vorhaben ist ein Plan zur Ausweitung der Offiziersausbildungsprogramme des Militärs.
Während viele der zukünftigen Offiziere Militärakademien wie die U.S. Military Academy in West Point und die U.S. Naval Academy in Annapolis besuchen, erhalten andere Offiziere nach dem Besuch traditioneller vierjähriger Universitäten ihre Ernennung.
Sechs Universitäten haben den Status „Senior Military College“ erhalten und Kadettenkorps gegründet, um Studenten vorzubereiten, die nach ihrem Abschluss eine Offizierslaufbahn anstreben. Hegseth sieht zudem eine Erweiterung dieser Kadettenkorps auf weitere Universitäten vor.
Amt für religiöse Angelegenheiten
Die sechste neue Maßnahme, die Hegseth ankündigte, ist die Einrichtung eines Amtes für religiöse Angelegenheiten,das direkt dem Kriegsministerium unterstellt ist. Es soll Aufgaben übernehmen, welche die religiöse Praxis innerhalb des Militärs betreffen.
Bei der Vorstellung sprach Hegseth das Problem an, dass Personen ohne nennenswerte religiöse Fachkenntnis die Richtlinien des Militärs beeinflussen konnten.
Dieses neue Amt für religiöse Angelegenheiten werde direkt an sein Büro berichten: „Keine Filter durch Mitarbeiter, keine bürokratische Verwässerung, ein direkter Draht zum Minister.“
Das KI-System „Lavender" soll im Gazakrieg Israels Ziele ohne manuelle Prüfung markiert haben. (Archivfoto) - Foto: Mahmoud Zaki/Xinhua/dpa
Wer Künstliche Intelligenz (KI) einsetzt, muss mit Fehlern rechnen. Im militärischen Bereich können solche Fehler gefährliche und dramatische Konsequenzen nach sich ziehen. Selten erfährt man dazu etwas, weil militärische Einsätze in der Regel geheim bleiben.
Am 18. September jedoch berichtete der amerikanische Fernsehsender CNN, er habe „exklusiv“ davon erfahren, dass eine Analyse, die mittels KI erstellt worden sei, im Frühjahr dieses Jahres „fast einen Krieg ausgelöst hätte“. Während der Militärkampagne der USA gegen den Iran seien die US-Streitkräfte kurz davor gewesen, ein chinesisches Schiff anzugreifen. Laut CNN seien auf dem Schiff Bestandteile eines Atomwaffenprogramms vermutet worden.
Aufgrund der Brisanz hätten die Verantwortlichen der US-Operation den Bericht eines Analysten erneut überprüft und dann festgestellt, „dass dieser mithilfe künstlicher Intelligenz erstellt worden war – und dass ein Chatbot, den der Analyst verwendet hatte, die Ladung des Schiffes falsch identifiziert hatte.“ Der Bericht des Analysten sei, sagte eine der Quellen, „vollkommen falsch“ gewesen.
CNN beruft sich dabei nur auf anonyme Quellen, sodass das geschilderte Szenario nicht überprüfbar ist.
Tötung von Zivilisten in Kauf genommenn?
Gleiches gilt für einen israelischen Dokumentarfilm, der zeigen soll, wie der Einsatz von KI durch die Israelischen Verteidigungsstreitkräfte (IDF) zur massenhaften Tötung vermeintlicher Hamas-Kämpfer und Sympathisanten im Gazastreifen geführt habe. Dabei sei auch die Tötung von zahlreichen Zivilisten billigend in Kauf genommen worden, heißt es in der Doku.
Der Film mit dem Titel „NAZA“ wurde am 10. September bei den Filmfestspielen von Venedig mit dem Sonderpreis der Jury ausgezeichnet und erhielt laut Medienberichten 25 Minuten lang Standing Ovations.
Standing Ovations in Venedig für Yuval Abraham und Rachel Szor.
Foto: Scott A Garfitt/Invision/AP/dpa
„NAZA“ schildert, wie mithilfe von KI-Programmen Personen im Gazastreifen ausgewählt und dann gezielt getötet worden seien. Die beiden Filmemacher Rachel Szor und Yuval Abraham recherchierten für ihre Dokumentation laut ihren eigenen Angaben drei Jahre lang und nutzten dafür Interviews mit „zwei Dutzend Whistleblowern aus dem israelischen Militär oder den Geheimdiensten“.
In Deutschland kommt der 80-minütige Film ab 1. Oktober in den Kinos.
System seit 2024 bekannt
Ein Schwerpunkt von „NAZA“ liegt offenbar darin, zu zeigen, wie eine KI mittels Auswahlkriterien mitentschieden habe, welche Personen getötet werden sollten. „France 24“ zitiert einen der Whistleblower aus dem Film:
„Es geschah in großem Maßstab, wie in einer Fabrik.“
Ein KI-System, das von der IDF für die Zielidentifizierung genutzt wurde, heißt „Lavender“. Es nutze Daten aus zahlreichen Quellen wie dem Telekommunikationsnetz, Bewegungsmustern und Interaktionen bestimmter Personen und schlage dann Tötungen vor.
Die Information über „Lavender“ ist nicht neu. Bereits im Jahr 2024 berichteten zahlreiche internationale Medien über den Gebrauch dieses KI-Systems seitens der IDF.
37.000 palästinensische „Zielpersonen“ seien alleine in den ersten sechs Monaten seit Beginn des Gaza-Krieges im Oktober 2023 von „Lavender“ ausfindig gemacht worden, berichtete damals etwa die britische Tageszeitung „The Guardian“ unter Berufung auf „Geheimdienstquellen“. Die Zeitung hat den Film mitproduziert.
Bis zu diesem Zeitpunkt sei die Existenz der KI-gestützten Datenbank „Lavender“ noch unbekannt gewesen. Die Nachricht von damals ging zurück auf Berichte der israelischen Onlineportale „+972 Magazine“ sowie „Sikha Mekomit“. Sie veröffentlichten erstmals den Namen des KI-Systems und berichteten, dass das System in etwa 10 Prozent der Fälle Fehler mache. In einem der Berichte hieß es damals:
„Das Ergebnis war, wie die Quellen bezeugten, dass Tausende Palästinenser – die meisten von ihnen Frauen und Kinder oder Menschen, die nicht an den Kämpfen beteiligt waren – durch israelische Luftangriffe ausgelöscht wurden, insbesondere in den ersten Kriegswochen, aufgrund der Entscheidungen des KI-Programms.“
Das israelische Militär hat im Jahr 2024 bestätigt, dass das Programm „Lavender“ existiert.
Autor des Artikels war bereits damals Yuval Abraham, einer der beiden Filmemacher des jetzt veröffentlichten Dokufilms „NAZA“. Er berief sich in seinem Beitrag ausschließlich auf die Informationen von sechs nicht namentlich genannten israelischen Geheimdienstangehörigen und erklärte mit deren Hilfe die Funktionsweise des KI-Systems.
Die KI-Auswertungen seien „wie eine menschliche Entscheidung“ behandelt wurden. Die IDF habe sich in den ersten Wochen des Krieges „fast vollständig auf ‚Lavender‘“ verlassen, um Palästinenser sowie deren Wohnhäuser für mögliche Luftangriffe zu identifizieren.
In der Anfangsphase des Krieges habe die Armee den Offizieren pauschal die Erlaubnis erteilt, die Tötungslisten von „Lavender“ ungeprüft zu übernehmen. Es sei nicht hinterfragt worden, welche Entscheidungen die KI getroffen habe.
Eine Quelle habe gegenüber Abraham angegeben, dass das „menschliche Personal“ oft nur noch als „Abnicker“ für die Entscheidungen von „Lavender“ gedient habe.
Große Teile des Gazastreifens sind von Israel in eine Ruinenlandschaft verwandelt worden. Den Krieg hatte die islamistische Terrororganisation Hamas mit ihrem Massaker in Israel vor bald drei Jahren ausgelöst. (Archivbild)
Foto: Jehad Alshrafi/AP/dpa
Manche Entscheidungen hätte nur etwa „20 Sekunden“ gedauert, um einen Bombenangriff auf eine bestimmte Person zu genehmigen, obwohl bekannt gewesen sei, dass das System Fehlangaben liefere.
Weitere automatisierte Systeme, darunter eins mit dem Namen „Wo ist Papa?“, seien „speziell dazu eingesetzt“ worden, „die Zielpersonen aufzuspüren und Bombenangriffe durchzuführen, sobald diese die Wohnräume ihrer Familien betreten hatten“, erklärte Abraham weiter.
Die „Lavender“-Software habe Informationen analysiert, die über die rund 2,3 Millionen Einwohner des Gazastreifens mittels eines israelischen Massenüberwachungssystems gesammelt worden seien, heißt es in dem Beitrag von 2024 weiter.
Sie hätte anschließend die Wahrscheinlichkeit bewertet, mit der eine bestimmte Person im militärischen Flügel der Terrorgruppe Hamas oder der Splitterterrorgruppe Palästinensischer Islamischer Dschihad aktiv sei. Laut den Informanten Abrahams habe das System fast jeder einzelnen Person im Gazastreifen eine Bewertung von 1 bis 100 vergeben. Anhand dieser Skala wiederum sei ersichtlich geworden, wie wahrscheinlich es sei, dass eine Person ein Terrorist sei.
Laut dem von der Hamas geführten Gesundheitsministeriums im Gazastreifen wurden seit Kriegsbeginn 73.470 Menschen getötet. Die Zahlen unterscheiden nicht zwischen Zivilisten und Kämpfern und wurden nicht unabhängig überprüft.
Foto: Mohammad Abu Samra/AP/dpa
IDF: Menschliches Personal entscheidet
Ein nicht namentlich genannter Sprecher der IDF nahm am 11. September Stellung zur „NAZA“-Dokumentation: „Die IDF weist diese Vorwürfe kategorisch zurück.“
Der Film stütze sich auf anonyme Aussagen von Personen, „deren Identität nicht überprüft werden kann – darunter auch, ob sie in der IDF gedient haben, in welcher Funktion oder ob sie an den Vorgängen beteiligt waren, auf die sich die Vorwürfe beziehen“.
Der Sprecher weiter: „Entscheidungen über die Auswahl und Genehmigung von Luftangriffen in der IDF werden ausschließlich von menschlichem Personal […] getroffen und nicht von künstlicher Intelligenz.“
In einer Pressemitteilung im Jahr 2024 betonte die IDF, dass KI-Systeme nicht „eigenständig Ziele auswählen oder generieren“, sondern nur „als Hilfsmittel bei der Aufbereitung von Informationen“ dienen. Ferner sei der Prozess der Zielidentifizierung nur „ein Teil eines umfassenderen Zielauswahlprozesses“, und die Geheimdienstmitarbeiter, die Ziele identifizieren, seien nicht diejenigen, die auch über den Angriff auf diese Ziele entscheiden.
Die letztendliche Entscheidung des Einsatzkommandanten unterliege zudem den Regeln des Völkerrechts, wofür die IDF eine eigene Abteilung unterhalte.
Drohung mit Entzug der Staatsbürgerschaft
Der Stabschef des israelischen Militärs, Generalleutnant Eyal Zamir, wies an, rechtliche Schritte gegen den Film und die daran beteiligten Menschen zu prüfen, schreibt „The Times of Israel“.
Die Dokumentation diffamiere die israelischen Streitkräfte und gebe geheime Informationen weiter, die zur Produktion des Films verwendet worden seien.
Auch Israels Ministerpräsident Benjamin Netanjahu wurde deutlich in seiner Kritik. In einem Video, das er auf Telegram geteilt hatte, erklärte er:
„Wir kämpfen gegen die globale antisemitische Hetze, aber wenn sie von innen kommt, ist sie einfach unerträglich. Jetzt präsentieren zwei israelische Regisseure die IDF als Kriegsverbrecher und erhalten Beifall beim Filmfestival von Venedig.“
Kulturminister Miki Zohar erklärte, er werde „unverzüglich Maßnahmen ergreifen“, um den Filmemachern wegen Landesverrat die israelische Staatsbürgerschaft zu entziehen.
Israel befindet sich gerade im Wahlkampf mit einer vorgezogenen Parlamentswahl Ende Oktober. Daher können sowohl die Veröffentlichung des Films als auch die Drohungen des Kulturministers in diesem Zusammenhang gesehen werden.
Seit Beginn des Krieges hat das israelische Militär Journalisten den unabhängigen Zugang zum Gazastreifen untersagt.
Auch US-Armee sieht Gefahren im KI-Einsatz
Auch das amerikanische Militär befasst sich seit Langem mit den Vor- und Nachteilen des KI-Einsatzes. Hauptmann Tyrese Bender stellte in einem Beitrag in der Fachzeitschrift für Geheimdienstmitarbeiter der US-Armee, herausgegeben vom US Army Intelligence Center, am 7. Mai dieses Jahres fest:
Der Vormarsch von KI in der modernen Kriegsführung berge für den militärischen Nachrichtendienst „sowohl enorme Chancen als auch operative Risiken“.
Zwar verspreche die KI eine Steigerung der Analysegeschwindigkeit und -effizienz, „doch eine kritische Schwachstelle gefährdet diese Vorteile: die Verzerrung durch KI“. Gemeint seien damit „systematische Fehler in KI-Systemen, die aufgrund nicht repräsentativer Trainingsdaten, fehlerhafter Konzeption oder unsachgemäßer Nutzung zu ungenauen Ergebnissen führen“.
Bender weiter: Die Voreingenommenheit der KI könne das Risiko tödlicher Angriffe auf falsche Ziele, Nichtkombattanten oder sogar eigene Streitkräfte bergen.
„Die KI-gestützte Zielerfassung der israelischen Streitkräfte im Gazastreifen unterstreicht die Realität dieser Gefahren, da durch die Voreingenommenheit der KI bedingte Identifizierungsfehler zu unrechtmäßigen Verhören und tödlichen Angriffen auf palästinensische Zivilisten führten“, schreibt die KI-Expertin.
Anm. d. Red.: Dieser Artikel wurde zeitweise offline genommen, um ihn zu überarbeiten, da die erste Version nicht unseren Ansprüchen an Fairness und Ausgewogenheit entsprochen hat.
Das KI-System „Lavender" soll im Gazakrieg Israels Ziele ohne manuelle Prüfung markiert haben. (Archivfoto) - Foto: Mahmoud Zaki/Xinhua/dpa
In Kürze
Kritischer Dokumentarfilm gewinnt Sonderpreis bei den Filmfestspielen von Venedig.
Ein KI-System soll im Gaza-Krieg palästinensische Zivilisten automatisiert als Ziele markiert haben.
Experten sehen in der Nutzung des Systems einen Verstoß gegen das Völkerrecht.
Israel wirft Filmemachern Landesverrat vor.
Ein israelischer Dokumentarfilm zeigt, wie das israelische Militär (IDF) künstliche Intelligenz eingesetzt haben soll, um angeblich massive Vernichtung palästinensischer Zivilisten im Gazastreifen zu erleichtern.
Die Doku mit dem Titel NAZA wurde am 10. September bei den Filmfestspielen von Venedig mit dem Sonderpreis der Jury ausgezeichnet und erhielt laut dem französischen Sender „France 24“ 25 Minuten lang Standing Ovations.
Standing Ovations in Venedig für Yuval Abraham und Rachel Szor.
Foto: Scott A Garfitt/Invision/AP/dpa
NAZA schildert detailliert, wie mit Hilfe von KI Personen im Gazastreifen ausgewählt und dann gezielt getötet worden seien. Die beiden Filmemacher Rachel Szor und Yuval Abraham recherchierten für ihre Dokumentation drei Jahre lang und nutzten dafür Interviews mit „zwei Dutzend Whistleblowern aus dem israelischen Militär oder den Geheimdiensten“, heißt es bei „France 24“.
Wie die „Times of Israel“ berichtete, wirft der israelische wirft der israelische Kulturminister Miki Zohar den Filmemachern Landesverrat vor und forderte den Entzug deren Staatsbürgerschaft.
In Deutschland läuft der 80-minütige Film ab 1. Oktober in den Kinos.
System seit 2023 bekannt
Ein Schwerpunkt von NAZA liegt offenbar darin, dass der Film zeigt, wie Angriffe des israelischen Militärs (IDF) von einem KI-System und von Algorithmen unterstützt worden sein sollen. Mit anderen Worten: Eine KI hat mittels Auswahlkriterien mitentschieden, welche Personen getötet werden sollten. „France 24“ zitiert einen der Whistleblower aus dem Film:
„Es geschah in großem Maßstab, wie in einer Fabrik.“
Das KI-System, das für die Zielidentifizierung genutzt wurde, heißt „Lavender“. Es nutzt Daten aus zahlreichen Quellen wie dem Telekommunikationsnetz, Bewegungsmustern und Interaktionen bestimmter Personen und schlägt dann Tötungen vor.
Die Information über „Lavender“ ist nicht neu. Bereits im Jahr 2024 berichteten zahlreiche internationale Medien über den Gebrauch dieses KI-Systems seitens der IDF.
37.000 palästinensische „Zielpersonen“ seien alleine in den ersten sechs Monaten seit Beginn des Gaza-Krieges im Oktober 2023 von „Lavender“ ausfindig gemacht worden, berichtete damals etwa die britische Tageszeitung „The Guardian“ unter Berufung auf „Geheimdienstquellen“. Die Zeitung hat den Film mitproduziert.
Bis zu diesem Zeitpunkt sei die Existenz der KI-gestützten Datenbank „Lavender“ noch unbekannt gewesen. Die Nachricht von damals ging zurück auf Berichte der israelischen Onlineportale „+972 Magazine“ sowie „Sikha Mekomit“. Sie veröffentlichten erstmals den Namen des KI-Systems und berichteten, dass das System in etwa zehn Prozent der Fälle Fehler mache. In einem der Berichte hieß es damals:
„Das Ergebnis war, wie die Quellen bezeugten, dass Tausende Palästinenser – die meisten von ihnen Frauen und Kinder oder Menschen, die nicht an den Kämpfen beteiligt waren – durch israelische Luftangriffe ausgelöscht wurden, insbesondere in den ersten Kriegswochen, aufgrund der Entscheidungen des KI-Programms.“
Von Israelis aufgedeckt
Autor des Artikels war bereits damals Yuval Abraham, einer der beiden Produzenten des jetzt veröffentlichten Dokufilms „NAZA“. Er berief sich in seinem Beitrag auf die Informationen von sechs nicht namentlich genannten israelischen Geheimdienstangehörigen und erklärte die Funktionsweise des KI-Systems.
Die KI-Auswertungen seien „wie eine menschliche Entscheidung“ behandelt wurden. Die IDF habe sich in den ersten Wochen des Krieges „fast vollständig auf Lavender“ verlassen, um Palästinenser sowie deren Wohnhäuser für mögliche Luftangriffe zu identifizieren.
In der Anfangsphase des Krieges habe die Armee den Offizieren pauschal die Erlaubnis erteilt, die Tötungslisten von „Lavender“ ungeprüft zu übernehmen. Es sei nicht hinterfragt worden, welche Entscheidungen die KI getroffen hatte.
Eine Quelle habe gegenüber Abraham angegeben, dass das „menschliche Personal“ oft nur noch als „Abnicker“ für die Entscheidungen „Lavenders“ gedient hätte.
Große Teile des Gazastreifens sind von Israel in eine Ruinenlandschaft verwandelt worden. Den Krieg hatte die islamistische Terrororganisation Hamas mit ihrem Massaker in Israel vor bald drei Jahren ausgelöst. (Archivbild)
Foto: Jehad Alshrafi/AP/dpa
Manche Entscheidungen hätte nur etwa „20 Sekunden“ gedauert, um einen Bombenangriff auf eine bestimmte Person zu genehmigen, obwohl bekannt gewesen sei, dass das System Fehlangaben liefern würde.
Weitere automatisierte Systeme, darunter eins mit dem Namen „Wo ist Papa?“ seien „speziell dazu eingesetzt“ worden, „die Zielpersonen aufzuspüren und Bombenangriffe durchzuführen, sobald diese die Wohnräume ihrer Familien betreten hatten“, erklärt Abraham weiter.
Die „Lavender“-Software analysiere Informationen, die über die rund 2,3 Millionen Einwohner des Gazastreifens mittels eines israelischen Massenüberwachungssystems gesammelt worden seien.
Sie bewerte anschließend die Wahrscheinlichkeit, mit der eine bestimmte Person im militärischen Flügel der Hamas oder der PIJ aktiv sei. Laut den Informanten Abrahams vergebe das System fast jeder einzelnen Person im Gazastreifen eine Bewertung von 1 bis 100, die wiederum angibt, wie wahrscheinlich es sei, dass sie ein Militant sei.
Wie „Lavender“ arbeitet
Das System habe gelernt, Merkmale bekannter Hamas- und anderer Jihad-Aktivisten zu identifizieren, deren Informationen dem System als Trainingsdaten zugeführt wurden. Anschließend wurden dieselben Merkmale auf die allgemeine Bevölkerung angewandt.
Eine Person, bei der mehrere verschiedene „belastende Merkmale“ festgestellt worden seien, habe eine hohe Bewertung erhalten und sei „somit automatisch zu einem potenziellen Ziel für ein Attentat“ geworden. Als Zielpersonen seien ausschließlich Männer erfasst worden.
Der Informatiker Rainer Rehak vom Weizenbaum-Institut in Berlin erklärte kürzlich auf dem Portal „netzpolitik.org“: „Die Kontrolle durch die Besatzung von Gaza ermöglicht es Israel, riesige Datenmengen über praktisch alles innerhalb des Gazastreifens zu sammeln, von Satellitenbildern, Standortdaten von Mobiltelefonen, Videoüberwachungsaufnahmen, Geodaten, Kommunikations- und Metadaten, Gebäude-Informationen, Bewegungsdaten, Zahlungsdaten, Aufnahmen von Drohnen und sogar Informationen über Familienbeziehungen und soziale Strukturen.“
Auch ein KI-System mit der Bezeichnung „The Gospel“ sei eingesetzt worden. Es schlägt Gebäude und Strukturen als Ziele vor.
Gemeinsam mit der Völkerrechtlerin Taylor Kate Woodcock von der Universität Amsterdam machte Rehak außerdem auf die Folgen des „Lavender“-Systems für das Völkerrecht aufmerksam und welche ethischen Fragen der Einsatz von KI in der modernen Kriegsführung aufwirft.
Woodcock erklärt, Zahlen würden darauf hindeuten, „dass die IDF bis zu oder mehr als die Hälfte der gesamten Bevölkerung und Infrastruktur im Gazastreifen ins Visier genommen hatten.“
Informatiker Rehak kritisiert:
„Die Menschen in Gaza wurden im Grunde in eine große Todesliste eingetragen und dann von oben nach unten mit allem, was gerade zur Verfügung stand, angegriffen.“
Für Woodcock besteht die Gefahr bei der Nutzung von KI-Systemen darin, „dass menschliche Nutzerinnen und Nutzer deren Ausgaben zu viel Vertrauen entgegenbringen und sie nicht kritisch hinterfragen“.
Dieses Phänomen werde als „Automation Bias“ bezeichnet, also die Tendenz, automatisierten Entscheidungen mehr zu vertrauen als eigenem menschlichem Urteilsvermögen.
Völkerrechtlerin Woodcock: „bis zu oder mehr als die Hälfte der gesamten Bevölkerung und Infrastruktur im Gazastreifen ins Visier genommen“
Foto: Mohammad Abu Samra/AP/dpa
„Die Zielauswahl unterliegt jedoch völkerrechtlichen Verpflichtungen, die eine Prüfung der Rechtmäßigkeit der Ziele und Maßnahmen zur Vermeidung von zivilen Opfern vorschreiben“, betont die Völkerrechtlerin Woodcock.
Wenn man sich die Zeitspanne für jede Zielüberprüfung ansehe, „so war diese völkerrechtliche Pflicht eindeutig nicht erfüllt“. Dies würden auch die Whistleblower bestätigen, die sich als bloßen „Genehmigungsstempel“ bezeichneten, so Woodcock. Und weiter:
„Wir haben dieses Vorgehen detailliert analysiert und sind zu dem Schluss gekommen, dass es systematisch und schwerwiegend gegen das Völkerrecht verstößt.“
Fehler in Kauf genommen
Woodcock kritisiert zudem: Bei der Analyse des Systems stelle sich heraus, dass „das gesamte Design, die Einrichtung und die Konfiguration des Systems zwangsläufig zu der großen Menge an zivilen Schäden an Menschen und Infrastruktur“ geführt habe.
Sie ist überzeugt, „dass zivile Schäden im System vorprogrammiert sind und sogar als Kernfunktion angesehen werden könnten“. Die „Zielauswahlprozesse“ würden die vom Völkerrecht geforderten Schutzmaßnahmen „strukturell nicht ausreichend gewährleisten“.
Das „Lavender“-System könne ihrer Meinung nach „nicht rechtmäßig eingesetzt werden“. Rehak fordert gar eine sofortige Stilllegung und ein Exportverbot solcher Systeme.
Er macht darauf aufmerksam: „Das Völkerrecht ist aus den Lehren des Zweiten Weltkriegs entstanden, wir sollten daher seine Grundsätze unabhängig vom Akteur ernst nehmen.“
Der Stabschef des israelischen Militärs, Generalleutnant Eyal Zamir, wies an, rechtliche Schritte gegen den Film und daran beteiligten Menschen zu prüfen, schreibt „The Times of Israel“.
Die Dokumentation würde die israelischen Streitkräfte diffamieren und geheime Informationen weitergeben, die zur Produktion des Films verwendet wurden.
Auch Israels Ministerpräsident Benjamin Netanjahu wurde deutlich in seiner Kritik. In einem Video, das auf X vom Portal „Clash Report“ geteilt wurde, erklärte er:
„Wir kämpfen gegen die globale antisemitische Hetze, aber wenn sie von innen kommt, ist sie einfach unerträglich. Jetzt präsentieren zwei israelische Regisseure die IDF als Kriegsverbrecher und erhalten Beifall beim Filmfestival von Venedig.“
Den Filmemachern Rachel Szor und Yuval Abraham droht nun die Ausbürgerung. Kulturminister Miki Zohar erklärte, er werde „unverzüglich Maßnahmen ergreifen“, um ihnen die israelische Staatsbürgerschaft zu entziehen.
Seit Beginn des Krieges hat das israelische Militär Journalisten den unabhängigen Zugang zum Gazastreifen untersagt.
