In Kürze
- Kritischer Dokumentarfilm gewinnt Sonderpreis bei den Filmfestspielen von Venedig.
- Ein KI-System soll im Gaza-Krieg palästinensische Zivilisten automatisiert als Ziele markiert haben.
- Experten sehen in der Nutzung des Systems einen Verstoß gegen das Völkerrecht.
- Israel wirft Filmemachern Landesverrat vor.
Ein israelischer Dokumentarfilm zeigt, wie das israelische Militär (IDF) künstliche Intelligenz eingesetzt haben soll, um angeblich massive Vernichtung palästinensischer Zivilisten im Gazastreifen zu erleichtern.
Die Doku mit dem Titel NAZA wurde am 10. September bei den Filmfestspielen von Venedig mit dem Sonderpreis der Jury ausgezeichnet und erhielt laut dem französischen Sender „France 24“ 25 Minuten lang Standing Ovations.
Standing Ovations in Venedig für Yuval Abraham und Rachel Szor.
Foto: Scott A Garfitt/Invision/AP/dpa
NAZA schildert detailliert, wie mit Hilfe von KI Personen im Gazastreifen ausgewählt und dann gezielt getötet worden seien. Die beiden Filmemacher Rachel Szor und Yuval Abraham recherchierten für ihre Dokumentation drei Jahre lang und nutzten dafür Interviews mit „zwei Dutzend Whistleblowern aus dem israelischen Militär oder den Geheimdiensten“, heißt es bei „France 24“.
Wie die „Times of Israel“ berichtete, wirft der israelische wirft der israelische Kulturminister Miki Zohar den Filmemachern Landesverrat vor und forderte den Entzug deren Staatsbürgerschaft.
In Deutschland läuft der 80-minütige Film ab 1. Oktober in den Kinos.
System seit 2023 bekannt
Ein Schwerpunkt von NAZA liegt offenbar darin, dass der Film zeigt, wie Angriffe des israelischen Militärs (IDF) von einem KI-System und von Algorithmen unterstützt worden sein sollen. Mit anderen Worten: Eine KI hat mittels Auswahlkriterien mitentschieden, welche Personen getötet werden sollten. „France 24“ zitiert einen der Whistleblower aus dem Film:
„Es geschah in großem Maßstab, wie in einer Fabrik.“
Das KI-System, das für die Zielidentifizierung genutzt wurde, heißt „Lavender“. Es nutzt Daten aus zahlreichen Quellen wie dem Telekommunikationsnetz, Bewegungsmustern und Interaktionen bestimmter Personen und schlägt dann Tötungen vor.
Die Information über „Lavender“ ist nicht neu. Bereits im Jahr 2024 berichteten zahlreiche internationale Medien über den Gebrauch dieses KI-Systems seitens der IDF.
37.000 palästinensische „Zielpersonen“ seien alleine in den ersten sechs Monaten seit Beginn des Gaza-Krieges im Oktober 2023 von „Lavender“ ausfindig gemacht worden, berichtete damals etwa die britische Tageszeitung „The Guardian“ unter Berufung auf „Geheimdienstquellen“. Die Zeitung hat den Film mitproduziert.
Bis zu diesem Zeitpunkt sei die Existenz der KI-gestützten Datenbank „Lavender“ noch unbekannt gewesen. Die Nachricht von damals ging zurück auf Berichte der israelischen Onlineportale „+972 Magazine“ sowie „Sikha Mekomit“. Sie veröffentlichten erstmals den Namen des KI-Systems und berichteten, dass das System in etwa zehn Prozent der Fälle Fehler mache. In einem der Berichte hieß es damals:
„Das Ergebnis war, wie die Quellen bezeugten, dass Tausende Palästinenser – die meisten von ihnen Frauen und Kinder oder Menschen, die nicht an den Kämpfen beteiligt waren – durch israelische Luftangriffe ausgelöscht wurden, insbesondere in den ersten Kriegswochen, aufgrund der Entscheidungen des KI-Programms.“
Von Israelis aufgedeckt
Autor des Artikels war bereits damals Yuval Abraham, einer der beiden Produzenten des jetzt veröffentlichten Dokufilms „NAZA“. Er berief sich in seinem Beitrag auf die Informationen von sechs nicht namentlich genannten israelischen Geheimdienstangehörigen und erklärte die Funktionsweise des KI-Systems.
Die KI-Auswertungen seien „wie eine menschliche Entscheidung“ behandelt wurden. Die IDF habe sich in den ersten Wochen des Krieges „fast vollständig auf Lavender“ verlassen, um Palästinenser sowie deren Wohnhäuser für mögliche Luftangriffe zu identifizieren.
In der Anfangsphase des Krieges habe die Armee den Offizieren pauschal die Erlaubnis erteilt, die Tötungslisten von „Lavender“ ungeprüft zu übernehmen. Es sei nicht hinterfragt worden, welche Entscheidungen die KI getroffen hatte.
Eine Quelle habe gegenüber Abraham angegeben, dass das „menschliche Personal“ oft nur noch als „Abnicker“ für die Entscheidungen „Lavenders“ gedient hätte.
Große Teile des Gazastreifens sind von Israel in eine Ruinenlandschaft verwandelt worden. Den Krieg hatte die islamistische Terrororganisation Hamas mit ihrem Massaker in Israel vor bald drei Jahren ausgelöst. (Archivbild)
Foto: Jehad Alshrafi/AP/dpa
Manche Entscheidungen hätte nur etwa „20 Sekunden“ gedauert, um einen Bombenangriff auf eine bestimmte Person zu genehmigen, obwohl bekannt gewesen sei, dass das System Fehlangaben liefern würde.
Weitere automatisierte Systeme, darunter eins mit dem Namen „Wo ist Papa?“ seien „speziell dazu eingesetzt“ worden, „die Zielpersonen aufzuspüren und Bombenangriffe durchzuführen, sobald diese die Wohnräume ihrer Familien betreten hatten“, erklärt Abraham weiter.
Die „Lavender“-Software analysiere Informationen, die über die rund 2,3 Millionen Einwohner des Gazastreifens mittels eines israelischen Massenüberwachungssystems gesammelt worden seien.
Sie bewerte anschließend die Wahrscheinlichkeit, mit der eine bestimmte Person im militärischen Flügel der Hamas oder der PIJ aktiv sei. Laut den Informanten Abrahams vergebe das System fast jeder einzelnen Person im Gazastreifen eine Bewertung von 1 bis 100, die wiederum angibt, wie wahrscheinlich es sei, dass sie ein Militant sei.
Wie „Lavender“ arbeitet
Das System habe gelernt, Merkmale bekannter Hamas- und anderer Jihad-Aktivisten zu identifizieren, deren Informationen dem System als Trainingsdaten zugeführt wurden. Anschließend wurden dieselben Merkmale auf die allgemeine Bevölkerung angewandt.
Eine Person, bei der mehrere verschiedene „belastende Merkmale“ festgestellt worden seien, habe eine hohe Bewertung erhalten und sei „somit automatisch zu einem potenziellen Ziel für ein Attentat“ geworden. Als Zielpersonen seien ausschließlich Männer erfasst worden.
Der Informatiker Rainer Rehak vom Weizenbaum-Institut in Berlin erklärte kürzlich auf dem Portal „netzpolitik.org“: „Die Kontrolle durch die Besatzung von Gaza ermöglicht es Israel, riesige Datenmengen über praktisch alles innerhalb des Gazastreifens zu sammeln, von Satellitenbildern, Standortdaten von Mobiltelefonen, Videoüberwachungsaufnahmen, Geodaten, Kommunikations- und Metadaten, Gebäude-Informationen, Bewegungsdaten, Zahlungsdaten, Aufnahmen von Drohnen und sogar Informationen über Familienbeziehungen und soziale Strukturen.“
Auch ein KI-System mit der Bezeichnung „The Gospel“ sei eingesetzt worden. Es schlägt Gebäude und Strukturen als Ziele vor.
System verstößt gegen Völkerrecht
Gemeinsam mit der Völkerrechtlerin Taylor Kate Woodcock von der Universität Amsterdam machte Rehak außerdem auf die Folgen des „Lavender“-Systems für das Völkerrecht aufmerksam und welche ethischen Fragen der Einsatz von KI in der modernen Kriegsführung aufwirft.
Woodcock erklärt, Zahlen würden darauf hindeuten, „dass die IDF bis zu oder mehr als die Hälfte der gesamten Bevölkerung und Infrastruktur im Gazastreifen ins Visier genommen hatten.“
Informatiker Rehak kritisiert:
„Die Menschen in Gaza wurden im Grunde in eine große Todesliste eingetragen und dann von oben nach unten mit allem, was gerade zur Verfügung stand, angegriffen.“
Für Woodcock besteht die Gefahr bei der Nutzung von KI-Systemen darin, „dass menschliche Nutzerinnen und Nutzer deren Ausgaben zu viel Vertrauen entgegenbringen und sie nicht kritisch hinterfragen“.
Dieses Phänomen werde als „Automation Bias“ bezeichnet, also die Tendenz, automatisierten Entscheidungen mehr zu vertrauen als eigenem menschlichem Urteilsvermögen.
Völkerrechtlerin Woodcock: „bis zu oder mehr als die Hälfte der gesamten Bevölkerung und Infrastruktur im Gazastreifen ins Visier genommen“
Foto: Mohammad Abu Samra/AP/dpa
„Die Zielauswahl unterliegt jedoch völkerrechtlichen Verpflichtungen, die eine Prüfung der Rechtmäßigkeit der Ziele und Maßnahmen zur Vermeidung von zivilen Opfern vorschreiben“, betont die Völkerrechtlerin Woodcock.
Wenn man sich die Zeitspanne für jede Zielüberprüfung ansehe, „so war diese völkerrechtliche Pflicht eindeutig nicht erfüllt“. Dies würden auch die Whistleblower bestätigen, die sich als bloßen „Genehmigungsstempel“ bezeichneten, so Woodcock. Und weiter:
„Wir haben dieses Vorgehen detailliert analysiert und sind zu dem Schluss gekommen, dass es systematisch und schwerwiegend gegen das Völkerrecht verstößt.“
Fehler in Kauf genommen
Woodcock kritisiert zudem: Bei der Analyse des Systems stelle sich heraus, dass „das gesamte Design, die Einrichtung und die Konfiguration des Systems zwangsläufig zu der großen Menge an zivilen Schäden an Menschen und Infrastruktur“ geführt habe.
Sie ist überzeugt, „dass zivile Schäden im System vorprogrammiert sind und sogar als Kernfunktion angesehen werden könnten“. Die „Zielauswahlprozesse“ würden die vom Völkerrecht geforderten Schutzmaßnahmen „strukturell nicht ausreichend gewährleisten“.
Das „Lavender“-System könne ihrer Meinung nach „nicht rechtmäßig eingesetzt werden“. Rehak fordert gar eine sofortige Stilllegung und ein Exportverbot solcher Systeme.
Er macht darauf aufmerksam: „Das Völkerrecht ist aus den Lehren des Zweiten Weltkriegs entstanden, wir sollten daher seine Grundsätze unabhängig vom Akteur ernst nehmen.“
Reaktionen aus Israel
Der Stabschef des israelischen Militärs, Generalleutnant Eyal Zamir, wies an, rechtliche Schritte gegen den Film und daran beteiligten Menschen zu prüfen, schreibt „The Times of Israel“.
Die Dokumentation würde die israelischen Streitkräfte diffamieren und geheime Informationen weitergeben, die zur Produktion des Films verwendet wurden.
Auch Israels Ministerpräsident Benjamin Netanjahu wurde deutlich in seiner Kritik. In einem Video, das auf X vom Portal „Clash Report“ geteilt wurde, erklärte er:
„Wir kämpfen gegen die globale antisemitische Hetze, aber wenn sie von innen kommt, ist sie einfach unerträglich. Jetzt präsentieren zwei israelische Regisseure die IDF als Kriegsverbrecher und erhalten Beifall beim Filmfestival von Venedig.“
Den Filmemachern Rachel Szor und Yuval Abraham droht nun die Ausbürgerung. Kulturminister Miki Zohar erklärte, er werde „unverzüglich Maßnahmen ergreifen“, um ihnen die israelische Staatsbürgerschaft zu entziehen.
Seit Beginn des Krieges hat das israelische Militär Journalisten den unabhängigen Zugang zum Gazastreifen untersagt.