Die israelische Armee hat Zehntausende Bewohner des Gazastreifens als potenzielle Zielpersonen für Tötungsaktionen eingestuft – mithilfe eines KI-Zielerfassungssystems, das kaum menschlicher Kontrolle unterliegt, und einer Politik, die hohe Opferzahlen in Kauf nimmt. Dies haben jüdische und palästinensische Journalisten in einer gemeinsamen Recherche aufgedeckt. Von Yuval Abraham.
Im Jahr 2021 erschien ein Buch mit dem Titel „Das Mensch-Maschine-Team: Wie man Synergien zwischen Mensch und künstlicher Intelligenz schafft, die unsere Welt revolutionieren werden“[*] unter dem Pseudonym „Brigadegeneral Y.S.“ Darin spricht sich der Autor – ein Mann, den wir als den derzeitigen Kommandeur der israelischen Elite-Geheimdienstabteilung 8200 identifiziert haben – für die Entwicklung einer speziellen Maschine aus, die große Datenmengen schnell verarbeiten könnte, um in der Hitze eines Krieges Tausende potenzieller „Ziele“ für Militärschläge zu generieren. Eine solche Technologie, schreibt er, würde das lösen, was er als „menschlichen Engpass sowohl bei der Lokalisierung neuer Ziele als auch bei der Entscheidungsfindung zur Genehmigung der Ziele“ bezeichnete.
Eine solche Maschine, so stellt sich heraus, gibt es tatsächlich. Eine neue Untersuchung von +972 Magazine und Local Call[**] deckt auf, dass die israelische Armee ein auf künstlicher Intelligenz basierendes Programm entwickelt hat, das unter dem Namen „Lavender“ bekannt ist und hier erstmals der Öffentlichkeit vorgestellt wird.
Laut sechs israelischen Geheimdienstmitarbeitern, die alle während des aktuellen Krieges im Gazastreifen in der Armee gedient haben und direkt an der Verwendung von KI zur Ermittlung von Tötungszielen beteiligt waren, spielte Lavender eine zentrale Rolle bei den beispiellosen Bombardierungen von Palästinensern, insbesondere in der Anfangsphase des Krieges. Tatsächlich war sein Einfluss auf die militärischen Operationen den Quellen zufolge derart groß, dass die Ergebnisse der KI-Maschine im Prinzip „wie eine menschliche Entscheidung behandelt wurden“.
Formal ist das Lavender-System konzipiert, um alle verdächtigen Akteure in den militärischen Flügeln der Hamas und des Palästinensischen Islamischen Dschihad (PIJ), einschließlich derjenigen niedrigen Ranges, als potenzielle Bombardierungsziele zu markieren. Die Quellen berichteten +972 und Local Call, dass sich die Armee in den ersten Wochen des Krieges fast vollständig auf Lavender verließ, das bis zu 37.000 Palästinenser – und ihre Häuser – für mögliche Luftschläge identifizierte.
In der Anfangsphase des Krieges erteilte die Armee den Offizieren pauschal die Erlaubnis, Lavenders Tötungslisten zu übernehmen, ohne Verpflichtung, gründlich zu prüfen, warum die Maschine diese Auswahl getroffen hatte, oder die Rohdaten der Geheimdienste zu untersuchen, auf denen sie basierten.
Eine Quelle berichtete, dass menschliches Personal oft nur dazu diente, die Entscheidungen der Maschine „abzunicken”. Sie fügte hinzu, dass man normalerweise jedem Ziel nur etwa „20 Sekunden“ widmete, bevor ein Bombenangriff genehmigt wurde – und dies lediglich, um sicherzustellen, dass es sich bei dem von Lavender markierten Ziel um einen Mann handelte. Und das, obwohl bekannt war, dass das System in etwa zehn Prozent der Fälle als „Fehler“ geltende Entscheidungen trifft und bekanntlich manchmal Personen markiert, die lediglich eine lose oder überhaupt keine Verbindung zu militanten Gruppen haben.
Darüber hinaus griff die israelische Armee die Zielpersonen systematisch in ihren Häusern an – in der Regel nachts, während ihre gesamten Familien anwesend waren – und nicht im Zuge militärischer Aktivitäten. Den Quellen zufolge geschah dies, weil es nach ihrer Einschätzung aus nachrichtendienstlicher Sicht einfacher war, die Personen in ihren Privathäusern zu lokalisieren.
Zusätzliche automatisierte Systeme, darunter eines namens „Where’s Daddy“, das hier ebenfalls erstmals enthüllt wird, wurden speziell eingesetzt, um die Zielpersonen aufzuspüren und Bombenangriffe durchzuführen, wenn diese die Wohnhäuser ihrer Familien betreten hatten.
Das Ergebnis war, wie die Quellen bezeugten, dass Tausende Palästinenser – die meisten davon Frauen und Kinder oder Menschen, die nicht an den Kämpfen beteiligt waren – „aufgrund der Entscheidungen des KI-Programms“ durch israelische Luftangriffe ausgelöscht wurden, insbesondere in den ersten Wochen des Krieges.
„Wir waren nicht daran interessiert, [Hamas-]Aktivisten nur dann zu töten, wenn sie sich in einem Militärgebäude befanden oder an einer militärischen Aktivität beteiligt waren“, erklärte A., ein Geheimdienstoffizier, gegenüber +972 und Local Call. „Im Gegenteil, die IDF bombardierte sie ohne zu zögern in ihren Häusern, als erste Option. Es ist viel einfacher, das Haus einer Familie zu bombardieren. Das System ist konzipiert, um sie in solchen Situationen aufzufinden.“
Die „Lavender“-Maschine ergänzt ein anderes KI-System, „The Gospel“. Informationen darüber wurden in einer früheren Untersuchung von +972 und Local Call im November 2023 sowie in den eigenen Veröffentlichungen des israelischen Militärs bekannt. Ein grundlegender Unterschied zwischen den beiden Systemen liegt in der Definition des Ziels: Während „The Gospel“ Gebäude und Strukturen markiert, von denen aus laut Armee Militante operieren, markiert „Lavender“ Menschen – und setzt sie auf eine Tötungsliste.
Den Quellen zufolge bevorzugte die Armee außerdem, wenn es darum ging, von Lavender markierte mutmaßliche untergeordnete Militante anzugreifen, den Einsatz von ungelenkten Raketen, gemeinhin als „dumme“ Bomben bekannt (im Gegensatz zu „smarten“ Präzisionsbomben), die ganze Gebäude mitsamt ihren Insassen zerstören und erhebliche Opferzahlen verursachen können.
„Du willst keine teuren Bomben an unwichtige Leute verschwenden – das ist sehr kostspielig für das Land und es herrscht ein Mangel [an diesen Bomben]“, sagte C., einer der Geheimdienstoffiziere. Eine andere Quelle gab an, sie hätten persönlich die Bombardierung von „Hunderten“ von Privathäusern mutmaßlicher „Nachwuchskräfte” genehmigt, die von Lavender markiert worden waren. Viele dieser Angriffe töteten Zivilisten und ganze Familien als „Kollateralschaden“.
In einem beispiellosen Schritt beschloss die Armee laut zwei der Quellen in den ersten Wochen des Krieges zudem, dass es für jedes von Lavender markiertes rangniedriges Hamas-Mitglied zulässig ist, bis zu 15 oder 20 Zivilisten zu töten. In der Vergangenheit hatte das Militär bei Attentaten auf rangniedrige Militante keinerlei „Kollateralschäden“ genehmigt.
Die Quellen fügten hinzu, dass die Armee in Fällen, in denen das Ziel ein hochrangiger Hamas-Funktionär im Rang eines Bataillons- oder Brigadekommandanten war, mehrere Male die Tötung von mehr als 100 Zivilisten bei der Ermordung eines einzelnen Kommandanten genehmigte.
Die folgende Untersuchung gliedert sich in die sechs chronologischen Stufen der hochautomatisierten Zielerfassung durch die israelische Armee in den ersten Wochen des Gaza-Kriegs. Zunächst erläutern wir die „Lavender“-Maschine selbst, die unter Einsatz künstlicher Intelligenz Zehntausende Palästinenser markierte. Zweitens enthüllen wir das „Where’s Daddy?“-System, das diese Ziele verfolgte und der Armee ein Signal gab, sobald sie ihre Familienhäuser betraten. Drittens beschreiben wir, wie „dumme“ Bomben ausgewählt wurden, um diese Häuser anzugreifen.
Viertens erläutern wir, wie die Armee die zulässige Anzahl von Zivilisten, die bei der Bombardierung eines Ziels getötet werden durften, gelockert hat. Fünftens zeigen wir auf, wie automatisierte Software die Anzahl der Nichtkombattanten in jedem Haushalt ungenau berechnet hat. Und sechstens zeigen wir, wie in verschiedenen Fällen, wenn ein Haus getroffen wurde, meist nachts, die Zielperson gar nicht im Haus war, weil Militärangehörige die Informationen nicht in Echtzeit überprüft haben.
Schritt 1: Ziele generieren
„Wenn man einmal auf Automatik umgestellt hat, läuft die Generierung von Zielen auf Hochtouren.“
In der israelischen Armee bezeichnete der Begriff „menschliches Ziel“ in der Vergangenheit einen hochrangigen Militärangehörigen, der gemäß den Vorschriften der Abteilung für internationales Recht des Militärs in seiner Privatwohnung getötet werden darf, selbst wenn Zivilisten in der Nähe sind. Geheimdienstquellen sagten gegenüber +972 und Local Call, dass während Israels früherer Kriege – da dies eine „besonders brutale“ Art war, jemanden zu töten (oftmals durch die Tötung einer ganzen Familie neben dem Ziel) – solche menschlichen Ziele sehr sorgfältig markiert wurden und nur hochrangige Militärkommandanten in ihren Häusern bombardiert wurden, um den Grundsatz der Verhältnismäßigkeit nach internationalem Recht zu wahren.
Aber nach dem 7. Oktober – als von der Hamas angeführte Militante einen tödlichen Angriff auf Gemeinden im Süden Israels starteten, bei dem rund 1.200 Menschen getötet und 240 entführt wurden – nahm die Armee laut den Quellen einen dramatisch anderen Ansatz ein. Bei der „Operation Iron Swords“ beschloss die Armee, alle Aktivisten des militärischen Flügels der Hamas als menschliche Ziele einzustufen, unabhängig von ihrem Rang oder ihrer militärischen Bedeutung. Und das veränderte alles.
Die neue Politik stellte auch ein technisches Problem für den israelischen Geheimdienst dar. In früheren Kriegen musste ein Offizier, um die Tötung eines einzelnen menschlichen Ziels zu genehmigen, einen komplexen und langwierigen „Inkriminierungsprozess“ durchlaufen: Beweise gegenprüfen, dass die Person tatsächlich ein hochrangiges Mitglied des militärischen Flügels der Hamas war; herausfinden, wo sie wohnte; ihre Kontaktdaten ermitteln und schließlich in Echtzeit wissen, wann sie zu Hause war. Als die Liste der Ziele nur ein paar Dutzend hochrangige Aktivisten umfasste, konnten Geheimdienstmitarbeiter die mit der Inkriminierung und Lokalisierung verbundene Arbeit noch individuell bewältigen.
Als die Liste jedoch erweitert wurde und Zehntausende von Aktivisten niedrigerer Ränge umfasste, kam die israelische Armee zu dem Schluss, dass sie sich auf automatisierte Software und künstliche Intelligenz verlassen musste. Das Ergebnis war, so bezeugen die Quellen, dass die Rolle des menschlichen Personals bei der Einstufung von Palästinensern als militärische Aktivisten beiseitegeschoben wurde und KI stattdessen den Großteil der Arbeit übernahm.
Laut vier der Quellen, die mit +972 und Local Call sprachen, hat Lavender, das entwickelt wurde, um menschliche Ziele im aktuellen Krieg zu bestimmen, etwa 37.000 Palästinenser als mutmaßliche „Hamas-Kämpfer“ markiert, die getötet werden sollten – die meisten von ihnen junge Aktivisten (der Sprecher der IDF bestritt in einer Stellungnahme gegenüber +972 und Local Call die Existenz einer solchen Tötungsliste).
„Wir wussten nicht, wer diese nachrangigen Aktivisten waren, da Israel sie [vor dem Krieg] nicht routinemäßig verfolgt hatte“, erklärte der hochrangige Offizier B. gegenüber +972 und Local Call und beleuchtete so den Grund für die Entwicklung dieser speziellen Zielgenerierungsmaschine für den aktuellen Krieg. „Sie wollten es uns ermöglichen, die nachrangigen Aktivisten automatisch anzugreifen. Das ist der Heilige Gral. Wenn man einmal auf Automatik umgestellt hat, läuft die Generierung von Zielen auf Hochtouren.“
„Um 5 Uhr morgens kam die Luftwaffe und bombardierte alle Häuser, die wir markiert hatten“, sagte B. „Wir haben Tausende von Menschen getötet. Wir haben sie nicht einzeln durchgesehen – wir haben alles in automatisierte Systeme eingegeben, und sobald sich eine der markierten Personen zu Hause befand, wurde sie sofort zum Ziel. Wir haben sie und ihr Haus bombardiert.“
„Es war sehr überraschend für mich, dass wir aufgefordert wurden, ein Haus zu bombardieren, um einen einfachen Soldaten zu töten, dessen Bedeutung für die Kämpfe so gering war“, sagte eine Quelle über den Einsatz von KI zur Markierung mutmaßlicher rangniedriger Militanten. „Ich gab diesen Zielen den Spitznamen ‚Müllziele‘. Dennoch empfand ich sie als ethischer als die Ziele, die wir nur zur ‚Abschreckung‘ bombardierten – Hochhäuser, die evakuiert und zum Einsturz gebracht wurden, nur um Zerstörung zu verursachen.“
Die tödlichen Folgen dieser Lockerung der Beschränkungen in der Anfangsphase des Krieges waren erschütternd. Nach Angaben des palästinensischen Gesundheitsministeriums in Gaza, auf die sich die israelische Armee seit Kriegsbeginn fast ausschließlich stützt, tötete Israel in den ersten sechs Wochen des Krieges – bis zur Vereinbarung eines einwöchigen Waffenstillstands am 24. November – etwa 15.000 Palästinenser.
„Je mehr Informationen und Auswahl, desto besser“
Die Software „Lavender“ analysiert Informationen, die mithilfe eines Massenüberwachungssystems über die meisten der 2,3 Millionen Einwohner des Gazastreifens gesammelt wurden, bewertet und stuft dann die Wahrscheinlichkeit ein, dass die jeweilige Person im militärischen Flügel der Hamas oder der PIJ aktiv ist. Laut Quellen vergibt das System fast jeder einzelnen Person in Gaza eine Bewertung von 1 bis 100, die ausdrückt, wie wahrscheinlich es ist, dass sie ein militanter Kämpfer ist.
Lavender lernt, Merkmale bekannter Hamas- und PIJ-Aktivisten zu identifizieren, deren Daten der Maschine als Trainingsinformationen zugeführt wurden, und lokalisiert dann dieselben Merkmale – auch „Features“ genannt – in der allgemeinen Bevölkerung, erläuterten die Quellen. Eine Person, bei der mehrere verschiedene belastende Merkmale festgestellt werden, erhält eine hohe Bewertung und wird so automatisch zu einem potenziellen Ziel für einen Mordanschlag.
In dem zu Beginn dieses Artikels erwähnten Buch spricht sich der derzeitige Kommandeur der Einheit 8200 für ein solches System aus, ohne Lavender namentlich zu erwähnen. (Der Kommandeur selbst wird ebenfalls nicht namentlich genannt, aber fünf Quellen in der Einheit 8200 bestätigten, dass der Kommandeur der Autor ist. Dies berichtete auch Haaretz.) Der Kommandant beschreibt menschliches Personal als „Engpass“, der die Kapazität der Armee während einer Militäroperation einschränkt, und beklagt: „Wir [Menschen] können nicht so viele Informationen verarbeiten. Es spielt keine Rolle, wie viele Leute man damit beauftragt, während des Krieges Ziele zu generieren – man kann immer noch nicht genug Ziele pro Tag produzieren.“
Die Lösung für dieses Problem, sagt er, ist künstliche Intelligenz. Das Buch bietet eine kurze Anleitung zum Aufbau einer „Zielmaschine“, die in ihrer Beschreibung Lavender ähnelt und auf KI- sowie Algorithmen für maschinelles Lernen basiert. In dieser Anleitung sind mehrere Beispiele für die „Hunderte und Tausende“ von Kriterien enthalten, die die Bewertung einer Person erhöhen können wie etwa, in einer WhatsApp-Gruppe mit einem bekannten Militanten zu sein, das Mobiltelefon alle paar Monate zu wechseln und häufig die Adresse zu ändern.
„Je mehr Informationen und je mehr verschiedene, desto besser“, schreibt der Kommandant. „Visuelle Information, Mobilfunkdaten, Verbindungen in sozialen Medien, Informationen vom Schlachtfeld, Telefonkontakte, Fotos.“ Während diese Merkmale zunächst von Menschen ausgewählt werden, so der Kommandant weiter, werde die Maschine mit der Zeit in der Lage sein, Merkmale selbstständig zu identifizieren. Dies, so sagt er, könne es den Streitkräften ermöglichen, „Zehntausende von Zielen“ zu erstellen, während die tatsächliche Entscheidung, ob diese angegriffen werden oder nicht, weiterhin eine menschliche Entscheidung bleibe.
Das Buch ist nicht der einzige Fall, dass ein hochrangiger israelischer Kommandant auf die Existenz von menschlichen Zielmaschinen wie Lavender hingewiesen hat. +972 und Local Call haben Aufnahmen eines privaten Vortrags erhalten, den der Kommandant des geheimen Data-Science- und KI-Zentrums der Einheit 8200, „Oberst Yoav“, während der KI-Woche der Universität Tel Aviv im Jahr 2023 gehalten hat. Darüber wurde damals in den israelischen Medien berichtet.
In dem Vortrag spricht der Kommandant über eine neue, hochentwickelte Zielmaschine, die von der israelischen Armee eingesetzt wird und „gefährliche Personen“ anhand ihrer Ähnlichkeit mit bestehenden Listen bekannter Militanten erkennt, mit denen die Maschine trainiert wurde.
„Indem wir das System benutzten, gelang es uns, Kommandanten von Hamas-Raketenabteilungen zu identifizieren“, sagte „Oberst Yoav“ in dem Vortrag. Er bezog sich dabei auf Israels Militäroperation im Gazastreifen im Mai 2021, wo die Maschine zum ersten Mal eingesetzt wurde.
Die Folien der Vortragspräsentation, die ebenfalls von +972 und Local Call beschafft wurden, enthalten Illustrationen zur Funktionsweise des Systems: Es wird mit Daten über bekannte Aktivisten der Hamas gefüttert, lernt, deren Merkmale zu erkennen, und bewertet anschließend andere Palästinenser danach, wie sehr sie den Militanten ähneln.
In der Praxis jedoch, so berichten Quellen, die Lavender in den letzten Monaten genutzt haben, wurden menschliches Handeln und Genauigkeit durch die massenhafte Erstellung von Zielen und Letalität ersetzt.
„Es gab keine ‚Null-Fehler‘-Richtlinie“
B., ein hochrangiger Offizier, der Lavender einsetzte, bestätigte gegenüber +972 und Local Call, dass Offiziere im aktuellen Krieg, um Zeit zu sparen und die Massenproduktion menschlicher Ziele ohne Hindernisse zu ermöglichen, nicht verpflichtet waren, die Bewertungen des KI-Systems unabhängig zu überprüfen.
„Alles war statistisch, alles war sauber – es war sehr sachlich“, sagte B. Er merkte an, dass dieser Mangel an Aufsicht geduldet wurde, obwohl interne Überprüfungen zeigten, dass die Berechnungen von Lavender nur in 90 Prozent der Fälle als genau angesehen wurden; mit anderen Worten, es war im Voraus bekannt, dass 10 Prozent der zur Tötung bestimmten menschlichen Ziele überhaupt keine Mitglieder des militärischen Flügels der Hamas waren.
Beispielsweise erklärten Quellen, dass die Lavender-Maschine manchmal fälschlicherweise Personen markierte, deren Kommunikationsmuster denen bekannter Hamas- oder PIJ-Aktivisten ähnelten – darunter auch Polizei- und Zivilschutzmitarbeiter, Verwandte von Militanten, Einwohner, die zufällig denselben Namen und Spitznamen wie ein Aktivist trugen, sowie Bewohner Gazas, die ein Gerät benutzten, das einst einem Hamas-Aktivisten gehörte.
„Wie eng muss jemand mit der Hamas verbunden sein, damit er [von einem KI-System] als Mitglied der Organisation eingestuft wird?“, fragte eine Quelle, die Lavenders Ungenauigkeit kritisierte. „Es ist eine vage Grenze. Ist eine Person, die kein Gehalt von der Hamas erhält, ihr aber bei allen möglichen Dingen hilft, ein Hamas-Aktivist? Ist jemand, der in der Vergangenheit bei der Hamas war, heute aber nicht mehr dort ist, ein Hamas-Aktivist? Jedes dieser Features – Eigenschaften, die eine Maschine als verdächtig markieren würde – ist ungenau.“
Ähnliche Probleme bestehen bei der Fähigkeit der Zielmaschinen, das Telefon einer Person zu analysieren, die als Attentatsziel markiert ist. „Im Krieg wechseln Palästinenser ständig ihre Telefone“, sagte die Quelle. „Die Menschen verlieren den Kontakt zu ihren Familien, geben ihr Telefon einem Freund oder ihrer Frau, verlieren es vielleicht. Es gibt keine Möglichkeit, sich zu 100 Prozent auf den automatischen Mechanismus zu verlassen, der bestimmt, welche Telefonnummer wem gehört.“
Den Quellen zufolge wusste die Armee, dass die minimale menschliche Überwachung, die vorhanden war, diese Fehler nicht aufdecken würde. „Es gab keine ‚Null-Fehler-Politik‘. Fehler wurden statistisch behandelt“, sagte eine Quelle, die Lavender nutzte. „Aufgrund des Umfangs und der Größenordnung lautete das Protokoll, dass, selbst wenn man nicht sicher weiß, ob die Maschine Recht hat, man weiß, dass es statistisch gesehen in Ordnung ist. Also macht man es.“
„Es hat sich bewährt“, sagte B., der hochrangige Informant. „Dieser statistische Ansatz hat etwas an sich, das dich an bestimmte Normen und Standards bindet. Bei dieser Operation gab es eine unlogisch hohe Zahl von Bombenangriffen. Das ist in meiner Erinnerung beispiellos. Und ich habe viel mehr Vertrauen in einen statistischen Mechanismus als in einen Soldaten, der vor zwei Tagen einen Freund verloren hat. Jeder dort, mich eingeschlossen, hat am 7. Oktober Menschen verloren. Die Maschine hat es kalt erledigt. Und das hat es einfacher gemacht.“
Eine andere Geheimdienstquelle, die das Vertrauen in die von Lavender erstellten Tötungslisten palästinensischer Verdächtiger verteidigte, argumentierte, dass es sich nur dann lohne, die Zeit eines Geheimdienstoffiziers in die Überprüfung der Informationen zu investieren, wenn es sich bei dem Ziel um einen hochrangigen Kommandeur der Hamas handele. „Aber wenn es um einen einfachen Kämpfer geht, will man dafür keine Arbeitskraft und Zeit investieren“, sagte er. „Im Krieg bleibt keine Zeit, jedes Ziel zu überführen. Also ist man bereit, die Fehlerquote beim Einsatz künstlicher Intelligenz in Kauf zu nehmen, Kollateralschäden und den Tod von Zivilisten zu riskieren sowie das Risiko eines falsch gezielten Angriffs einzugehen und damit zu leben.“
Er erläuterte, dass, wenn man die Bewertungsschwelle von Lavender senkte, das System mehr Menschen als Ziele für Angriffe markierte. „Auf dem Höhepunkt gelang es dem System, 37.000 Menschen als potenzielle menschliche Ziele zu generieren“, sagte B. „Aber die Zahlen änderten sich ständig, denn es hängt davon ab, wo man die Messlatte dafür ansetzt, was ein Hamas-Aktivist ist. Es gab Zeiten, in denen ein Hamas-Aktivist weiter gefasst definiert wurde, und dann begann die Maschine, uns alle möglichen Mitarbeiter des Zivilschutzes und Polizeibeamte zu liefern, für die es eine Schande wäre, Bomben zu verschwenden. Sie helfen der Hamas-Regierung, aber sie gefährden Soldaten nicht wirklich.“
Eine Quelle, die mit dem militärischen Data-Science-Team zusammengearbeitet hatte, das Lavender trainierte, sagte, dass auch Daten von Mitarbeitern des von der Hamas geführten Ministeriums für Innere Sicherheit, die er nicht als Militante betrachtet, in das System eingespeist wurden. „Es störte mich, dass beim Training von Lavender der Begriff ‚Hamas-Aktivist‘ sehr weit gefasst wurde und Personen, die im Zivilschutz tätig waren, in den Trainingsdatensatz aufgenommen wurden“, sagte er.
Die Quelle fügte hinzu, dass, selbst wenn man der Meinung sei, diese Menschen verdienten es, getötet zu werden, das Training des Systems auf der Grundlage ihrer Kommunikationsprofile die Wahrscheinlichkeit erhöhte, dass Lavender fälschlicherweise Zivilisten auswählte, wenn seine Algorithmen auf die allgemeine Bevölkerung angewendet wurden. „Da es sich um ein automatisches System handelt, das nicht manuell von Menschen bedient wird, ist die Bedeutung dieser Entscheidung dramatisch: Sie bedeutet, dass man viele Menschen mit einem zivilen Kommunikationsprofil als potenzielle Ziele einbezieht.“
„Wir haben nur überprüft, ob das Ziel ein Mann war“
Das israelische Militär weist diese Behauptungen kategorisch zurück. In einer Stellungnahme gegenüber +972 und Local Call bestritt der Sprecher der IDF, künstliche Intelligenz zur Identifizierung von Zielen einzusetzen, und sagte, es handele sich lediglich um „Hilfsmittel, die Offizieren bei der Identifizierung assistieren“.
In der Erklärung hieß es weiter: „In jedem Fall ist eine unabhängige Überprüfung durch einen [Geheimdienst-]Analysten erforderlich, der verifiziert, dass die identifizierten Ziele legitime Angriffsziele sind, in Übereinstimmung mit den in den IDF-Richtlinien und im Völkerrecht festgelegten Bedingungen.“
Quellen zufolge bestand das einzige Protokoll zur menschlichen Überwachung vor der Bombardierung der von Lavender markierten Häuser mutmaßlicher „jüngerer“ Militanten jedoch darin, eine einzige Überprüfung durchzuführen: sicherzustellen, dass das von der KI ausgewählte Ziel männlich und nicht weiblich ist. Die Annahme in der Armee war, dass die Maschine wahrscheinlich einen Fehler gemacht hatte, wenn das Ziel eine Frau war, da es in den Reihen der militärischen Flügel von Hamas und PIJ keine Frauen gibt.
„Ein Mensch musste das Ziel nur für einige wenige Sekunden überprüfen“, sagte B. und erklärte, dass dies zum Protokoll wurde, nachdem man erkannt hatte, dass das Lavender-System in den meisten Fällen „richtig lag“.
„Zuerst haben wir Kontrollen durchgeführt, um sicherzustellen, dass die Maschine nicht durcheinanderkam. Aber irgendwann verließen wir uns auf das automatische System und überprüften nur noch, dass das Ziel ein Mann war – das reichte aus. Es dauert nicht lange, um zu erkennen, ob jemand eine männliche oder eine weibliche Stimme hat.“
Um die Mann/Frau-Überprüfung durchzuführen, gab B. an, dass er im aktuellen Krieg „in dieser Phase 20 Sekunden für jedes Ziel aufwendet und jeden Tag Dutzende davon bearbeitet. „Ich hatte als Mensch keinerlei Mehrwert, abgesehen davon, dass ich als ein Zustimmungsstempel fungierte. Das sparte viel Zeit. Wenn der Verdächtige im automatisierten Mechanismus auftauchte und ich überprüfte, dass er ein Mann war, gab es die Erlaubnis, ihn zu bombardieren, vorbehaltlich einer Prüfung der Kollateralschäden.“
In der Praxis bedeutete dies den Quellen zufolge, dass es für zivile Männer, die fälschlicherweise von Lavender markiert wurden, keinen Überwachungsmechanismus gab, um den Fehler aufzudecken. Laut B. trat ein häufiger Fehler auf, „wenn das [Hamas-]Ziel sein Telefon seinem Sohn, seinem älteren Bruder oder einfach einem beliebigen Mann gab. Diese Person wurde dann in ihrem Haus zusammen mit ihrer Familie bombardiert. Das passierte oft. Das waren die meisten Fehler, die durch Lavender verursacht wurden“, sagte B.
Der Beitrag erschien im Original bei +972 Magazine. Aus dem Englischen übersetzt von Marta Andujo.
Über den Autor: Yuval Abraham ist Journalist und Filmemacher und lebt in Jerusalem.
[«*] The Human-Machine Team: How to Create Synergy Between Human and Artificial Intelligence That Will Revolutionize Our World“. Online lesbar hier.
[«**] Das +972 Magazine ist ein unabhängiges Onlinemagazin, das von palästinensischen und israelischen Journalisten betrieben wird. Local Call ist eine hebräischsprachige Nachrichtenseite, die sich für Bürgerjournalismus (Citizen Journalism) und unabhängige Medien einsetzt. Beide Projekte arbeiten eng zusammen und bieten Plattformen für Basisaktivismus, politische Analysen und investigativen Journalismus aus der Region.
