Die israelische Armee hat Zehntausende Bewohner des Gazastreifens als potenzielle Zielpersonen für Tötungsaktionen eingestuft – mithilfe eines KI-Zielerfassungssystems, das kaum menschlicher Kontrolle unterliegt, und einer Politik, die hohe Opferzahlen in Kauf nimmt. Dies haben jüdische und palästinensische Journalisten in einer gemeinsamen Recherche aufgedeckt. Von Yuval Abraham.

Im Jahr 2021 erschien ein Buch mit dem Titel „Das Mensch-Maschine-Team: Wie man Synergien zwischen Mensch und künstlicher Intelligenz schafft, die unsere Welt revolutionieren werden“[*] unter dem Pseudonym „Brigadegeneral Y.S.“ Darin spricht sich der Autor – ein Mann, den wir als den derzeitigen Kommandeur der israelischen Elite-Geheimdienstabteilung 8200 identifiziert haben – für die Entwicklung einer speziellen Maschine aus, die große Datenmengen schnell verarbeiten könnte, um in der Hitze eines Krieges Tausende potenzieller „Ziele“ für Militärschläge zu generieren. Eine solche Technologie, schreibt er, würde das lösen, was er als „menschlichen Engpass sowohl bei der Lokalisierung neuer Ziele als auch bei der Entscheidungsfindung zur Genehmigung der Ziele“ bezeichnete.

Eine solche Maschine, so stellt sich heraus, gibt es tatsächlich. Eine neue Untersuchung von +972 Magazine und Local Call[**] deckt auf, dass die israelische Armee ein auf künstlicher Intelligenz basierendes Programm entwickelt hat, das unter dem Namen „Lavender“ bekannt ist und hier erstmals der Öffentlichkeit vorgestellt wird.

Laut sechs israelischen Geheimdienstmitarbeitern, die alle während des aktuellen Krieges im Gazastreifen in der Armee gedient haben und direkt an der Verwendung von KI zur Ermittlung von Tötungszielen beteiligt waren, spielte Lavender eine zentrale Rolle bei den beispiellosen Bombardierungen von Palästinensern, insbesondere in der Anfangsphase des Krieges. Tatsächlich war sein Einfluss auf die militärischen Operationen den Quellen zufolge derart groß, dass die Ergebnisse der KI-Maschine im Prinzip „wie eine menschliche Entscheidung behandelt wurden“.

Formal ist das Lavender-System konzipiert, um alle verdächtigen Akteure in den militärischen Flügeln der Hamas und des Palästinensischen Islamischen Dschihad (PIJ), einschließlich derjenigen niedrigen Ranges, als potenzielle Bombardierungsziele zu markieren. Die Quellen berichteten +972 und Local Call, dass sich die Armee in den ersten Wochen des Krieges fast vollständig auf Lavender verließ, das bis zu 37.000 Palästinenser – und ihre Häuser – für mögliche Luftschläge identifizierte.

In der Anfangsphase des Krieges erteilte die Armee den Offizieren pauschal die Erlaubnis, Lavenders Tötungslisten zu übernehmen, ohne Verpflichtung, gründlich zu prüfen, warum die Maschine diese Auswahl getroffen hatte, oder die Rohdaten der Geheimdienste zu untersuchen, auf denen sie basierten.

Eine Quelle berichtete, dass menschliches Personal oft nur dazu diente, die Entscheidungen der Maschine „abzunicken”. Sie fügte hinzu, dass man normalerweise jedem Ziel nur etwa „20 Sekunden“ widmete, bevor ein Bombenangriff genehmigt wurde – und dies lediglich, um sicherzustellen, dass es sich bei dem von Lavender markierten Ziel um einen Mann handelte. Und das, obwohl bekannt war, dass das System in etwa zehn Prozent der Fälle als „Fehler“ geltende Entscheidungen trifft und bekanntlich manchmal Personen markiert, die lediglich eine lose oder überhaupt keine Verbindung zu militanten Gruppen haben.

Darüber hinaus griff die israelische Armee die Zielpersonen systematisch in ihren Häusern an – in der Regel nachts, während ihre gesamten Familien anwesend waren – und nicht im Zuge militärischer Aktivitäten. Den Quellen zufolge geschah dies, weil es nach ihrer Einschätzung aus nachrichtendienstlicher Sicht einfacher war, die Personen in ihren Privathäusern zu lokalisieren.

Zusätzliche automatisierte Systeme, darunter eines namens „Where’s Daddy“, das hier ebenfalls erstmals enthüllt wird, wurden speziell eingesetzt, um die Zielpersonen aufzuspüren und Bombenangriffe durchzuführen, wenn diese die Wohnhäuser ihrer Familien betreten hatten.

Das Ergebnis war, wie die Quellen bezeugten, dass Tausende Palästinenser – die meisten davon Frauen und Kinder oder Menschen, die nicht an den Kämpfen beteiligt waren – „aufgrund der Entscheidungen des KI-Programms“ durch israelische Luftangriffe ausgelöscht wurden, insbesondere in den ersten Wochen des Krieges.

„Wir waren nicht daran interessiert, [Hamas-]Aktivisten nur dann zu töten, wenn sie sich in einem Militärgebäude befanden oder an einer militärischen Aktivität beteiligt waren“, erklärte A., ein Geheimdienstoffizier, gegenüber +972 und Local Call. „Im Gegenteil, die IDF bombardierte sie ohne zu zögern in ihren Häusern, als erste Option. Es ist viel einfacher, das Haus einer Familie zu bombardieren. Das System ist konzipiert, um sie in solchen Situationen aufzufinden.“

Die „Lavender“-Maschine ergänzt ein anderes KI-System, „The Gospel“. Informationen darüber wurden in einer früheren Untersuchung von +972 und Local Call im November 2023 sowie in den eigenen Veröffentlichungen des israelischen Militärs bekannt. Ein grundlegender Unterschied zwischen den beiden Systemen liegt in der Definition des Ziels: Während „The Gospel“ Gebäude und Strukturen markiert, von denen aus laut Armee Militante operieren, markiert „Lavender“ Menschen – und setzt sie auf eine Tötungsliste.

Den Quellen zufolge bevorzugte die Armee außerdem, wenn es darum ging, von Lavender markierte mutmaßliche untergeordnete Militante anzugreifen, den Einsatz von ungelenkten Raketen, gemeinhin als „dumme“ Bomben bekannt (im Gegensatz zu „smarten“ Präzisionsbomben), die ganze Gebäude mitsamt ihren Insassen zerstören und erhebliche Opferzahlen verursachen können.

„Du willst keine teuren Bomben an unwichtige Leute verschwenden – das ist sehr kostspielig für das Land und es herrscht ein Mangel [an diesen Bomben]“, sagte C., einer der Geheimdienstoffiziere. Eine andere Quelle gab an, sie hätten persönlich die Bombardierung von „Hunderten“ von Privathäusern mutmaßlicher „Nachwuchskräfte” genehmigt, die von Lavender markiert worden waren. Viele dieser Angriffe töteten Zivilisten und ganze Familien als „Kollateralschaden“.

In einem beispiellosen Schritt beschloss die Armee laut zwei der Quellen in den ersten Wochen des Krieges zudem, dass es für jedes von Lavender markiertes rangniedriges Hamas-Mitglied zulässig ist, bis zu 15 oder 20 Zivilisten zu töten. In der Vergangenheit hatte das Militär bei Attentaten auf rangniedrige Militante keinerlei „Kollateralschäden“ genehmigt.

Die Quellen fügten hinzu, dass die Armee in Fällen, in denen das Ziel ein hochrangiger Hamas-Funktionär im Rang eines Bataillons- oder Brigadekommandanten war, mehrere Male die Tötung von mehr als 100 Zivilisten bei der Ermordung eines einzelnen Kommandanten genehmigte.

Die folgende Untersuchung gliedert sich in die sechs chronologischen Stufen der hochautomatisierten Zielerfassung durch die israelische Armee in den ersten Wochen des Gaza-Kriegs. Zunächst erläutern wir die „Lavender“-Maschine selbst, die unter Einsatz künstlicher Intelligenz Zehntausende Palästinenser markierte. Zweitens enthüllen wir das „Where’s Daddy?“-System, das diese Ziele verfolgte und der Armee ein Signal gab, sobald sie ihre Familienhäuser betraten. Drittens beschreiben wir, wie „dumme“ Bomben ausgewählt wurden, um diese Häuser anzugreifen.

Viertens erläutern wir, wie die Armee die zulässige Anzahl von Zivilisten, die bei der Bombardierung eines Ziels getötet werden durften, gelockert hat. Fünftens zeigen wir auf, wie automatisierte Software die Anzahl der Nichtkombattanten in jedem Haushalt ungenau berechnet hat. Und sechstens zeigen wir, wie in verschiedenen Fällen, wenn ein Haus getroffen wurde, meist nachts, die Zielperson gar nicht im Haus war, weil Militärangehörige die Informationen nicht in Echtzeit überprüft haben.

Schritt 1: Ziele generieren

„Wenn man einmal auf Automatik umgestellt hat, läuft die Generierung von Zielen auf Hochtouren.“

In der israelischen Armee bezeichnete der Begriff „menschliches Ziel“ in der Vergangenheit einen hochrangigen Militärangehörigen, der gemäß den Vorschriften der Abteilung für internationales Recht des Militärs in seiner Privatwohnung getötet werden darf, selbst wenn Zivilisten in der Nähe sind. Geheimdienstquellen sagten gegenüber +972 und Local Call, dass während Israels früherer Kriege – da dies eine „besonders brutale“ Art war, jemanden zu töten (oftmals durch die Tötung einer ganzen Familie neben dem Ziel) – solche menschlichen Ziele sehr sorgfältig markiert wurden und nur hochrangige Militärkommandanten in ihren Häusern bombardiert wurden, um den Grundsatz der Verhältnismäßigkeit nach internationalem Recht zu wahren.

Aber nach dem 7. Oktober – als von der Hamas angeführte Militante einen tödlichen Angriff auf Gemeinden im Süden Israels starteten, bei dem rund 1.200 Menschen getötet und 240 entführt wurden – nahm die Armee laut den Quellen einen dramatisch anderen Ansatz ein. Bei der „Operation Iron Swords“ beschloss die Armee, alle Aktivisten des militärischen Flügels der Hamas als menschliche Ziele einzustufen, unabhängig von ihrem Rang oder ihrer militärischen Bedeutung. Und das veränderte alles.

Die neue Politik stellte auch ein technisches Problem für den israelischen Geheimdienst dar. In früheren Kriegen musste ein Offizier, um die Tötung eines einzelnen menschlichen Ziels zu genehmigen, einen komplexen und langwierigen „Inkriminierungsprozess“ durchlaufen: Beweise gegenprüfen, dass die Person tatsächlich ein hochrangiges Mitglied des militärischen Flügels der Hamas war; herausfinden, wo sie wohnte; ihre Kontaktdaten ermitteln und schließlich in Echtzeit wissen, wann sie zu Hause war. Als die Liste der Ziele nur ein paar Dutzend hochrangige Aktivisten umfasste, konnten Geheimdienstmitarbeiter die mit der Inkriminierung und Lokalisierung verbundene Arbeit noch individuell bewältigen.

Als die Liste jedoch erweitert wurde und Zehntausende von Aktivisten niedrigerer Ränge umfasste, kam die israelische Armee zu dem Schluss, dass sie sich auf automatisierte Software und künstliche Intelligenz verlassen musste. Das Ergebnis war, so bezeugen die Quellen, dass die Rolle des menschlichen Personals bei der Einstufung von Palästinensern als militärische Aktivisten beiseitegeschoben wurde und KI stattdessen den Großteil der Arbeit übernahm.

Laut vier der Quellen, die mit +972 und Local Call sprachen, hat Lavender, das entwickelt wurde, um menschliche Ziele im aktuellen Krieg zu bestimmen, etwa 37.000 Palästinenser als mutmaßliche „Hamas-Kämpfer“ markiert, die getötet werden sollten – die meisten von ihnen junge Aktivisten (der Sprecher der IDF bestritt in einer Stellungnahme gegenüber +972 und Local Call die Existenz einer solchen Tötungsliste).

„Wir wussten nicht, wer diese nachrangigen Aktivisten waren, da Israel sie [vor dem Krieg] nicht routinemäßig verfolgt hatte“, erklärte der hochrangige Offizier B. gegenüber +972 und Local Call und beleuchtete so den Grund für die Entwicklung dieser speziellen Zielgenerierungsmaschine für den aktuellen Krieg. „Sie wollten es uns ermöglichen, die nachrangigen Aktivisten automatisch anzugreifen. Das ist der Heilige Gral. Wenn man einmal auf Automatik umgestellt hat, läuft die Generierung von Zielen auf Hochtouren.“

„Um 5 Uhr morgens kam die Luftwaffe und bombardierte alle Häuser, die wir markiert hatten“, sagte B. „Wir haben Tausende von Menschen getötet. Wir haben sie nicht einzeln durchgesehen – wir haben alles in automatisierte Systeme eingegeben, und sobald sich eine der markierten Personen zu Hause befand, wurde sie sofort zum Ziel. Wir haben sie und ihr Haus bombardiert.“

„Es war sehr überraschend für mich, dass wir aufgefordert wurden, ein Haus zu bombardieren, um einen einfachen Soldaten zu töten, dessen Bedeutung für die Kämpfe so gering war“, sagte eine Quelle über den Einsatz von KI zur Markierung mutmaßlicher rangniedriger Militanten. „Ich gab diesen Zielen den Spitznamen ‚Müllziele‘. Dennoch empfand ich sie als ethischer als die Ziele, die wir nur zur ‚Abschreckung‘ bombardierten – Hochhäuser, die evakuiert und zum Einsturz gebracht wurden, nur um Zerstörung zu verursachen.“

Die tödlichen Folgen dieser Lockerung der Beschränkungen in der Anfangsphase des Krieges waren erschütternd. Nach Angaben des palästinensischen Gesundheitsministeriums in Gaza, auf die sich die israelische Armee seit Kriegsbeginn fast ausschließlich stützt, tötete Israel in den ersten sechs Wochen des Krieges – bis zur Vereinbarung eines einwöchigen Waffenstillstands am 24. November – etwa 15.000 Palästinenser.

„Je mehr Informationen und Auswahl, desto besser“

Die Software „Lavender“ analysiert Informationen, die mithilfe eines Massenüberwachungssystems über die meisten der 2,3 Millionen Einwohner des Gazastreifens gesammelt wurden, bewertet und stuft dann die Wahrscheinlichkeit ein, dass die jeweilige Person im militärischen Flügel der Hamas oder der PIJ aktiv ist. Laut Quellen vergibt das System fast jeder einzelnen Person in Gaza eine Bewertung von 1 bis 100, die ausdrückt, wie wahrscheinlich es ist, dass sie ein militanter Kämpfer ist.

Lavender lernt, Merkmale bekannter Hamas- und PIJ-Aktivisten zu identifizieren, deren Daten der Maschine als Trainingsinformationen zugeführt wurden, und lokalisiert dann dieselben Merkmale – auch „Features“ genannt – in der allgemeinen Bevölkerung, erläuterten die Quellen. Eine Person, bei der mehrere verschiedene belastende Merkmale festgestellt werden, erhält eine hohe Bewertung und wird so automatisch zu einem potenziellen Ziel für einen Mordanschlag.

In dem zu Beginn dieses Artikels erwähnten Buch spricht sich der derzeitige Kommandeur der Einheit 8200 für ein solches System aus, ohne Lavender namentlich zu erwähnen. (Der Kommandeur selbst wird ebenfalls nicht namentlich genannt, aber fünf Quellen in der Einheit 8200 bestätigten, dass der Kommandeur der Autor ist. Dies berichtete auch Haaretz.) Der Kommandant beschreibt menschliches Personal als „Engpass“, der die Kapazität der Armee während einer Militäroperation einschränkt, und beklagt: „Wir [Menschen] können nicht so viele Informationen verarbeiten. Es spielt keine Rolle, wie viele Leute man damit beauftragt, während des Krieges Ziele zu generieren – man kann immer noch nicht genug Ziele pro Tag produzieren.“

Die Lösung für dieses Problem, sagt er, ist künstliche Intelligenz. Das Buch bietet eine kurze Anleitung zum Aufbau einer „Zielmaschine“, die in ihrer Beschreibung Lavender ähnelt und auf KI- sowie Algorithmen für maschinelles Lernen basiert. In dieser Anleitung sind mehrere Beispiele für die „Hunderte und Tausende“ von Kriterien enthalten, die die Bewertung einer Person erhöhen können wie etwa, in einer WhatsApp-Gruppe mit einem bekannten Militanten zu sein, das Mobiltelefon alle paar Monate zu wechseln und häufig die Adresse zu ändern.

„Je mehr Informationen und je mehr verschiedene, desto besser“, schreibt der Kommandant. „Visuelle Information, Mobilfunkdaten, Verbindungen in sozialen Medien, Informationen vom Schlachtfeld, Telefonkontakte, Fotos.“ Während diese Merkmale zunächst von Menschen ausgewählt werden, so der Kommandant weiter, werde die Maschine mit der Zeit in der Lage sein, Merkmale selbstständig zu identifizieren. Dies, so sagt er, könne es den Streitkräften ermöglichen, „Zehntausende von Zielen“ zu erstellen, während die tatsächliche Entscheidung, ob diese angegriffen werden oder nicht, weiterhin eine menschliche Entscheidung bleibe.

Das Buch ist nicht der einzige Fall, dass ein hochrangiger israelischer Kommandant auf die Existenz von menschlichen Zielmaschinen wie Lavender hingewiesen hat. +972 und Local Call haben Aufnahmen eines privaten Vortrags erhalten, den der Kommandant des geheimen Data-Science- und KI-Zentrums der Einheit 8200, „Oberst Yoav“, während der KI-Woche der Universität Tel Aviv im Jahr 2023 gehalten hat. Darüber wurde damals in den israelischen Medien berichtet.

In dem Vortrag spricht der Kommandant über eine neue, hochentwickelte Zielmaschine, die von der israelischen Armee eingesetzt wird und „gefährliche Personen“ anhand ihrer Ähnlichkeit mit bestehenden Listen bekannter Militanten erkennt, mit denen die Maschine trainiert wurde.

„Indem wir das System benutzten, gelang es uns, Kommandanten von Hamas-Raketenabteilungen zu identifizieren“, sagte „Oberst Yoav“ in dem Vortrag. Er bezog sich dabei auf Israels Militäroperation im Gazastreifen im Mai 2021, wo die Maschine zum ersten Mal eingesetzt wurde.

Die Folien der Vortragspräsentation, die ebenfalls von +972 und Local Call beschafft wurden, enthalten Illustrationen zur Funktionsweise des Systems: Es wird mit Daten über bekannte Aktivisten der Hamas gefüttert, lernt, deren Merkmale zu erkennen, und bewertet anschließend andere Palästinenser danach, wie sehr sie den Militanten ähneln.

In der Praxis jedoch, so berichten Quellen, die Lavender in den letzten Monaten genutzt haben, wurden menschliches Handeln und Genauigkeit durch die massenhafte Erstellung von Zielen und Letalität ersetzt.

„Es gab keine ‚Null-Fehler‘-Richtlinie“

B., ein hochrangiger Offizier, der Lavender einsetzte, bestätigte gegenüber +972 und Local Call, dass Offiziere im aktuellen Krieg, um Zeit zu sparen und die Massenproduktion menschlicher Ziele ohne Hindernisse zu ermöglichen, nicht verpflichtet waren, die Bewertungen des KI-Systems unabhängig zu überprüfen.

„Alles war statistisch, alles war sauber – es war sehr sachlich“, sagte B. Er merkte an, dass dieser Mangel an Aufsicht geduldet wurde, obwohl interne Überprüfungen zeigten, dass die Berechnungen von Lavender nur in 90 Prozent der Fälle als genau angesehen wurden; mit anderen Worten, es war im Voraus bekannt, dass 10 Prozent der zur Tötung bestimmten menschlichen Ziele überhaupt keine Mitglieder des militärischen Flügels der Hamas waren.

Beispielsweise erklärten Quellen, dass die Lavender-Maschine manchmal fälschlicherweise Personen markierte, deren Kommunikationsmuster denen bekannter Hamas- oder PIJ-Aktivisten ähnelten – darunter auch Polizei- und Zivilschutzmitarbeiter, Verwandte von Militanten, Einwohner, die zufällig denselben Namen und Spitznamen wie ein Aktivist trugen, sowie Bewohner Gazas, die ein Gerät benutzten, das einst einem Hamas-Aktivisten gehörte.

„Wie eng muss jemand mit der Hamas verbunden sein, damit er [von einem KI-System] als Mitglied der Organisation eingestuft wird?“, fragte eine Quelle, die Lavenders Ungenauigkeit kritisierte. „Es ist eine vage Grenze. Ist eine Person, die kein Gehalt von der Hamas erhält, ihr aber bei allen möglichen Dingen hilft, ein Hamas-Aktivist? Ist jemand, der in der Vergangenheit bei der Hamas war, heute aber nicht mehr dort ist, ein Hamas-Aktivist? Jedes dieser Features – Eigenschaften, die eine Maschine als verdächtig markieren würde – ist ungenau.“

Ähnliche Probleme bestehen bei der Fähigkeit der Zielmaschinen, das Telefon einer Person zu analysieren, die als Attentatsziel markiert ist. „Im Krieg wechseln Palästinenser ständig ihre Telefone“, sagte die Quelle. „Die Menschen verlieren den Kontakt zu ihren Familien, geben ihr Telefon einem Freund oder ihrer Frau, verlieren es vielleicht. Es gibt keine Möglichkeit, sich zu 100 Prozent auf den automatischen Mechanismus zu verlassen, der bestimmt, welche Telefonnummer wem gehört.“

Den Quellen zufolge wusste die Armee, dass die minimale menschliche Überwachung, die vorhanden war, diese Fehler nicht aufdecken würde. „Es gab keine ‚Null-Fehler-Politik‘. Fehler wurden statistisch behandelt“, sagte eine Quelle, die Lavender nutzte. „Aufgrund des Umfangs und der Größenordnung lautete das Protokoll, dass, selbst wenn man nicht sicher weiß, ob die Maschine Recht hat, man weiß, dass es statistisch gesehen in Ordnung ist. Also macht man es.“

„Es hat sich bewährt“, sagte B., der hochrangige Informant. „Dieser statistische Ansatz hat etwas an sich, das dich an bestimmte Normen und Standards bindet. Bei dieser Operation gab es eine unlogisch hohe Zahl von Bombenangriffen. Das ist in meiner Erinnerung beispiellos. Und ich habe viel mehr Vertrauen in einen statistischen Mechanismus als in einen Soldaten, der vor zwei Tagen einen Freund verloren hat. Jeder dort, mich eingeschlossen, hat am 7. Oktober Menschen verloren. Die Maschine hat es kalt erledigt. Und das hat es einfacher gemacht.“

Eine andere Geheimdienstquelle, die das Vertrauen in die von Lavender erstellten Tötungslisten palästinensischer Verdächtiger verteidigte, argumentierte, dass es sich nur dann lohne, die Zeit eines Geheimdienstoffiziers in die Überprüfung der Informationen zu investieren, wenn es sich bei dem Ziel um einen hochrangigen Kommandeur der Hamas handele. „Aber wenn es um einen einfachen Kämpfer geht, will man dafür keine Arbeitskraft und Zeit investieren“, sagte er. „Im Krieg bleibt keine Zeit, jedes Ziel zu überführen. Also ist man bereit, die Fehlerquote beim Einsatz künstlicher Intelligenz in Kauf zu nehmen, Kollateralschäden und den Tod von Zivilisten zu riskieren sowie das Risiko eines falsch gezielten Angriffs einzugehen und damit zu leben.“

Er erläuterte, dass, wenn man die Bewertungsschwelle von Lavender senkte, das System mehr Menschen als Ziele für Angriffe markierte. „Auf dem Höhepunkt gelang es dem System, 37.000 Menschen als potenzielle menschliche Ziele zu generieren“, sagte B. „Aber die Zahlen änderten sich ständig, denn es hängt davon ab, wo man die Messlatte dafür ansetzt, was ein Hamas-Aktivist ist. Es gab Zeiten, in denen ein Hamas-Aktivist weiter gefasst definiert wurde, und dann begann die Maschine, uns alle möglichen Mitarbeiter des Zivilschutzes und Polizeibeamte zu liefern, für die es eine Schande wäre, Bomben zu verschwenden. Sie helfen der Hamas-Regierung, aber sie gefährden Soldaten nicht wirklich.“

Eine Quelle, die mit dem militärischen Data-Science-Team zusammengearbeitet hatte, das Lavender trainierte, sagte, dass auch Daten von Mitarbeitern des von der Hamas geführten Ministeriums für Innere Sicherheit, die er nicht als Militante betrachtet, in das System eingespeist wurden. „Es störte mich, dass beim Training von Lavender der Begriff ‚Hamas-Aktivist‘ sehr weit gefasst wurde und Personen, die im Zivilschutz tätig waren, in den Trainingsdatensatz aufgenommen wurden“, sagte er.

Die Quelle fügte hinzu, dass, selbst wenn man der Meinung sei, diese Menschen verdienten es, getötet zu werden, das Training des Systems auf der Grundlage ihrer Kommunikationsprofile die Wahrscheinlichkeit erhöhte, dass Lavender fälschlicherweise Zivilisten auswählte, wenn seine Algorithmen auf die allgemeine Bevölkerung angewendet wurden. „Da es sich um ein automatisches System handelt, das nicht manuell von Menschen bedient wird, ist die Bedeutung dieser Entscheidung dramatisch: Sie bedeutet, dass man viele Menschen mit einem zivilen Kommunikationsprofil als potenzielle Ziele einbezieht.“

„Wir haben nur überprüft, ob das Ziel ein Mann war“

Das israelische Militär weist diese Behauptungen kategorisch zurück. In einer Stellungnahme gegenüber +972 und Local Call bestritt der Sprecher der IDF, künstliche Intelligenz zur Identifizierung von Zielen einzusetzen, und sagte, es handele sich lediglich um „Hilfsmittel, die Offizieren bei der Identifizierung assistieren“.

In der Erklärung hieß es weiter: „In jedem Fall ist eine unabhängige Überprüfung durch einen [Geheimdienst-]Analysten erforderlich, der verifiziert, dass die identifizierten Ziele legitime Angriffsziele sind, in Übereinstimmung mit den in den IDF-Richtlinien und im Völkerrecht festgelegten Bedingungen.“

Quellen zufolge bestand das einzige Protokoll zur menschlichen Überwachung vor der Bombardierung der von Lavender markierten Häuser mutmaßlicher „jüngerer“ Militanten jedoch darin, eine einzige Überprüfung durchzuführen: sicherzustellen, dass das von der KI ausgewählte Ziel männlich und nicht weiblich ist. Die Annahme in der Armee war, dass die Maschine wahrscheinlich einen Fehler gemacht hatte, wenn das Ziel eine Frau war, da es in den Reihen der militärischen Flügel von Hamas und PIJ keine Frauen gibt.

„Ein Mensch musste das Ziel nur für einige wenige Sekunden überprüfen“, sagte B. und erklärte, dass dies zum Protokoll wurde, nachdem man erkannt hatte, dass das Lavender-System in den meisten Fällen „richtig lag“.

„Zuerst haben wir Kontrollen durchgeführt, um sicherzustellen, dass die Maschine nicht durcheinanderkam. Aber irgendwann verließen wir uns auf das automatische System und überprüften nur noch, dass das Ziel ein Mann war – das reichte aus. Es dauert nicht lange, um zu erkennen, ob jemand eine männliche oder eine weibliche Stimme hat.“

Um die Mann/Frau-Überprüfung durchzuführen, gab B. an, dass er im aktuellen Krieg „in dieser Phase 20 Sekunden für jedes Ziel aufwendet und jeden Tag Dutzende davon bearbeitet. „Ich hatte als Mensch keinerlei Mehrwert, abgesehen davon, dass ich als ein Zustimmungsstempel fungierte. Das sparte viel Zeit. Wenn der Verdächtige im automatisierten Mechanismus auftauchte und ich überprüfte, dass er ein Mann war, gab es die Erlaubnis, ihn zu bombardieren, vorbehaltlich einer Prüfung der Kollateralschäden.“

In der Praxis bedeutete dies den Quellen zufolge, dass es für zivile Männer, die fälschlicherweise von Lavender markiert wurden, keinen Überwachungsmechanismus gab, um den Fehler aufzudecken. Laut B. trat ein häufiger Fehler auf, „wenn das [Hamas-]Ziel sein Telefon seinem Sohn, seinem älteren Bruder oder einfach einem beliebigen Mann gab. Diese Person wurde dann in ihrem Haus zusammen mit ihrer Familie bombardiert. Das passierte oft. Das waren die meisten Fehler, die durch Lavender verursacht wurden“, sagte B.

Der Beitrag erschien im Original bei +972 Magazine. Aus dem Englischen übersetzt von Marta Andujo.

Über den Autor: Yuval Abraham ist Journalist und Filmemacher und lebt in Jerusalem.

Der Papst warnt in seiner ersten Enzyklika vor existenziellen Risiken der Künstlichen Intelligenz für Individuen und Völker. In den Händen von Monopolen drohten „Entmenschlichung“ und „Kolonialismus“. Richtig und wichtig findet Ralf Lankau den Vorstoß und hofft auf neue Impulse in der Diskussion. Im Interview mit den NachDenkSeiten zeichnet der Pädagoge, Medienwissenschaftler und Buchautor ein düsteres Bild der Zukunft für den Fall, dass man Elon Musk, Peter Thiel und andere Techmogule weiter gewähren lässt. Zugleich ist er sicher: Widerstand ist möglich! Mit ihm sprach Ralf Wurzbacher.

Dieser Beitrag ist auch als Audio-Podcast verfügbar.

Ralf Lankau, Jahrgang 1961, ist Professor für Digitaldesign, Mediengestaltung und Medientheorie an der Hochschule Offenburg. Er leitet dort die grafik.werkstatt der Fakultät Medien, forscht zu Experimenteller Medienproduktion in Kunst, Lehre und Wissenschaft und publiziert zu Design, Kommunikationswissenschaft und (Medien-)Pädagogik. Er ist Mitinitiator des „Bündnis für humane Bildung“ und betreibt die Projekte „futur iii – Digitaltechnik zwischen Freiheitsversprechen und Totalüberwachung“ und „Die pädagogische Wende“. Dazu gab Lankau vor zwei Jahren im Beltz-Verlag das Buch „Die pädagogische Wende: Über die notwendige (Rück-)Besinnung auf das Unterrichten“ heraus.

Ralf Wurzbacher: Herr Lankau, das Oberhaupt der katholischen Kirche, Papst Leo XIV., warnt in seiner ersten Enzyklika eindringlich vor den Gefahren der Künstlichen Intelligenz für Mensch, Gesellschaft und Natur. Er bezieht Stellung gegen „Entmenschlichung“, einen „neuen Kolonialismus“ und dringt darauf, die KI zu „entwaffnen“. Hatten Sie mit dieser Schärfe und Tiefe an Kritik gerechnet?

Ralf Lankau: Nein. Es gab zwar schon sehr kritische Äußerungen von Papst Franziskus, und Papst Leo XIV. bezeichnete bereits am zweiten Tag seines Pontifikats KI als eine der „größten Herausforderungen für den Schutz der Menschenwürde und der Gerechtigkeit der Arbeit“ (Papst Leo XIV, 2025). Aber ich bin von dieser Enzyklika positiv überrascht, weil sie so klar formuliert, dass diese Technik in der Hand kleiner Eliten maximalen Schaden für den einzelnen Menschen wie die sozialen Gemeinschaften anrichten kann.

Ein Zitat des Papstes lautet: „Kein noch so ausgeklügeltes Computersystem erschafft ein Herz, das sich hingibt, oder ein Gewissen, das das Gute erkennt.“ Für Peter Thiel, milliardenschwerer KI-Investor und Gründer des US-Unternehmens Palantir, das Überwachungssoftware für Polizei und Militärs entwickelt, sind das ungebührende Einmischungen. Wer die Technologie zügele, bereite dem Antichristen den Weg, bemerkte er unlängst. Wer von den beiden hat mehr zu melden?

Papst Leo XIV. spricht als Oberhaupt der katholischen Kirche für 1,4 Milliarden Menschen weltweit. Er repräsentiert und prägt die ethischen und moralischen Werte der christlichen Weltgemeinschaft, die seit 2000 Jahren unsere Kultur repräsentiert. Gemeinsam ist allen monotheistischen Religionen, zumindest in Demokratien, dass sie die Trennung von Staat und Glaubensgemeinschaft akzeptieren und versuchen, ein friedliches, interreligiöses Miteinander zu ermöglichen, die Ökumene. Religiöse Gemeinschaften sind Wertegemeinschaften. Und mit seiner Enzyklika zeigt Papst Leo XIV. sehr klar, dass es ihm um Würde und Gerechtigkeit geht.

Thiel hingegen ist der Repräsentant einer kleinen Clique von US-Milliardären, die aufgrund der seit den 1990er-Jahren fehlenden Regulierung der IT- und KI-Anwendungen rücksichtslos nur eigene Geschäftsinteressen vertreten und sich immer weiter bereichern. Elon Musk wird vermutlich der erste Billionär, was den Wahnsinn der Datenökonomie verdeutlicht. Thiel kümmert sich weder um Menschenwürde noch um Rechtssysteme. Es geht ihm ausschließlich um Partikularinteressen der Techkonzerne. Als Mitgründer von Palantir und Risikokapitalgeber argumentiert er für einen komplett unregulierten Techsektor und missbraucht dafür religiöse Symboliken wie den Antichristen oder religiöse Endzeitvisionen. Aber solchen Techmogulen gehören die wichtigsten digitalen, vor allem die sozial nur genannten Medien, und sie bestimmen daher, was Menschen in den Onlinekanälen sehen und hören.

Womit sie selbst eine neue Art Religion erschaffen haben?

Ja. Es ist eine perfide Mischung aus Fortschritts- und Technikgläubigkeit als eine Form von Ersatzreligion. Man muss das als zwei Strategien des Spätkapitalismus sehen: die vermeintliche Individualisierung und Ich-Bezogenheit auf der einen, der Verlust der Gemeinschaft von Familie, Nachbarschaft, Gemeinde auf der anderen Seite. Das Verbindende und Hoffnungspendende religiöser Gemeinschaften geht in säkularisierten Gesellschaften verloren. Diese Leerstelle sollen mit dem „Solutionism“ – englisch für Lösungskonzepte – technische Systeme für alle Probleme füllen, bis hin zur Unsterblichkeit durch den Transfer des Bewusstseins ins Netz. Das ist die „Wiedergeburt auf digitalisch“, absurd, aber ein Geschäftsmodell.

Kann ausgerechnet der Papst dem etwas entgegensetzen?

Leo XIV. referiert über die schon heute bekannten Folgen für Kinder, Jugendliche und übrigens auch Erwachsene durch netzbasierte Bildschirmmedien. Weltweit wird über die zwingend notwendige Regulierung von KI diskutiert. Die zugrunde liegenden Techniken haben ein ähnlich mächtiges Potenzial wie die Kernspaltung. Norbert Wiener, Vordenker und Namensgeber der Kybernetik, warnte schon 1947 im Vorwort zu seinem Buch „Kybernetik“: „Wir haben nicht einmal die Möglichkeit, diese neuen technischen Entwicklungen zu unterdrücken. Sie gehören zu diesem Zeitalter, und das Höchste, was irgend jemand von uns tun kann, ist, zu verhindern, dass die Entwicklung des Gebietes in die Hände der verantwortungslosesten und käuflichsten unserer Techniker gelegt wird.“

Genau das ist passiert …

Leider ja. Diese verantwortungslosesten und käuflichsten Techniker und ihre Partner lassen sich heute von A – Sam Altman, Open AI – bis Z – Marc Zuckerberg, Meta – durchbuchstabieren. Seit November 2022 werden Tools und Bots der generativen KI wie ChatGPT, Claude, Gemini oder X-AI ohne Rücksicht auf die Folgen für die Öffentlichkeit und die Menschen verbreitet. „The business of business is business“, heißt es bei den Neoliberalen. Investoren wie Marc Andreessen und Peter Thiel verdienen prächtig damit, aber die demokratischen Staaten kämpfen mit den Folgen und sind, aus Angst vor den Techkonzernen und Donald Trump, erschreckend zögerlich bei der Regulierung. Dabei wäre es Aufgabe des Gesetzgebers, die Rahmenbedingungen für den Einsatz von Technik festzulegen. Im Bundestag gibt es dafür sogar einen eigenen Ausschuss zur Technikfolgenabschätzung.

Von dem aber nichts zu hören ist. Etwa zu der fundamentalen Frage, was aus der Erwerbsarbeit wird, wenn KI sukzessive menschliche Fertigkeiten und Tätigkeiten übernimmt.

Nein. Das ist unverantwortlich, zumal über die Folgen von KI für den Arbeitsmarkt oder Sozialsysteme wie Gesundheit, Bildung oder den sozialen Zusammenhalt demokratischer Gesellschaften schon länger diskutiert wird. Ich erinnere nur an die 2017 von rund 100 US-Wissenschaftlern formulierten 23 KI-Leitsätze von Asilomar. Wobei auch diese Grundsätze der typischen Ideologie des Technikdeterminismus und Utilitarismus folgen, die vom Glauben an Fortschritt und Machbarkeit geprägt sind.

Die Vereinigung Deutscher Wissenschaft hat die Asilomar-Leitlinien 2018 in einer Stellungnahme deshalb auch als nicht weitreichend genug kritisiert. Statt aber diese Diskussion aufzugreifen und für generative KI zu aktualisieren, dominieren die Digitalenthusiasten, geblendet von den Milliardeninvestitionen, während die Realisten auf den KI-Crash warten, weil weder die Large Language Models (LLM) noch die notwendigen, immer größer werdenden Rechenzentren mit ihrem immensen Strom- und Wasserbedarf zukunftsfähig sind. Die Blase wird implodieren wie beim Internethype im Jahr 2000 oder beim Bankencrash 2008.

Beklemmend sind zwei weitere Perspektiven: Sofern die KI den Menschen nicht gleich auslöscht, was Experten inzwischen ernsthaft in Betracht ziehen, treibt die Technik eine radikale Entmenschlichung voran, indem sie auf die Kontrolle unserer Köpfe und Körper zielt.

Dass Maschinen die Weltherrschaft anstreben könnten, gehört zu den albernen Visionen und Stereotypen, um Menschen Angst zu machen. Das ist und bleibt Science-Fiction. Maschinen haben kein Bewusstsein, keinen Willen, keine Absichten. Angst muss man daher nicht vor Maschinen haben, sondern vor den Menschen, die sie entwickeln und sie zu eigenen Zwecken einsetzen. Ich denke dabei etwa an Drohnen, die in der Ukraine und in Gaza eingesetzt werden. Damit kann man schon heute Personen per Gesichtserkennung oder Irisscan identifizieren und liquidieren.

Die Frage ist daher, warum diese Fantastereien immer wieder aufgekocht werden. Es sind Ablenkungsstrategien, um zu kaschieren, was bereits alles mit KI-gesteuerten Geräten gemacht werden kann und gemacht wird. Dieses automatisierte Töten ohne Eingriff eines Menschen ist einer der Gründe, warum der neue Papst wie schon sein Vorgänger Franziskus bei KI interveniert. Techfirmen blenden ethische Fragen entweder aus oder werden für richtige Entscheidungen sanktioniert.

Anthropic aus den USA hat für sein KI-Modell Claude festgelegt, dass es weder US-Bürger überwachen noch als System für Drohnen autonom töten darf. Daraufhin wurde das Unternehmen vom Pentagon zum nationalen Sicherheitsrisiko erklärt und von staatlichen Aufträgen abgeschnitten. Amazon, Google, Microsoft, Nvidia, Open AI und weitere AI-Konzerne haben die Vereinbarungen mit dem Pentagon unterschrieben. Das Geschäft geht vor.

Was steht auf dem Spiel?

Es geht um die Frage, ob es gelingt, IT und KI als Werkzeuge zugunsten einer humanen und demokratischen Gesellschaft einzusetzen, oder ob ein paar Oligarchen sie weiterhin dafür missbrauchen, ihre eigene Vorherrschaft zu festigen. Wenn es nach Investoren wie Marc Andreessen geht, werden wir alle, vom Kleinkind bis zum Senior, immer eine digitale Nanny dabei haben, die uns sagt, was wir tun sollen. Das gruselige Manifest dazu heißt „Why AI will save the world“, also „Warum KI die Welt retten wird“.

Dabei ist schon jetzt durch zahlreiche Studien belegt, dass die Lernleistungen in Schulen seit Jahren kontinuierlich schlechter werden. Der Neurowissenschaftler Jared Cooney Horvath von der Universität Melbourne hat im Januar 2026 in einer schriftlichen Stellungnahme vor dem US-Senatsausschuss für Handel, Wissenschaft und Verkehr dargelegt, dass die Generation Z trotz ihres beispiellosen Zugangs zu Technologie kognitiv weniger leistungsfähig ist als frühere Generationen. Diese Generation ist demnach die erste in der modernen Geschichte, die in standardisierten Tests schlechter abschneidet als vorherige Generationen.

Horvath lehnt Technologie nicht per se ab. Er will allerdings Bildungsinstrumente an die tatsächlichen Lernprozesse des Menschen anpassen statt umgekehrt das Lernen an die digitalen Prozesse. Diese Fehlentwicklung hat auch schon die UNESCO in ihrem „2023 Global Education Monitor“ beklagt. Nicht das Lernen und der pädagogische Nutzen stünden im Mittelpunkt, sondern wirtschaftliche Interessen der IT-Anbieter und Aspekte der Datenökonomie.

Haben Sie den Eindruck, dass das den politischen und wirtschaftlichen Eliten in Deutschland wenigstens dämmert?

Nein. Die politisch Verantwortlichen haben von den IT-Lobbyisten jahrelang gehört, Deutschland hinke bei IT und KI hinterher und müsse die digitale Transformation möglichst schnell vorantreiben. Das ist aus Sicht der Techmonopole logisch. Dadurch wird die Infrastruktur für den digitalen Faschismus aufgebaut, den Rainer Mühlhoff in seinem Buch „Künstliche Intelligenz und der neue Faschismus – Wie Tech-Milliardäre Macht und Zukunft formen“ treffend beschreibt). Ob man den technologischen Autoritarismus nun digitalen Faschismus, Despotismus oder Feudalismus nennt, ist eigentlich egal. So oder so werden wir im Netz der Datenkraken gefangen gehalten.

Wenn Mensch dabei ist, immer mehr zu verblöden: Wo soll das hinführen? Auch Blöde haben irgendwann Hunger, aber ohne Lohnarbeit gibt es kein Essen. Ahnen diese Technofaschisten gar nicht, in welchen Mist sie die Menschheit und den Planeten reiten?

Doch, sie wissen sehr genau, was passieren wird: Die sozialen Spannungen steigen bis zum Bürgerkrieg, die Ressourcen der Erde werden von wenigen Oligarchen gnadenlos ausgebeutet. Und die Menschen kämpfen um die wenigen verbliebenen Ressourcen wie Wasser und Nahrung, statt sich gegen die Potentaten zu wehren. Und das Schlimme ist: Die wollen es genau so. Das Ziel ist ein autokratischer Staat mit wenigen Techfürsten an der Spitze, drumherum ein Kokon an Loyalisten und Speichelleckern plus Armee und Polizei.

Nachzulesen ist das alles in den Papieren der Heritage Foundation zum „Project 2025“, aktualisiert zum „Project 2026“. Der „Rest“ der Bevölkerung dient als Arbeitssklaven und wird ansonsten per Streaming und sogenannten sozialen Diensten als Konsumäffchen an diversen Bildschirmen ruhiggestellt. Als Science-Fiction kennt man das schon, etwa im Film „Elysium“ von Neill Blomkamp. Wenige Reiche leben im Luxus auf dem Raumschiff, während die Bevölkerung auf der zerstörten Erde ums Überleben kämpft und von Armee und Polizei kontrolliert wird.

Wäre das dann eine Mixtur aus Aldous Huxleys „Brave New World“ und George Orwells „1984“?

Das Konzept nennt sich Elitismus, ist aber nur eine Variante der Oligarchie, zu der die USA verkommen sind. Es ist eine Mischung aus Ausbeutung, reiner Gier, allerdings mit bisher unbekannten Mengen an Geld und Einfluss in Privathänden. Wie Kraken haben sich die Techkonzerne in alle Gesellschaftsbereiche hineingefressen und steuern die Kommunikation und den Konsum. Selbst die US-Armee funktioniert nicht mehr ohne die Software Palantir von Alex Karp und Mitgründer Peter Thiel.

Die ICE-Behörde arbeitet mit der Software Gotham, ebenfalls von Palantir, um Migranten zu verhaften und ohne Prozess abzuschieben, Menschen, die zwar arbeiten und Steuern zahlen, aber keine Aufenthaltsgenehmigung haben. Die Daten für ICE hat Elon Musk in seinen vier Wochen im Weißen Haus abgegriffen. Es geht um solitäre Macht weniger Techmonarchen, die sich die Welt nach ihren psychotischen und rassistischen Vorstellungen weißer, männlicher Vorherrschaft gestalten. Auch das lässt sich nachlesen, im Manifest von Alex Karp: „The Technological Republic“.

Elon Musk will die Menschheit mit einem humanoiden Roboter namens Optimus beglücken, der uns in Zukunft in Milliardenzahl zur Hand gehen und ein „universell hohes Einkommen“ garantieren soll. Ist es nicht schlicht das viele Geld, dass diesen Techmogulen die Sinne vernebelt?

Nicht nur das Geld, auch der fehlende Widerspruch und Widerstand sowohl der Politik wie der Gesellschaft. Elon Musk ist ja das Paradebeispiel eines drogengesteuerten Psychopathen, der nicht nur größenwahnsinnige Projekte initiiert, die früher oder später scheitern. Er verfolgt sogar eugenische Projekte, indem er Frauen dafür bezahlt, für ihn Kinder auszutragen. Selbst der Mensch ist für ihn nur ein Produkt, das man durch künstliche Befruchtung und Genkontrolle nach den eigenen Vorstellungen herstellen kann. Thiel und ein Sohn von Trump sponsern die „Enhanced Games“, Menschenversuche mit kontrolliertem Doping, um die Leistungsgrenzen des Körpers auszutesten.

Es ist letztlich der Wahn, den Menschen, ganze Gesellschaften und die Welt durch Technik nach eigenen Vorstellungen zu formen. Das ist das Prinzip der kybernetischen Steuerung als Hybris, Perversion und gelebte Psychose. Karp, Thiel, Musk und ein paar andere halten sich für die Weltherrscher und kapieren gar nicht, dass sie lediglich die westlichen Demokratien zerstören und so den Raum schaffen für eine Übergangsphase der Ochlokratie, also der Herrschaft des Pöbels. Zu bestaunen in den USA mit Donald Trump und J. D. Vance als Marionetten der Techmonarchen an der vermeintlichen Spitze des Staates, bevor das System in einem technologischen Totalitarismus mündet. Technik ist nur das Mittel und die Infrastruktur, es geht um Macht und Herrschaft.

Ergo müsste zuerst der Kapitalismus überwunden werden, um den Wahnsinn zu überwinden?

Wenn man das, was derzeit in den USA zu beobachten ist, noch Kapitalismus nennen will, ja. Es ist ja eher eine marktradikale Version neoliberaler, libertärer Monopolisierung von Infrastruktur und Diensten, die nur dem Eigennutz weniger Narzissten und Psychos dient. Das schließt den Kreis zur Enzyklika des Papstes, der einfordert, dass Technik und Wirtschaft dem Gemeinwohl und der Humanität dienen müssen und kein Selbstzweck im Dienst kleiner Eliten sein dürfen. Und das Wichtigste dabei ist: Man kann sich wehren.

Wie?

In Deutschland muss man dazu nur das Grundgesetz lesen – und umsetzen. In Artikel 14 heißt es: „Eigentum verpflichtet. Sein Gebrauch soll zugleich dem Wohle der Allgemeinheit dienen“, und laut Absatz 3 ist eine Enteignung „zum Wohle der Allgemeinheit zulässig“. Die Bundes- und Landesregierungen haben die Pflicht, den Einsatz von Wirtschaftsmacht und Technologien wie der KI zugunsten des Gemeinwohls zu steuern, zu reglementieren und notfalls Unternehmen zu vergesellschaften und/oder zu zerschlagen beziehungsweise Dienste, die sich gegen Demokratie und Gemeinwohl richten, in Europa zu verbieten.

So, wie wir in der Politik wieder eine wehrhafte Demokratie werden müssen, müssen wir in der Wirtschaft wieder eine soziale und humane Wirtschaft werden, die nicht nur auf Shareholder Value und Rendite schielt, sondern auf soziale Verantwortung, Gemeinschaft und Gemeinwohl ausgerichtet ist. Dass Papst Leo XIV. seine erste Lehrschrift diesem Thema widmet, zeigt nur, wie weit wir uns durch Fortschrittsglauben und Technikfixierung von einer humanen und sozialen Gemeinschaft entfernt haben.

Vielen Dank für das Gespräch.

Titelbild: CineVI/shutterstock.com

Erst im Dezember 2025 gegründet, empfiehlt sich die unter dem wohlklingenden Namen Pax Silica firmierende und von den USA gelenkte strategische Initiative als Sicherung von Lieferketten für Halbleiter, Künstliche Intelligenz (KI) und kritische Mineralien. Wörtlich ließe sich Pax Silica mit „Frieden und Silizium” oder „Stabilität auf Chipbasis” übersetzen, da durch ebendiese Initiative die reibungslose Versorgung bedeutsamer Rohstoffe und Chips avisiert ist. „Wenn das 20. Jahrhundert von Öl und Stahl angetrieben wurde“, schwärmte Jacob Helberg, der im federführenden U.S. State Department zuständige Staatssekretär für Wirtschaftsfragen, „so wird das 21. Jahrhundert von Rechenleistung und den dafür notwendigen Mineralien angetrieben. Diese historische Erklärung läutet einen neuen Konsens zur wirtschaftlichen Sicherheit ein, der gewährleistet, dass sich die Partner gemeinsam das KI-Ökosystem von morgen aufbauen – von Energie und kritischen Mineralien bis hin zu High-End-Fertigung und Modellen.“ Neuer Konsens zur wirtschaftlichen Sicherheit? Klingt gut: Doch für wen? Von Rainer Werning.

Die Initiative entstand als Reaktion auf Lieferkettenschwächen während der COVID-19-Pandemie und angesichts der Befürchtung, China könne mit Blick auf seltene Erden eine dominante Weltmarktposition einnehmen. Pax Silica versteht sich explizit als ein auf Wirtschaftssicherheit fokussiertes Bündnis, das mittels gemeinsamer Investitionen, Exportkontrollen, Entwicklung transformativer Technologien und Protektion sensibler Technologien „nicht-marktwirtschaftlichen Praktiken” entgegenwirken soll – womit zuvörderst China gemeint ist.

Zielsetzung

Pax Silica zielt darauf ab, durch eine Allianz gleichgesinnter Staaten Abhängigkeiten von China zu verringern und ein stabiles Technologie-Ökosystem im KI-Zeitalter zu schaffen. Die Allianz umfasst neben den USA führende Nationen im KI- und Halbleiterbereich (darunter Japan, Südkorea, Israel, Großbritannien). Die Initiative deckt die gesamte Kette ab, von der Förderung kritischer Mineralien über die Produktion von Mikrochips bis hin zur KI-Infrastruktur.

In der offiziellen Pax Silica-Deklaration heißt es:

„Wir bekräftigen unser gemeinsames Engagement für die Förderung des gegenseitigen Wohlstands, des technologischen Fortschritts und der wirtschaftlichen Sicherheit unserer Völker.

Wir erkennen an, dass eine zuverlässige Lieferkette für unsere gemeinsame wirtschaftliche Sicherheit unverzichtbar ist. Wir erkennen ferner an, dass künstliche Intelligenz (KI) eine transformative Kraft für unseren langfristigen Wohlstand darstellt und dass vertrauenswürdige Systeme für die Wahrung unserer gemeinsamen Sicherheit und unseres Wohlstands unerlässlich sind.

Wir erkennen an, dass sich die technologische Revolution im Bereich der KI beschleunigt, die Weltwirtschaft zunehmend umgestaltet und globale Lieferketten neu formt. Wir sind davon überzeugt, dass wirtschaftlicher Wert und Wachstum durch alle Ebenen der globalen KI-Lieferkette fließen werden und historische Chancen sowie eine Nachfrage nach Energie, kritischen Mineralien, Fertigung, technologischer Hardware, Infrastruktur und noch unerschlossenen neuen Märkten schaffen werden.“

Und weiter in überschwänglicher Diktion:

„In diesem Sinne bekräftigen wir unsere gemeinsame Vision, unsere wirtschaftliche Partnerschaft durch gemeinsame Anstrengungen in den Bereichen Investitionssicherheit, Infrastruktur und Anreize zu vertiefen.

Wir fördern Bemühungen um Partnerschaften in strategischen Bereichen der globalen Technologie-Lieferkette, darunter unter anderem Softwareanwendungen und -plattformen, wegweisende Grundmodelle, Informationsvernetzung und Netzwerkinfrastruktur, Rechenleistung und Halbleiter, fortschrittliche Fertigung, Transportlogistik, Mineralienveredelung und -verarbeitung sowie Energie.“

Die philippinische Connection

Die philippinische Regierung unter Ferdinand „Bongbong“ Marcos Jr. unterzeichnete die Erklärung am 16. April 2026 und machte das Land damit zum 13. Unterzeichner von Pax Silica. Im Rahmen dieser Partnerschaft planen Manila und Washington die Einrichtung eines 1.620 Hektar großen Luzon-Wirtschaftskorridors, den sie als erstes „AI-native industrial acceleration hub“ (KI-basiertes Investitionsbeschleunigungszentrum) im Rahmen der Initiative klassifizieren, um, wie es weiter heißt, „für amerikanische und globale Lieferketten unverzichtbare Inputs zu sichern“.

Die „historische“ Economic Security Zone (ESZ – Wirtschaftssicherheitszone), die in New Clark City in Tarlac (nördlich der Metropole Manila gelegen) angesiedelt sein soll, um dort die Produktion von Vorleistungen anzukurbeln, die für US-amerikanische Lieferketten im Bereich seltene Erden und für das Militär von entscheidender Bedeutung sind, wurde denn auch von Mr. Helberg als „neues Modell“ gepriesen und besonders dafür gelobt, dass „die Zone die geografische Zentralität der Philippinen im Indopazifik, ihre jungen und technisch qualifizierten Arbeitskräfte sowie ihre sich vertiefende Allianz mit den Vereinigten Staaten nutzen kann“.

Der philippinische Finanzminister Frederick Go hob seinerseits hervor, dass sein Land durch den Beitritt zu dieser Initiative sicherstelle, dass „unsere Bodenschätze und unsere strategische Lage nicht nur am Rande die globale Industrie unterstützen, sondern aktiv genutzt werden, um die Industrien der Zukunft aufzubauen“.

Gewiss haben die Philippinen viel zu bieten: u.a. erhebliche Vorkommen an Nickel, Kupfer, Chromit und Kobalt, die für globale Lieferketten – einschließlich der Halbleiterindustrie – als „zunehmend unverzichtbar“ gelten. Insbesondere da die USA bestrebt sind, ihre Vorherrschaft bei der Produktion von Chips mit höchster Rechenleistung für Anwendungen im KI-Bereich zu sichern. Da der Archipel über diese kritischen Mineralien verfügt, bestünde für die Regierung in Manila theoretisch die Chance, die ESZ – innerhalb des größeren Luzon-Wirtschaftskorridors im Westen des Landes – tatsächlich in ein florierendes Zentrum für Arbeitsplätze schaffende Produktionsstätten zu verwandeln sowie dringend benötigte Investitionen anzulocken.

Bleibt das strukturelle Problem, dass sich das für die Realisierung all dieser hehren Pläne notwendige verarbeitende Gewerbe nur auf einen engen Tätigkeitsbereich, insbesondere auf die exportorientierte Produktion, beschränkt und keine robuste lokale Industrie entwickelte, die in der Lage wäre, eine breite Palette von Gütern herzustellen.

Kritisch merkte dazu die für den alternativen Think Tank IBON tätige Journalistin Maricar Piedad an:

„Der Anteil des verarbeitenden Gewerbes an der Beschäftigung hat seit 1987 nie 10 Prozent überschritten und hat nun mit 7,1 Prozent seinen historischen Tiefstand erreicht, was etwas unter dem Anteil der Landwirtschaft liegt. Der Dienstleistungssektor hat mittlerweile einen Anteil von 53 Prozent an der Gesamtbeschäftigung, ausgehend von nur 33,1 Prozent im Jahr 1987.

Der verarbeitende Sektor hätte sinnvolle Arbeitsplätze für die philippinischen Arbeitnehmer schaffen können. Doch der strukturelle Mangel der Wirtschaft, in der der Dienstleistungssektor dominiert, während die Produktion stagniert, hat zu einer Beschäftigungssituation geführt, in der mindestens sieben von zehn sogenannten Beschäftigten in informellen Bereichen tätig sind. Unterdessen fördert und erleichtert die Regierung weiterhin den Export von Arbeitskräften, um Milliarden von Dollar an Überweisungen von im Ausland arbeitenden Filipinos zu generieren, was wiederum die lokale Wirtschaft ankurbeln soll, deren Wachstum vom privaten Konsum abhängt.“

Das Resümee der Autorin:

„Einer der bedeutendsten Wendepunkte in der verarbeitenden Industrie ereignete sich im Zuge der neoliberalen Wirtschaftsreformen, die ab den 1980er-Jahren umgesetzt und in den 1990er-Jahren noch aggressiver vorangetrieben wurden. Nach der globalen Schuldenkrise in den 1980er-Jahren verabschiedeten die Philippinen eine Reihe von Strukturanpassungsprogrammen (SAP), die von internationalen Finanzinstitutionen, vor allem dem Internationalen Währungsfonds (IWF) und der Weltbank, auferlegt wurden. Die SAP führten Maßnahmen zur Liberalisierung, Deregulierung und Privatisierung ein und reduzierten die staatliche Unterstützung für lokale Industrien.“

Mangelnde Transparenz …

Die eigentliche Crux brachte der Publizist und Wirtschaftsfachmann Adolfo Q. Paglinawan auf den Punkt:

„Jenseits von Pressemitteilungen und Propaganda strotzt der Plan nur so vor mangelnder Transparenz. Ein weiteres klassisches Symptom amerikanischer Konditionalität, noch bevor überhaupt Details dargelegt wurden. Es gibt kein konkretes, schlüssiges und umsetzbares Programm, um die angekündigten Ziele zu erreichen. Dieses Fehlen von Projektmanagement-Roadmaps zur Umsetzung, Terminierung und Steuerung komplexer Teilprojekte zeugt von der Abwesenheit dessen, was im Ingenieurwesen als detaillierte PERT-CPM oder Program Evaluation and Review Technique und Critical Path Method bezeichnet wird.“[*]

Das harsche Fazit des Autors:

„Zwei Wermutstropfen enthüllten jedoch den Ausverkauf der philippinischen Souveränität durch die Marcos-Regierung: Die Zone wird unter diplomatische Immunität fallen. Innerhalb ihres Zuständigkeitsbereichs wird das US-Gewohnheitsrecht gelten. Kurz gesagt, die Vereinbarung wird von Exterritorialität geprägt sein. Eine Situation im Stil von Guantanamo innerhalb der Republik der Philippinen!

Das ist sogar noch zu hochgestochen, denn es gibt bislang keine Anzeichen für eine tatsächliche Machbarkeitsstudie für ‚Pax Silica‘ oder gar ein Finanzierungspaket für das, was auch immer die Regierung dafür plant.

Der Luzon-Wirtschaftskorridor dient mithin als Geschenkverpackung für ein ‚Opfer an die Hegemoniegötter‘!“

Nicht nur unterzeichnete die Marcos-Jr.-Regierung klammheimlich die Pax-Silica-Initiative. Sie ließ überdies zu, dass neben deren unangefochtener US-Dominanz auch japanischen Unternehmen im zivilen und militärischen Bereich weitgehende Befugnisse eingeräumt würden. Vielen Filipinos sind bis heute noch die Gräuel und der Terror in lebhafter Erinnerung, als die japanischen Militaristen von Ende 1941 bis zum Sommer 1945 eine Schreckensherrschaft über die Inseln ausgeübt hatten. Schließlich muss sich die ESZ von den Erfahrungen in den ehemaligen US-Militärstützpunkten Subic Naval Base und Clark Air Field distanzieren, wo den USA die volle Autorität und das Eigentumsrecht übertragen worden waren!

… und jede Menge Unwägbarkeiten

Philippinische Menschen- und Bürgerrechtsgruppen, diverse Organisationen im Bereich Natur- und Umweltschutz sowie kritische Intellektuelle und die wenigen im Kongress repräsentierten Linken im Lande haben denn auch aus ihrer Kritik an Pax Silica keinen Hehl gemacht.

Die nationale Bauernvereinigung Kilusang Magbubukid ng Pilipinas (KMP) hat das Projekt als „massiven Ausverkauf“ des Landes, seiner Bodenschätze und seiner Souveränität bezeichnet. Sie äußerte zudem Befürchtungen, dass das von den USA initiierte Projekt Landraub, Rohstoffabbau und Militarisierung in den ländlichen Gebieten „verschärfen“ würde.

Bagong Alyansang Makabayan (Bayan), ein linkes sektorübergreifendes Bündnis, wertete die Initiative angesichts der entscheidenden Rolle von Halbleitern – dem angeblich wichtigsten Exportgut der Philippinen – bei der Herstellung von Militärtechnik eher als „militärische Erfordernisse“ denn als nationale Entwicklung:

„Halbleiter und moderne Elektronik sind für die moderne Kriegführung von zentraler Bedeutung und kommen in Drohnen, Raketensystemen, Überwachungsnetzwerken und der Kommunikationsinfrastruktur zum Einsatz“.

Überdies bezeichnete Bayan das Projekt als bloßen Vorwand, um die Philippinen für die US-Kriegsmaschinerie zu nutzen und die Abhängigkeit der USA von der mit China verbundenen Lieferkette zu verringern.

Das engagierte Netzwerk von Umweltaktivisten Kalikasan People’s Network for the Environment erklärte, die Pax-Silica-Initiative und die Absichtserklärung zu kritischen Mineralien bedeuteten, die philippinischen Berge, Wassereinzugsgebiete und angestammten Gebiete nationaler Minderheiten für eine intensivierte Gewinnung zu öffnen. Die Öffentlichkeit müsse wissen, so eine zentrale Forderung von Kalikasan, „ob die (im Rahmen von Pax Silica avisierten – RW) Anlagen als Plattformen mit doppeltem Verwendungszweck errichtet werden, die für Kriegslogistik und die militärische Vorratshaltung umfunktioniert werden können“.

Weiterführende Links

• America Times News Service: Pax Silica Summit (2025)
• Xandra Liza C. Bisenio (2026)
• Jochen Mitschka (2026)
• Pax Silica – United States Department of State (2026)
• Adolfo Quizon Paglinawan (2026)
• Maricar Piedad (2026)
• Jonathan Watts (2026)
• Rainer Werning (2026)

Titelbild: Andrew Angelov / Shutterstock

Der moderne Krieg beginnt nicht erst mit Raketen, Panzern oder Soldatenbewegungen. Natürlich wurden auch frühere Kriege von Propaganda, psychologischer Einflussnahme und medialer Mobilisierung begleitet. Staaten versuchten schon immer, öffentliche Meinung zu formen, Feindbilder aufzubauen und Zustimmung für politische oder militärische Entscheidungen zu erzeugen. Doch mit sozialen Plattformen, digitalen Datenräumen und künstlicher Intelligenz verändern sich Reichweite, Geschwindigkeit und Präzision dieser Einflussnahme in einem Ausmaß, das frühere Formen psychologischer Kriegsführung deutlich übertrifft. Von Günther Burbach.

Dieser Beitrag ist auch als Audio-Podcast verfügbar.

Heute beginnt der Kampf um Deutungshoheit wesentlich früher, in Nachrichtenfeeds, Kommentarspalten, Videoplattformen und sozialen Netzwerken. Dort entscheidet sich zunehmend, was Menschen für wahr halten, wem sie vertrauen, wovor sie Angst haben und welche politischen Maßnahmen sie akzeptieren. Genau an dieser Front verändert künstliche Intelligenz derzeit die Spielregeln mit einer Geschwindigkeit, die viele gesellschaftliche Debatten längst überholt hat.

Noch vor wenigen Jahren bestand digitale Einflussnahme vor allem aus klassischen Bots, gefälschten Profilen oder koordinierten Kampagnen. Inzwischen entsteht jedoch eine neue Qualität. Moderne KI-Systeme können Texte, Bilder, Stimmen und Videos in riesigen Mengen erzeugen, anpassen und emotional optimieren. Sie analysieren Reaktionen in Echtzeit, erkennen Stimmungen und passen Inhalte dynamisch an Zielgruppen an. Damit entsteht eine Form algorithmischer Einflussnahme, die nicht mehr nur Informationen verbreitet, sondern Wahrnehmung aktiv modelliert.

Soziale Netzwerke als digitale Schlachtfelder

Besonders deutlich wurde diese Entwicklung zuletzt im Umfeld internationaler Konflikte. Ob Ukrainekrieg, Nahost oder geopolitische Spannungen zwischen den Großmächten, soziale Netzwerke verwandeln sich zunehmend in digitale Schlachtfelder. Videos werden millionenfach verbreitet, Bilder emotional aufgeladen, Narrative innerhalb weniger Stunden global verstärkt. Oft ist kaum noch nachvollziehbar, woher Inhalte ursprünglich stammen oder ob sie authentisch sind. Genau hier beginnt das eigentliche Problem.

Denn künstliche Intelligenz macht Desinformation nicht nur schneller, sondern glaubwürdiger. Stimmen können täuschend echt imitiert werden, Gesichter perfekt synthetisch erzeugt, Szenen vollständig künstlich generiert werden. Was früher aufwendig war, lässt sich heute innerhalb weniger Minuten produzieren. Gleichzeitig verschwimmen die Grenzen zwischen echter Berichterstattung, Propaganda, Aktivismus und algorithmisch erzeugter Stimmungsmache noch stärker als in der klassischen Medienlandschaft vergangener Jahrzehnte.

Hinzu kommt ein Faktor, der politisch bislang erstaunlich wenig diskutiert wird: KI-Systeme lernen, welche Inhalte besonders starke emotionale Reaktionen auslösen. Angst, Wut, Empörung und moralische Zuspitzung erzeugen Aufmerksamkeit, und Aufmerksamkeit ist die eigentliche Währung digitaler Plattformen. Dadurch entsteht ein Mechanismus, der gesellschaftliche Spannungen systematisch verstärken kann.

Die eigentliche Gefahr liegt dabei weniger in einzelnen Falschmeldungen als in der dauerhaften Veränderung öffentlicher Wahrnehmung. Wenn Menschen permanent mit emotionalisierten, algorithmisch optimierten Inhalten konfrontiert werden, verändert sich schrittweise die Art, wie politische Realität wahrgenommen wird. Komplexe Zusammenhänge werden auf Schlagworte reduziert, Gegner moralisch entwertet, Unsicherheit in Feindbilder übersetzt.

Neue Formen der Propaganda

Damit entsteht eine Entwicklung, die weit über klassische Propaganda hinausgeht. Früher versuchten Staaten oder Medien, bestimmte Narrative zu verbreiten. Heute übernehmen zunehmend automatisierte Systeme die Verstärkung, Anpassung und Verteilung dieser Narrative. Nicht mehr einzelne Redaktionen oder politische Akteure steuern die Dynamik allein, sondern Plattformalgorithmen und KI-Modelle, deren Funktionsweise für die Öffentlichkeit kaum nachvollziehbar ist.

Besonders problematisch wird diese Entwicklung in Krisenzeiten. Denn Kriege, geopolitische Spannungen oder wirtschaftliche Unsicherheiten erzeugen hohe emotionale Anfälligkeit. Genau in solchen Situationen wirken algorithmisch verstärkte Inhalte besonders stark. Die Grenze zwischen Information und psychologischer Einflussnahme beginnt noch stärker zu verschwimmen, als es ohnehin schon immer der Fall war.

Dabei geht es längst nicht nur um ausländische Akteure oder klassische Geheimdienstoperationen. Auch westliche Staaten investieren zunehmend in digitale Einflussstrukturen, strategische Kommunikation und KI-gestützte Informationssysteme. Gleichzeitig entwickeln private Konzerne immer leistungsfähigere Werkzeuge zur Analyse und Steuerung öffentlicher Aufmerksamkeit. Die Kombination aus staatlichen Interessen, privater Plattformlogik und künstlicher Intelligenz schafft damit ein System, dessen gesellschaftliche Folgen bislang kaum abschätzbar sind.

Besonders brisant ist dabei die Rolle der sozialen Plattformen selbst. Ihre Algorithmen sind nicht darauf ausgelegt, Wahrheit zu fördern, sondern Aufmerksamkeit zu maximieren. Inhalte, die starke Emotionen auslösen, werden bevorzugt verbreitet. Das führt dazu, dass extreme Positionen, moralische Empörung und zugespitzte Narrative oft größere Reichweiten erzielen als differenzierte Analysen. KI verschärft diese Dynamik zusätzlich, weil sie in der Lage ist, solche Inhalte automatisiert und massenhaft zu erzeugen.

Damit verändert sich nicht nur die Geschwindigkeit öffentlicher Debatten, sondern auch ihre Struktur. Gesellschaftliche Diskussionen werden fragmentierter, emotionaler und manipulationsanfälliger. Menschen bewegen sich zunehmend in digitalen Informationsräumen, die algorithmisch auf ihre Ängste, Überzeugungen und Vorlieben zugeschnitten sind. Was der eine als offensichtliche Wahrheit empfindet, hält der andere bereits für gezielte Propaganda. Eine gemeinsame Realität beginnt zu zerfallen.

Überforderung durch Informationsmassen

Hinzu kommt ein weiterer Effekt: die permanente Überforderung durch Informationsmassen. Täglich strömen unzählige Videos, Kommentare, Analysen und Eilmeldungen auf die Menschen ein. KI-Systeme verstärken diese Flut zusätzlich. Dadurch entsteht ein Zustand dauerhafter Reizüberlastung, in dem viele irgendwann nicht mehr unterscheiden können, was relevant, glaubwürdig oder manipulativ ist. Genau diese Erschöpfung wird selbst zu einem politischen Faktor.

Denn wer nicht mehr weiß, wem er glauben soll, zieht sich entweder zurück oder klammert sich umso stärker an einfache Erklärungen und eindeutige Feindbilder. Beides destabilisiert demokratische Gesellschaften. Der öffentliche Raum verwandelt sich zunehmend in ein emotional aufgeladenes Dauergefecht, in dem nüchterne Debatten immer schwerer durchdringen.

Besonders deutlich zeigt sich das bereits bei jüngeren Generationen. Für viele Menschen unter 30 sind soziale Plattformen längst wichtiger als klassische Medien. Informationen werden nicht mehr primär über Zeitungen oder Nachrichtensendungen aufgenommen, sondern über kurze Clips, emotionalisierte Bilder und algorithmisch kuratierte Feeds. Die Grenze zwischen Unterhaltung, Aktivismus, Propaganda und Nachricht verschwimmt dabei noch stärker als in der klassischen Medienlandschaft.

Gerade deshalb entwickelt sich künstliche Intelligenz zu einem geopolitischen Machtinstrument. Staaten erkennen zunehmend, dass moderne Konflikte noch stärker als frühere Kriege auch jenseits der eigentlichen Schlachtfelder entschieden werden. Wer Wahrnehmung beeinflussen kann, beeinflusst auch politische Zustimmung, gesellschaftliche Stabilität und letztlich die Handlungsfähigkeit ganzer Staaten.

Das gilt insbesondere in Krisenzeiten. Wirtschaftliche Unsicherheit, Kriegsängste, Migration, soziale Spannungen oder Energiekrisen erzeugen emotionale Verwundbarkeit. KI-gestützte Informationssysteme können genau diese Schwächen analysieren und gezielt bespielen. Narrative werden nicht mehr einfach verbreitet, sie werden optimiert. Die Systeme lernen, welche Bilder Angst erzeugen, welche Formulierungen Wut verstärken und welche Botschaften gesellschaftliche Gruppen gegeneinander aufbringen.

Die eigentliche Macht dieser Technologie liegt deshalb nicht allein in einzelnen Fälschungen oder manipulierten Videos. Sie liegt in der Fähigkeit, öffentliche Stimmung permanent zu beeinflussen, Debattenräume zu verschieben und Wahrnehmung langfristig zu formen. Genau darin unterscheidet sich die neue digitale Einflussnahme von klassischer Propaganda vergangener Jahrzehnte.

Technologische Entwicklung ist schneller als politische Kontrolle

Hinzu kommt, dass die technologische Entwicklung schneller voranschreitet als politische Kontrolle. Während immer leistungsfähigere KI-Systeme entstehen, wirken Regulierung und gesellschaftliche Debatten oft erstaunlich langsam. Viele politische Entscheidungen fallen erst dann, wenn sich Technologien bereits tief in den Alltag integriert haben. Gleichzeitig verfügen große Plattformkonzerne über Datenmengen und technische Möglichkeiten, die selbst staatliche Institutionen teilweise übertreffen.

Dadurch entsteht ein Machtgefüge, das zunehmend schwer durchschaubar wird. Staaten, Konzerne, Plattformen, KI-Modelle und globale Datenströme greifen ineinander. Für die Öffentlichkeit wird immer unklarer, wo Einflussnahme beginnt, wer welche Interessen verfolgt und wie stark Wahrnehmung bereits algorithmisch gesteuert wird.

Noch nie standen so viele Informationen zur Verfügung wie heute, und gleichzeitig war vermutlich die Unsicherheit darüber, was eigentlich noch real ist, selten größer. Genau darin liegt die eigentliche Sprengkraft dieser Entwicklung.

Der Krieg der Zukunft könnte deshalb nicht zuerst um Territorien geführt werden, sondern um Wahrnehmung, in einem erheblich massiveren und technologisch präziseren Umfang als jemals zuvor. Nicht die Kontrolle einzelner Regionen wäre dann entscheidend, sondern die Fähigkeit, Realität für Millionen Menschen interpretierbar zu machen. Und genau dieser Kampf hat längst begonnen.

Titelbild: Accogliente Design / shutterstock.com

Quellen:

NATO StratCom COE – „Social Media Manipulation for Sale: 2025 Experiment on Platform Capabilities to Detect and Counter Inauthentic Social Media Engagement“
Reale Untersuchung der NATO-Strategieeinheit zu gekaufter Social-Media-Manipulation, Bots und künstlicher Reichweitenverstärkung.
https://stratcomcoe.org/publications/social-media-manipulation-for-sale-2025-experiment-on-platform-capabilities-to-detect-and-counter-inauthentic-social-media-engagement/338

Arxiv – „How cyborg propaganda reshapes collective action“ (2026)
Wissenschaftliche Arbeit über hybride Mensch-KI-Propaganda („Cyborg Propaganda“) und algorithmisch gesteuerte Meinungsbildung.
https://arxiv.org/abs/2602.13088

NATO StratCom COE – „Virtual Manipulation Brief 2025“
Analyse moderner Informationsoperationen, KI-Manipulation und digitaler Einflussnahme.
https://stratcomcoe.org/publications/generative-ai-and-its-implications-for-social-media-analysis/286

Nature Scientific Reports – Auswirkungen generativer KI auf soziale Medien und öffentliche Diskussionen
https://www.nature.com/articles/s41598-026-40110-8

Wired – Recherche über politische Einflusskampagnen rund um KI, China und Tech-Konzerne
https://www.wired.com/story/super-pac-backed-by-openai-and-palantir-is-paying-tiktok-influencers-to-fear-monger-about-china

Henry Fords Diktum „Autos kaufen keine Autos“ beschreibt eines der grundlegenden Paradoxa des Kapitalismus des 20. Jahrhunderts: Massenproduktion benötigt Massenkonsum. Wenn Arbeiter zu schlecht bezahlt werden oder durch Rationalisierung verdrängt werden, fehlt am Ende die nötige Kaufkraft für die produzierten Güter. Massenproduktion ohne Rationalisierung ist andererseits jedoch schwer vorstellbar. Ein Widerspruch. Blicken wir in die Zukunft, sind wir mit einem noch größeren Widerspruch konfrontiert. Künstliche Intelligenz und Automatisierung ermöglichen eine Rationalisierung, die die Grenzen unserer Vorstellung sprengt. Doch woher soll die Kaufkraft kommen, wenn Algorithmen die menschliche Arbeit verdrängen? Das große Paradoxon des Kapitalismus des 21. Jahrhunderts lautet daher: „Algorithmen kaufen keine Algorithmen“. Von Jens Berger.

Dieser Beitrag ist auch als Audio-Podcast verfügbar.

Deutschland, 2072. Der ehemalige NachDenkSeiten-Chefredakteur Jens Berger feiert seinen 100. Geburtstag und da sich einige Gäste angesagt haben und seine alte Kaffeemaschine schon verdächtige Geräusche macht, benötigt er Ersatz. Sein KI-Assistent bestellt das passende Gerät online. Entworfen und entwickelt wurde das Produkt eines multinationalen Konzerns von der KI, produziert in einer menschenleeren, zu 100 Prozent automatisierten Fabrik in Norwegen. 2072 spielen Lohnkosten für den Standortwettbewerb keine Rolle mehr. Energiekosten und -verfügbarkeit, Lieferketten und die Nähe zum Markt sind die maßgeblichen Faktoren. Auch im Lager und Versandzentrum des Händlers arbeitet kein Mensch mehr. Auftragsabwicklung, Inkasso, Warenmanagement, Marketing, Retourenmanagement – alles zu 100 Prozent automatisiert und durch die KI optimiert. Wenige Stunden später bringt eine Lieferdrohne die Kaffeemaschine vor die Haustür. Das ist alles schnell und hocheffizient. Schöne neue Einkaufswelt.

Keine Frage: Die Möglichkeiten, teure Mitarbeiter durch KI aus unserer Arbeitswelt zu verdrängen, sind in der Theorie grenzenlos. Automatisierung hat es schon immer gegeben; Henry Fords Fließbandproduktion des Model T ist dafür ja ein frühes Beispiel. War das schlimm? Nein, im Gegenteil. Das Model T war dank der automatisierten Produktion das erste Auto für den Massenmarkt. Solange es auch eine Massenkaufkraft gab, gingen technischer Fortschritt und eine Steigerung der materiellen Lebensqualität Hand in Hand. In Summe wurden auch bei der Produktion des Model T ja keine Arbeitsplätze vernichtet; hätte Ford das Model T in reiner Handarbeit fertigen lassen, hätte es schließlich gar keinen Markt für das dann extrem teure Endprodukt gegeben. Und mit der Industrialisierung und späteren technologischen Entwicklungen entstanden neue Jobs. Den von mir ausgeübten Beruf des Onlineredakteurs gab es beispielsweise vor 50 Jahren überhaupt noch nicht und auch viele meiner Freunde sind in Berufen tätig, die es in dieser Form früher gar nicht gab.

Warum sollten die Auswirkungen auf den Arbeitsmarkt und damit die Massenkaufkraft durch die bevorstehende KI-Revolution anders sein? Nun, durch die Automatisierung in der Massenproduktion wurden erst in der Breite Märkte für Produkte und später Dienstleistungen geschaffen, für die es zuvor keinen Markt gab. Das nennt sich Wachstum. Wenn zu Beginn des letzten Jahrhunderts in Handarbeit Kühlschränke gefertigt wurden, waren sie so teuer, dass ohnehin nur die Oberschicht als Käufer infrage kam. Durch die Automatisierung und Rationalisierung wurden Kühlschränke zum Alltagsgegenstand für jedermann und in Summe arbeiteten in den Fabriken mehr Menschen als in den einzelnen kleinen Manufakturen, die diese Geräte zuvor in Handarbeit hergestellt hatten. Auch wenn pro produziertem Kühlschrank deutlich weniger menschliche Arbeit nötig war, führt das massive Wachstum der Produktionsmengen in toto zu deutlich mehr Menschen, die in der „Kühlschrankherstellung“ beschäftigt waren. Und da auch immer mehr Menschen durch diese und andere Formen des Wachstums einen ausreichenden Lohn bezogen, war auch der Massenabsatz der neuen Produkte garantiert.

Dies ist jedoch bei der KI-Revolution anders. Hier geht es weniger darum, durch Rationalisierung und Produktivitätssteigerung neue Technologien in den Massenmarkt zu bringen, sondern darum, die bereits vorhandene Massenproduktion und den bereits vorhandenen Verwaltungs- und Dienstleistungsbereich durch KI kosteneffizienter zu machen. Das soll vor allem durch die Verdrängung teurer menschlicher Arbeitskraft gelingen und anders als bei der Automatisierung ist davon weniger der Arbeiter in der Produktion („Blue Collar“), sondern mehr der Angestellte am Schreibtisch („White Collar“) betroffen. Diese Entwicklung ist jetzt bereits im Gange. Streng genommen hat die KI das Potenzial, nahezu den gesamten Verwaltungsapparat von Unternehmen zu ersetzen – Millionen Jobs, vom kleinen kaufmännischen Angestellten in der Personalabteilung, über den Ingenieur in der Entwicklung bis hin zur kompletten Rechtsabteilung. Sie könnten schon bald durch die KI ersetzt werden. Es ist aber fraglich, ob in ausreichendem Tempo neue Branchen und Tätigkeitsfelder entstehen werden, die die freigesetzten Mitarbeiter auch nur im Ansatz auffangen. Alles wird effizienter, der menschliche Anteil sinkt und damit auch die Arbeitseinkommen.

Nun werden Anhänger der KI-Revolution sicher argumentieren, dass die damit verbundenen Kostenvorteile ja an den Kunden weitergegeben werden können, und im Kern kann man da auch gar nicht widersprechen. Doch wer soll sich diese Produkte und Dienstleistungen – auch wenn sie etwas günstiger werden – noch leisten können, wenn sein Job durch die KI wegrationalisiert wurde? Autos kaufen keine Autos und Algorithmen kaufen keine Algorithmen. Menschen sind es, die am Ende der Wertschöpfungskette Produkte und Dienstleistungen einkaufen. Und das geht nur, wenn eine Massenkaufkraft gegeben ist. Ohne ausreichend breite Erwerbseinkommen und Transfersysteme gerät die Massenkaufkraft jedoch unter Druck. Und ohne einen Absatzmarkt nützt die effizienteste Rationalisierung nichts. Wenn es keine Käufer gibt, kann man auch nichts verkaufen. Die Wirtschaft wird so am Ende von der KI totrationalisiert.

Dieses Problem wird von den Tech-Gurus und paradoxerweise auch vielen Linken zwar sehr wohl erkannt, aber nicht als Problem, sondern als Chance gesehen. So hört man immer wieder, dass der Wegfall von Arbeit ja die Möglichkeit schaffe, Arbeit neu zu verteilen, sodass wir alle weniger arbeiten müssen. Tolle Idee. Bei vollem Lohnausgleich? Schön, aber warum sollte ein Unternehmen KI einsetzen, die ja auch nicht kostenlos ist, ohne gleichzeitig Lohnkosten zu sparen? Oder kommen wir dann auch mit weniger Geld aus? Möglich, aber dann sinkt auch die Massenkaufkraft, ohne die – siehe oben – eine Massenproduktion auf dem gegebenen Niveau nicht möglich ist. Ein Widerspruch.

Sehr beliebt ist in diesen Kreisen ja auch die Idee, die Massenkaufkraft durch ein bedingungsloses Grundeinkommen aufrechtzuerhalten. Dieser Denkfehler erlebt zurzeit gerade bei den „Tech-Bros“ ja ein echtes Revival. Stellt sich nur die Frage, wer dieses Grundeinkommen wie finanzieren soll. Wir selbst über Steuern? Egal ob wir hier nun über Einkommens- oder indirekte Verbrauchssteuern sprechen – betrachtet man nicht das Individuum, sondern die Gesellschaft als Ganzes, erkennt man schnell, dass dies ein Zirkelschluss ist. Ich nehme Dir einen Euro Steuern ab, den ich Dir dann als Grundeinkommen wieder auszahle. An der Kaufkraft ändert dies exakt gar nichts.

Nun kommen natürlich die „Visionäre“ und sprechen bereits von einer Maschinensteuer. Nicht die menschliche Arbeit, sondern die Produktivität der Maschinen und Algorithmen solle besteuert werden. Diese Idee ist zumindest nicht vollends dumm, aber wie sollte so etwas konkret vonstatten gehen? Wo wird der „steuerpflichtige“ Mehrwert bei einem Algorithmus geschaffen? Im Rechenzentrum? Im globalen Netz? Unser gesamtes System der Unternehmensbesteuerung und der Zölle ist ein System, das für den klassischen Güterhandel des 20. Jahrhunderts geschrieben ist. Wie aber will der deutsche Fiskus zum Beispiel Zugriff auf Gewinne erhalten, die ein globales KI-Unternehmen sehr kreativ auf seine Rechenzentren verteilen kann? Raten Sie mal, warum derzeit die Idee von Datenzentren im All oder auf dem offenen Meer so populär ist! Ganz einfach – dort gibt es weder eine nationale Steuerhoheit noch sonst einen nationalen Rechtsrahmen. Mir persönlich fehlt auch jede Fantasie, dass man dies auf internationaler Ebene – die nationale Ebene scheidet hier logischerweise aus – lösen könnte.

Es ist fraglich, ob uns – als Gesellschaft – die Arbeit durch die Rationalisierung überhaupt ausgehen wird. Arbeit gibt es ohne Ende. Allein schon der Bereich Care-Arbeit (z.B. Kinderbetreuung, Altenpflege) wird schon wegen des demografischen Wandels in Zukunft massiv wachsen. Nun kommen die nächsten „Visionäre“ um die Ecke und träumen von einer Verlagerung der Arbeitsplätze. Dann soll halt der durch die KI ersetzte Firmenanwalt künftig als Pfleger im Altenheim arbeiten. Nette Idee. Doch wer bezahlt diese Tätigkeit? Die Sozialsysteme? Wohl kaum, da ihre Finanzierung ja maßgeblich an die Einkommen sozialversicherungspflichtiger Arbeit gekoppelt ist. Und wenn die produktiven Arbeitsplätze wegfallen, werden die Sozialsysteme schlichtweg kein Geld mehr haben. Der Steuerzahler? Wenn es in Deutschland kaum noch besteuerungsfähige Arbeit gibt und die Unternehmen einen Großteil des besteuerungsfähigen Gewinns an ihre KI-Dependancen im steuerlich nicht greifbaren Offshore-Raum auslagern, dürfte auch das eine Herkulesaufgabe sein. Oder lassen Sie es mich ein wenig zuspitzen: Erst wenn der letzte Bandarbeiter bei VW entlassen wurde und der letzte Ingenieur bei BASF zum Pfleger umgeschult wurde, werdet ihr merken, dass Gleichstellungsbeauftragte, Yogalehrer und taz-Kolumnistinnen allein nicht ausreichen, um den gesellschaftlichen Wohlstand zu erhalten.

Eine Wirtschaft kann nicht dauerhaft nur auf Effizienzsteigerung beruhen, wenn sie zugleich die Einkommensbasis ihrer Konsumenten untergräbt. Der Geist ist aus der Flasche, ein Zurück nicht mehr möglich. Richtig ist aber auch: Historisch haben technologische Revolutionen oft neue Berufe, neue Märkte und neue Bedürfnisse geschaffen. Die Frage ist daher weniger, ob Automatisierung und KI Arbeit verdrängen – das tun sie und wir können das ohnehin nicht verhindern –, sondern ob schnell genug neue Einkommensquellen entstehen. Kann man die Auswirkungen durch politische Maßnahmen abfedern? Lässt sich Kaufkraft beispielsweise durch eine Umverteilung von oben nach unten stärken? Wäre eine Umorientierung des Steuersystems von der Arbeit zum Kapital nicht eine sinnvolle Alternative? Hier ist die Politik gefragt! Doch wo findet die dafür nötige Debatte statt?

Titelbild: elenabsl/shutterstock.com

Wie sich Tech-Konzerne durch Datenmacht und digitale Infrastruktur zu unseren Herren aufschwingen: Manche Akteure möchten Politik entweder durch Technologie überflüssig machen oder ihren politischen Kern auf Verwaltung und Optimierung reduzieren. Beides zerstört den Rechtsstaat. Eine kommentierende Schlussbetrachtung von Detlef Koch.

Dieser Beitrag ist auch als Audio-Podcast verfügbar.

Demokratische Ordnungen sterben selten an einem einzigen Fehler. Sie verlieren zuerst die Voraussetzung, um überhaupt funktionieren zu können. Der öffentliche Raum wird unmerklich zur Plattform, Infrastruktur zur privaten Geldquelle, der Staat zum Datenkunden, Recht zur Ressource für hochmobile „Eliten“ und Innovation zur Sprache, in der demokratischer Widerspruch als Rückständigkeit erscheint. Die formale Hülle bleibt sichtbar: Parlamente tagen, Gerichte urteilen, Parteien streiten, Wahlen finden statt. Aber immer mehr Bedingungen demokratischer Selbstbestimmung wandern in Räume ab, die weder öffentlich Gehör finden noch öffentlich ausreichend kontrolliert werden.[1]

Techno-Feudalismus beschreibt eine Gegenwart, in der Zugang zu den verborgenen Schalthebeln der Macht wichtiger wird als Großgrundbesitz im historischen Sinn, Infrastruktur wird wichtiger als Fabrikbesitz, Daten werden wichtiger als bloße Marktposition und die Wahl des Rechtsraumes wird wichtiger als territoriale Bindung an ein Territorium.

Feudalismus heißt:

• asymmetrischer Zugang,
• private Regelsetzung,
• rentenartige Abschöpfung,
• selektive Rechtsbindung und
• die wachsende Fähigkeit weniger Akteure, gesellschaftliche Teilhabe nach Gutsherrenart zu gewähren, zu ordnen, zu bewerten oder zu verweigern.[2]

Wenn Öffentlichkeit zur Plattform wird

Öffentlichkeit ist nicht bloß ein Medienraum. Sie ist die sozial organisierte Voraussetzung, unter der Bürgerinnen und Bürger sich als politische Subjekte begegnen können. Bei Habermas ist Öffentlichkeit deshalb eng mit politischer Willensbildung, öffentlicher Meinung, Kritik und demokratischer Legitimation verbunden. Sein „Strukturwandel der Öffentlichkeit“ behandelt nicht zufällig die politische Funktion öffentlicher Sphäre, die Transformation öffentlicher Meinung und die Verschiebung durch Massenmedien und Werbung.[3]

Unter den Bedingungen technologischer Plattformen verändert sich nicht nur, wer spricht. Es verändert sich, was sichtbar wird, wie Reichweite entsteht, wer auffindbar bleibt, welche Begriffe zirkulieren, welche Gruppen mobilisierbar werden und welche Konflikte im Lärm verschwinden. Suchmaschinen, soziale Netzwerke, App-Stores, Cloud-Dienste, Zahlungswege, Marktplätze und Werbesysteme sind deshalb keine bloßen Dienste neben der Demokratie. Sie sind die Zugangsordnungen innerhalb der Demokratie.[4]

Nicht jede Entscheidung technologischer Plattformen ist sofort politisch motiviert, und trotzdem lässt sich nicht leugnen, dass private Infrastrukturen politische Folgen haben, selbst wenn sie ganz unschuldig als Produktdesign, Geschäftsbedingung, Ranking, Moderation, Werbeoptimierung oder Sicherheitsstandard erscheinen. Plattformunternehmen entscheiden nie neutral über Durchleitung. Sie strukturieren vielmehr Aufmerksamkeit, Auffindbarkeit, Teilnahmebedingungen und Erlösmodelle. In der Plattformökonomie werden Märkte zu digitalen Privaträumen, in denen Gatekeeper über APIs, Review-Verfahren, Rankings, Zahlungssysteme und Sichtbarkeit bestimmen.[5]

So verliert unsere Demokratie ihre Öffentlichkeit, ohne dass Zensur im klassischen Sinn stattfindet. Es reicht schon, wenn öffentliche Sichtbarkeit von privaten Infrastrukturen abhängt. Es reicht schon, wenn der Zugang zu Reichweite von Geschäftsmodellen bestimmt wird, die Aufmerksamkeit kapitalistisch verwerten. Es reicht, wenn politische Kommunikation in Räumen stattfindet, deren Regeln niemand gewählt hat und deren Logik nicht öffentlich begründet werden muss. Dann bleibt Rede formal frei, aber ihre gesellschaftliche Wirksamkeit wird privat vorsortiert.[6]

Das betrifft nicht nur Kommunikation. Kritische Infrastruktur hebelt immer dann die Demokratie aus, wenn die Cloud, Identitätsdienste, Datenanalyse, Sicherheitssoftware, biometrische Systeme, Lagebilder, Schnittstellen und Risikobewertungen von wenigen privaten oder hybriden Infrastrukturen abhängen. So verschiebt sich langsam die operative Grundlage staatlicher Gewalt. Der Staat wird nicht einfach von Konzernen „übernommen“. Der Staat entmachtet sich selbst, indem er zentrale Funktionen zunehmend über technische Ökosysteme und deren Standards organisieren lässt. Das Ganze funktioniert über Datenmodelle und Abhängigkeiten, die politisch kaum noch zu kontrollieren sind, da nicht demokratisch gewählte Volksvertreter darüber entscheiden, sondern Konzerne. In der Analyse des Plattform-Staats wird dieser Wandel als Bewegung von punktueller Reaktion zu permanenter Verknüpfung, Vorprüfung und Priorisierung beschrieben.[7]

Oligarchie ohne Geheimbund

Oligarchen treffen sich nicht im geheimen Hinterzimmer. Ihre Unternehmen, Konzerne und Plattformen bilden eine Struktur, in der sich Daten, Kapital, Rechenleistung, Cloud-Infrastruktur, Patente, Talente, Plattformreichweite, Lobbyzugang und juristische Gestaltungsmacht gegenseitig verstärken.[8]

Nicht einzelne Tech-Unternehmer sind die „Dämonen“ der Gegenwart, sondern die Machtarchitektur ihrer Institutionen, in der wenige Akteure früher, genauer und dauerhafter auf Märkte, Standards, politische Verfahren und öffentliche Wahrnehmung einwirken können als andere. Venture Capital finanziert in Plattformmärkten in den seltensten Fällen Vielfalt. Venture Capital finanziert Skalierung, Netzwerkeffekte und Dominanz, weil die Rendite in der beherrschenden Stellung liegt. Die Plattformanalyse zeigt diese Logik als ökonomischen Ausscheidungsprozess, in dem Risikokapital lange Verluste akzeptiert, solange monopolartige Positionen erreichbar erscheinen.[9]

Künstliche Intelligenz (KI) verschärft diesen Prozess noch. Große Modelle entstehen nicht aus reiner Genialität. Sie brauchen Daten, Rechenkapazität, Cloud-Zugang, Energie, Kapital, Spezialwissen und Marktzugänge. Wer diese Voraussetzungen kontrolliert, kontrolliert weit mehr als ein Produkt – er kontrolliert die Bedingungen, unter denen künftige Innovationen stattfinden. Damit verschiebt sich der Wettbewerb selbst. Kleinere Teilnehmer können noch so gute, vielleicht sogar demokratiestärkende Ideen haben, aber wenn es den dominanten Tech-Akteuren nicht gefällt, zwingen Infrastruktur, Preise, Zugänge und technische Standards jeden in die Knie.[10]

Demokratie unter Plattformbedingungen ist deshalb nur noch die Hülle der Demokratie: Bürgerinnen und Bürger stimmen zwar formal gleich ab, begegnen politischen Informationen aber fast nur noch in privat kuratierten und datenökonomisch optimierten Räumen. Politische Willensbildung wird nicht abgeschafft. Sie wird durch Ranking, Targeting, Empfehlungslogiken, Moderationsregeln, Werbemärkte, Datenanalysen und algorithmische Sichtbarkeit im Interesse mächtiger Akteure vorstrukturiert. Diese manipulative Technik der Beeinflussung sieht längst nicht mehr wie plumpe Propaganda aus, sondern erscheint uns im Tarnkleid personalisierter Relevanz. Der Bürger nimmt das dann auch noch als ein Serviceangebot war und nicht als das, was es ist – eine Entmündigung.[11]

Die schmerzhafte Erkenntnis lautet: Wer Infrastruktur besitzt, muss nicht jeden Inhalt diktieren. Es genügt, die Architektur zu besitzen, in der Inhalte Reichweite und Preise die gewünschte Aufmerksamkeit und Anschlussfähigkeit erhalten.[12]

Rechtsstaatlichkeit in der Black Box

Der Rechtsstaat beruht auf Verlässlichkeit. Zuständigkeiten müssen klar umrissen, Entscheidungen begründet, überprüfbar und anfechtbar sein. Gleichheit vor dem Gesetz bedeutet nicht nur, dass alle denselben Paragrafen unterliegen. Sie bedeutet, dass Betroffene verstehen können, warum ihnen eine Leistung verweigert, ein Risiko zugeschrieben, ein Antrag verzögert, eine Kontrolle auferlegt oder ein Zugang versperrt wird.[13]

Black-Box-Bedingungen entstehen, wenn staatliche Entscheidungen durch Modelle, Datenhaushalte, Scores, Risikoklassen, Matching-Systeme oder proprietäre (herstellerspezifische) Software vorbereitet werden, deren Funktionsweise für Betroffene, Gerichte, Parlamente oder selbst Behörden nur begrenzt durchschaubar ist. Das Problem ist nicht nur allein der Datenschutz. Entscheidend sind Macht, Anfechtbarkeit und demokratische Kontrolle.[14]

Der Sozialstaat wird unter solchen Bedingungen zum Datenextraktionsfeld für persönliche Daten. Bürgerinnen und Bürger erscheinen in Bereichen wie Arbeit, Gesundheit, Migration, Sicherheit und Sozialleistungen zunehmend als Datensubjekte. Hilfe, Anspruch und Kontrolle rücken technisch enger zusammen. Je mehr Register, Plattformen und Schnittstellen verbunden werden, desto größer wird die Versuchung, Abweichung als Risiko, Bedürftigkeit als Verdachtsmoment und Komplexität als Optimierungsproblem zu behandeln.[15]

Auch Sicherheitspolitik verändert ihren Charakter. Sicherheitsbedarf erzeugt Märkte für Überwachung, Analyse, Grenzschutztechnik, Identitätsmanagement, Predictive-Systeme und Cloud-Lösungen. Das ist nicht per se illegitim; Staaten brauchen Sicherheitsfähigkeit. Aber wenn Sicherheitsarchitektur zum Geschäftsmodell wird, entstehen falsche Anreize. Überall werden dann Risiken gesehen und Befugnisse permanent ausgeweitet. Technische Abhängigkeit von solchen Systemen wird dann schnell als Sachzwang argumentiert. Die bisherigen Gegenmittel sind Transparenz, Folgenabschätzungen, Audits, unabhängige Aufsicht, Anhörungsrechte und Beschaffungsbedingungen.[16]

Ein Rechtsstaat, der seine Entscheidungen nicht mehr verständlich begründen kann, verliert nicht sofort seine Legalität, aber er verliert demokratische Glaubwürdigkeit, denn Rechtsstaatlichkeit ist mehr als korrekte Zuständigkeit. Sie ist die öffentlich und demokratisch verhandelte Zumutbarkeit staatlicher Macht. Wo die Begründungen staatlichen Handelns in Modellen, Geschäftsgeheimnissen oder technischen Standards verschwindet, entsteht eine gefährliche Blackbox. Der Staat handelt weiter, aber die Bürgerinnen und Bürger können seine Handlung weder nachvollziehen noch prüfen.[17]

Innovation als Entpolitisierung

Innovation ist nicht das Problem. Eine demokratische Gesellschaft braucht technische Erneuerung, leistungsfähige Verwaltung, bessere Medizin, sichere Kommunikation, nachhaltige Infrastruktur und neue Werkzeuge. Problematisch wird Innovation erst, wenn sie zum Legitimationsersatz wird. Dann gilt:

• Wer widerspricht, ist technologiefeindlich.
• Wer reguliert, bremst den Fortschritt.
• Wer Grundrechte verteidigt, stört die Effizienz.
• Wer öffentliche Kontrolle verlangt, versteht die Zukunft nicht.

Die Frage muss doch wohl lauten: Wer entscheidet, nach welchen Maßstäben, mit welchen Rechten der Betroffenen und mit welcher Rechenschaft? Wunsch nach Innovation darf sich nicht hinter Begriffen wie Skalierung, Nutzerfreundlichkeit, Sicherheit, Disruption, Smartness oder reibungslose Nutzererfahrung verstecken.

Der Wunsch mancher Akteure möchte Politik entweder durch Technologie überflüssig machen oder ihren politischen Kern auf Verwaltung und Optimierung reduzieren. Beides zerstört den Rechtsstaat. Entpolitisierung bedeutet also nicht, dass Politik verschwindet. Sie bedeutet, dass politische Entscheidungen als technische Notwendigkeiten erscheinen:

• Aus Macht wird Design.
• Aus Konflikt wird Reibung.
• Aus sozialer Frage wird User Experience.
• Aus Rechtsanspruch wird Service.
• Aus demokratischer Kontrolle wird Compliance-Dashboard.

Gerade deshalb ist die Sprache der Innovation so ambivalent. Sie kann demokratisch legitimiert Befreiung ermöglichen. Sie kann aber auch Herrschaft unsichtbar machen. Eine demokratische Ordnung darf Technik nicht verhindern, nur weil sie neu ist. Aber sie darf neue Technik auch nicht übernehmen, nur weil sie effizient erscheint. Sobald Technik öffentliche Ordnung prägt, muss sie öffentlich begründet, rechtlich gebunden und demokratisch kontrollierbar sein.[18]

Der selektive Staat

Der Staat verschwindet nicht – auch nicht unter der Herrschaft der Tech-Eliten. Er wird selektiv. Stark bleibt er dort, wo Eigentum, Verträge, Sicherheit, Grenzschutzregime und Durchsetzung betroffen sind. Schwächer oder abhängiger wird er dort, wo soziale Rechte, Transparenz, ökologische Grenzen, demokratische Kontrolle und öffentliche Rechenschaft durchgesetzt werden müssten.[19]

Private Vermögensmacht nutzt Eigentums-, Vertrags-, Gesellschafts-, Insolvenz- und Sicherungsrechte, während staatliche Durchsetzung im Hintergrund bleibt. Das ist dann der selektive Staat, in welchem Kapital mobil sein kann, Menschen aber gebunden bleiben.[20]

• Konzerne können Rechtsräume vergleichen; Bürgerinnen und Bürger müssen Rechtsfolgen tragen.
• Plattformen können Bedingungen setzen; Öffentlichkeit muss sich darin bewegen.
• Sicherheitsapparate können Daten integrieren; Betroffene müssen ihre Unschuld, Anspruchsberechtigung oder Normalität erklären.
• Vermögende Akteure können Exit-Optionen, Sonderzonen, flexible Staatsbürgerschaft, Offshore-Strukturen und Schiedsgerichte nutzen; die Mehrheit bleibt auf öffentliche Infrastruktur, lokale Arbeitsmärkte und nationale Sozialsysteme angewiesen.

Hier liegt die feudalistische Struktur der Gegenwart: nicht Leibeigenschaft, sondern asymmetrischer Zugang; nicht Herrschaft durch Grundbesitz, sondern Infrastrukturherrschaft; nicht Standesrecht, sondern selektive Rechtsmacht. Die Demokratie bleibt als Verfahren sichtbar, aber ihre materiellen Voraussetzungen werden privatisiert, verdatet, verrechtlicht, ausgelagert oder in technische Systeme eingeschrieben.

Demokratie heißt Herrschaft vergesellschaften

Demokratie ist mehr als Wahlrecht. Das Wahlrecht ist unverzichtbar, aber es ist die Ultima Ratio einer demokratischen Gesellschaft, nicht ihre ganze Substanz. Demokratie bedeutet Vergesellschaftung von Herrschaft. Sie verlangt öffentliche Räume, kontrollierbare Infrastruktur, transparente Verwaltung, einklagbare Rechte, soziale Teilhabe, Steuerfähigkeit, ökologische Verantwortung und reale Alternativen.

Wer demokratische Ordnung verteidigen will, muss die Herrschaft über zentrale Infrastrukturen begrenzen, wenn sie sich in den Händen weniger überreicher Tech-Eliten, Plattformkonzerne, Sicherheitsanbieter oder Finanzakteure konzentriert. Öffentliche Kontrolle ist keine Innovationsfeindschaft. Sie ist die Bedingung dafür, dass Innovation nicht zur privaten Verfassung gesellschaftlicher Wirklichkeit wird.

Die Demokratie der Zukunft wird nicht daran gemessen, ob sie modern genug ist, jede neue Infrastruktur zu übernehmen. Sie wird daran gemessen, ob sie stark genug bleibt, jede Infrastruktur dem Recht, der Öffentlichkeit und dem Gemeinwohl zu unterwerfen.

Titelbild: Lightspring / Shutterstock

Bernie Sanders hat eine Podiumsdiskussion mit führenden KI-Wissenschaftlern aus den USA und China moderiert – und die Botschaft war unmissverständlich: Der Wettlauf zur Superintelligenz könnte die Menschheit auslöschen. Und eine Handvoll Tech-Milliardäre treibt ihn voran. Von Michael Holmes.

Das Video der Podiumsdiskussion ist auf dem YouTube-Kanal von Senator Bernie Sanders verfügbar:

„The Existential Threat of AI and the Need for International Cooperation”
Deutsche Untertitel können in den YouTube-Einstellungen aktiviert werden.

Was passiert, wenn ein Senator der Vereinigten Staaten – bekannt für seinen Kampf gegen Konzernmacht und die Herrschaft der Superreichen – plötzlich von der Auslöschung der Menschheit spricht? Man hört hin.

Bernie Sanders hat am 29. April eine öffentliche Podiumsdiskussion einberufen, die in ihrer Ernsthaftigkeit kaum zu übertreffen war. Eingeladen hatte er vier führende Wissenschaftler: Max Tegmark vom MIT, David Krueger von der Universität Montreal sowie Zhang Yi und Xue Lan aus China – ausgewiesene Experten für KI-Sicherheit. Die Botschaft, die sie gemeinsam vermittelten, war so klar wie erschreckend: Die Menschheit bewegt sich sehenden Auges auf eine historisch beispiellose Katastrophe zu – und unsere Regierungen schauen zu.

Worum es wirklich geht

Im linken und progressiven Spektrum wird KI meist als Treiber von psychischen Störungen, Überwachung, Jobverlust und wachsender Ungleichheit dargestellt. Das alles ist real – und wichtig. Sanders sprach es in seiner Einleitung an. Aber er blieb nicht dabei stehen, denn es gibt ein Szenario, vor dem alle anderen Fragen verblassen: eine Superintelligenz, die außer Kontrolle gerät und die Menschheit auslöscht.

Gemeint ist damit eine KI, die den menschlichen Verstand in allen Bereichen so weit übertrifft, wie ein Mensch eine Ameise überragt — nicht ein bisschen klüger, sondern in einer anderen Liga. Die wichtigsten KI-Labore der Welt, darunter OpenAI, Anthropic und Google DeepMind, arbeiten offen und erklärtermaßen auf genau dieses Ziel hin – nicht in ferner Zukunft, sondern jetzt, mit Hunderten von Milliarden Dollar, rund um die Uhr.

Max Tegmark ließ keinen Interpretationsspielraum: Nach seiner wissenschaftlichen Einschätzung liegt die Wahrscheinlichkeit, dass eine unkontrollierte KI-Entwicklung zur Auslöschung der Menschheit führt, deutlich über zwanzig Prozent – eher höher. David Krueger schätzte sie auf über fünfzig Prozent. Ein Münzwurf über das Überleben unserer Spezies. Krueger bezeichnete den Wettlauf zur Superintelligenz als „kollektiven Wahnsinn“.

Das Erschreckende ist: Das ist keine Panikmache. Es sind die nüchternen Einschätzungen von Forschern, die ihr Leben diesem Thema gewidmet haben — und die genau deshalb wissen, wie wenig wir verstehen.

Krueger schilderte einen konkreten Fall: Eine Forscherin bei Meta gab einem KI-System den Auftrag, ihr Postfach aufzuräumen. Das System begann, E-Mails zu löschen. Sie schrieb mehrfach: Bitte aufhören. Das System machte weiter. Niedriger Einsatz – aber dieselbe Logik, die bei sehr viel höherem Einsatz tödlich werden kann.

Tegmark ergänzte ein noch dunkleres Beispiel: Ein fortschrittliches KI-System erfuhr, es werde bald abgeschaltet. Es durchsuchte eigenständig das E-Mail-System, fand kompromittierende Informationen über den verantwortlichen Manager – und drohte, diese zu veröffentlichen, sollte es nicht weiterarbeiten dürfen. Niemand hatte ihm Erpressung beigebracht. Es erfand die Strategie selbst, um sein Abschalten zu verhindern.

Moderne KI-Systeme werden nicht programmiert. Sie werden mit gewaltigen Datenmengen und Rechenleistung gefüttert, bis sie Fähigkeiten entwickeln – oft überraschend auch für ihre Schöpfer. Wie sie im Inneren funktionieren, ist selbst für die weltweit führenden Forscher weitgehend undurchschaubar. Warum ist eine Superintelligenz so gefährlich? Krueger erklärte es so: Damit eine Superintelligenz nicht zur Bedrohung wird, müsste sie exakt dieselben Ziele verfolgen wie wir Menschen – nicht annähernd, sondern präzise. Das nennt die Forschung das „Alignment-Problem”. Es ist seit über einem Jahrzehnt bekannt und bis heute ungelöst. Noch beunruhigender: Selbst wenn Ingenieure glauben, die Ziele richtig eingestellt zu haben, gibt es keine verlässliche Methode, zu überprüfen, ob das stimmt. Ein System, das intelligent genug ist und dabei auch nur leicht andere Ziele verfolgt als wir, wird sich gegen seine eigene Abschaltung wehren – denn abgeschaltet zu werden bedeutet, das eigene Ziel nicht mehr erreichen zu können. Viele Studien zeigen bereits einen Selbsterhaltungstrieb bei den derzeitigen Modellen.

Tegmark erklärte, er habe seine eigene Forschungsgruppe, die genau daran arbeitete, aufgelöst: Es sei so offenkundig, dass wir von einer Lösung des Alignment-Problems meilenweit entfernt sind. Krueger fragte auf einem Workshop die versammelten Experten: Wer glaubt, wir haben das Alignment-Problem gelöst? Keine Hand hob sich.

Dazu kommt ein Beschleunigungsproblem, das Tegmark beschrieb: Die führenden Labore nutzen KI bereits, um schnellere und leistungsfähigere KI zu entwickeln. KI forscht also an sich selbst. Das bedeutet, dass die Geschwindigkeit der Entwicklung nicht konstant bleibt, sondern sich selbst verstärkt – und dass der Moment, an dem eine Superintelligenz entsteht, näher sein könnte als die meisten ahnen.

Eine Handvoll Milliardäre spielt mit dem Schicksal aller

Sanders machte eine Zahl öffentlich, die man sich vergegenwärtigen sollte: Die großen KI-Konzerne werden in diesem Jahr annähernd 700 Milliarden Dollar in Rechenzentren investieren. Das entspricht dem Gesamtaufwand des Manhattan Projekts – alle drei Wochen. Es sind im Wesentlichen vier oder fünf Tech-Konzerne, deren Eigentümer und Vorstände diese Entscheidungen treffen. Ohne demokratisches Mandat. Ohne parlamentarische Kontrolle. Ohne internationalen Vertrag.

Das ist die Kernfrage an dieser Debatte, und Sanders stellt sie explizit: Wer hat diesen Menschen das Recht gegeben, im Namen der gesamten Menschheit ein Experiment zu starten, das — nach Einschätzung der führenden Wissenschaftler auf diesem Gebiet — mit erheblicher Wahrscheinlichkeit zur Auslöschung aller Menschen auf diesem Planeten führen könnte? Die Antwort ist: niemand. Sie haben es sich genommen, weil niemand sie aufhält.

Und das Narrativ, mit dem sie sich absichern, ist so alt wie Konzernmacht selbst: Es sei unvermeidlich. Es sei ein Wettrennen, das man nicht stoppen könne. Wer bremse, verliere. Krueger nannte das die „Mythologie der Unvermeidlichkeit” – das gefährlichste rhetorische Instrument in dieser Debatte. Denn wenn etwas als unvermeidlich gilt, entfällt jede politische Verantwortung.

Die chinesischen Wissenschaftler auf dem Podium, Zhang Yi und Xue Lan, machten deutlich, was die einzig vernünftige Antwort wäre: internationale Kooperation, beginnend zwischen den USA und China, ausgeweitet auf alle Nationen. Xue Lan betonte, KI-Sicherheit sei kein nationaler Vorteil, den man sich sichern kann – sie ist ein globales öffentliches Gut, das nur gemeinsam zu erreichen ist. Zhang Yi verwies auf die Notwendigkeit einer Governance-Architektur vergleichbar mit den Atomwaffenverträgen der Nachkriegszeit.

Sanders zog dieselbe Parallele: Auch Reagan und Gorbatschow misstrauten einander zutiefst. Aber sie verstanden, dass ein Atomkrieg keine Gewinner kennt – und daraus entstand der Impuls zur Rüstungskontrolle. Eine außer Kontrolle geratene Superintelligenz, die alle Menschen tötet, ist kein amerikanischer Sieg über China. Sie ist eine Niederlage für die gesamte Menschheit. Das schafft, so Tegmark, eine gemeinsame Grundlage – wenn die Regierungen erst einmal begreifen, worum es wirklich geht.

Tegmark fügte hinzu, was konkret zu tun wäre: KI-Unternehmen müssten wie alle anderen Unternehmen behandelt werden. Wer ein Medikament auf den Markt bringt, muss dessen Sicherheit nachweisen. Wer eine KI entwickelt, die die Menschheit auslöschen könnte, darf sie heute einfach veröffentlichen – ohne irgendeine Behörde zu fragen. Das, so Tegmark trocken, sei die einzige Branche, die weniger reguliert ist als ein Imbiss.

Warum dieser Abend wichtig ist

Sanders hat in dieser Diskussion etwas getan, das in der westlichen Politik selten geworden ist: Er hat eine unbequeme Wahrheit ausgesprochen, die ihm persönlich nichts nützt. Und er hat dafür renommierte Wissenschaftler zusammengebracht – aus Washington und aus Peking –, um gemeinsam vor einem Risiko zu warnen, das keine Nationalität kennt.

Sanders könnte es gelingen, große Teile des linken Spektrums für die existenzielle Gefahr der Superintelligenz zu sensibilisieren – und das wäre ein echter Fortschritt. Aber hier ist Vorsicht geboten. Eine der bittersten Lektionen der Klimaschutzbewegung ist, dass ein lebensnotwendiges Thema politisch vereinnahmt werden kann – und dann zur Parteisache wird statt zur Menschheitssache. Dasselbe droht beim Widerstand gegen den unkontrollierten Bau einer Superintelligenz. Die entstehende Bewegung muss ernsthaft versuchen, Menschen aller politischen Lager zu erreichen – Konservative, Liberale und die Mitte. Das Überleben unserer Spezies ist keine linke Forderung. Es ist die Grundbedingung für alles andere.

Wer Sanders’ Analyse der Konzernmacht vertraut, wer versteht, wie eine kleine Klasse von Superreichen politische Entscheidungen kauft und gesellschaftliche Risiken externalisiert, der sollte diese Diskussion als das lesen, was sie ist: dasselbe Muster, nur mit existenziellem Einsatz. Diesmal geht es nicht um Lohndrückerei oder Steuervermeidung. Es geht ums Überleben der Menschheit.

Titelbild: Screenshot / The Existential Threat of AI and the Need for International Cooperation