Der Papst warnt in seiner ersten Enzyklika vor existenziellen Risiken der Künstlichen Intelligenz für Individuen und Völker. In den Händen von Monopolen drohten „Entmenschlichung“ und „Kolonialismus“. Richtig und wichtig findet Ralf Lankau den Vorstoß und hofft auf neue Impulse in der Diskussion. Im Interview mit den NachDenkSeiten zeichnet der Pädagoge, Medienwissenschaftler und Buchautor ein düsteres Bild der Zukunft für den Fall, dass man Elon Musk, Peter Thiel und andere Techmogule weiter gewähren lässt. Zugleich ist er sicher: Widerstand ist möglich! Mit ihm sprach Ralf Wurzbacher.

Dieser Beitrag ist auch als Audio-Podcast verfügbar.

Ralf Lankau, Jahrgang 1961, ist Professor für Digitaldesign, Mediengestaltung und Medientheorie an der Hochschule Offenburg. Er leitet dort die grafik.werkstatt der Fakultät Medien, forscht zu Experimenteller Medienproduktion in Kunst, Lehre und Wissenschaft und publiziert zu Design, Kommunikationswissenschaft und (Medien-)Pädagogik. Er ist Mitinitiator des „Bündnis für humane Bildung“ und betreibt die Projekte „futur iii – Digitaltechnik zwischen Freiheitsversprechen und Totalüberwachung“ und „Die pädagogische Wende“. Dazu gab Lankau vor zwei Jahren im Beltz-Verlag das Buch „Die pädagogische Wende: Über die notwendige (Rück-)Besinnung auf das Unterrichten“ heraus.

Ralf Wurzbacher: Herr Lankau, das Oberhaupt der katholischen Kirche, Papst Leo XIV., warnt in seiner ersten Enzyklika eindringlich vor den Gefahren der Künstlichen Intelligenz für Mensch, Gesellschaft und Natur. Er bezieht Stellung gegen „Entmenschlichung“, einen „neuen Kolonialismus“ und dringt darauf, die KI zu „entwaffnen“. Hatten Sie mit dieser Schärfe und Tiefe an Kritik gerechnet?

Ralf Lankau: Nein. Es gab zwar schon sehr kritische Äußerungen von Papst Franziskus, und Papst Leo XIV. bezeichnete bereits am zweiten Tag seines Pontifikats KI als eine der „größten Herausforderungen für den Schutz der Menschenwürde und der Gerechtigkeit der Arbeit“ (Papst Leo XIV, 2025). Aber ich bin von dieser Enzyklika positiv überrascht, weil sie so klar formuliert, dass diese Technik in der Hand kleiner Eliten maximalen Schaden für den einzelnen Menschen wie die sozialen Gemeinschaften anrichten kann.

Ein Zitat des Papstes lautet: „Kein noch so ausgeklügeltes Computersystem erschafft ein Herz, das sich hingibt, oder ein Gewissen, das das Gute erkennt.“ Für Peter Thiel, milliardenschwerer KI-Investor und Gründer des US-Unternehmens Palantir, das Überwachungssoftware für Polizei und Militärs entwickelt, sind das ungebührende Einmischungen. Wer die Technologie zügele, bereite dem Antichristen den Weg, bemerkte er unlängst. Wer von den beiden hat mehr zu melden?

Papst Leo XIV. spricht als Oberhaupt der katholischen Kirche für 1,4 Milliarden Menschen weltweit. Er repräsentiert und prägt die ethischen und moralischen Werte der christlichen Weltgemeinschaft, die seit 2000 Jahren unsere Kultur repräsentiert. Gemeinsam ist allen monotheistischen Religionen, zumindest in Demokratien, dass sie die Trennung von Staat und Glaubensgemeinschaft akzeptieren und versuchen, ein friedliches, interreligiöses Miteinander zu ermöglichen, die Ökumene. Religiöse Gemeinschaften sind Wertegemeinschaften. Und mit seiner Enzyklika zeigt Papst Leo XIV. sehr klar, dass es ihm um Würde und Gerechtigkeit geht.

Thiel hingegen ist der Repräsentant einer kleinen Clique von US-Milliardären, die aufgrund der seit den 1990er-Jahren fehlenden Regulierung der IT- und KI-Anwendungen rücksichtslos nur eigene Geschäftsinteressen vertreten und sich immer weiter bereichern. Elon Musk wird vermutlich der erste Billionär, was den Wahnsinn der Datenökonomie verdeutlicht. Thiel kümmert sich weder um Menschenwürde noch um Rechtssysteme. Es geht ihm ausschließlich um Partikularinteressen der Techkonzerne. Als Mitgründer von Palantir und Risikokapitalgeber argumentiert er für einen komplett unregulierten Techsektor und missbraucht dafür religiöse Symboliken wie den Antichristen oder religiöse Endzeitvisionen. Aber solchen Techmogulen gehören die wichtigsten digitalen, vor allem die sozial nur genannten Medien, und sie bestimmen daher, was Menschen in den Onlinekanälen sehen und hören.

Womit sie selbst eine neue Art Religion erschaffen haben?

Ja. Es ist eine perfide Mischung aus Fortschritts- und Technikgläubigkeit als eine Form von Ersatzreligion. Man muss das als zwei Strategien des Spätkapitalismus sehen: die vermeintliche Individualisierung und Ich-Bezogenheit auf der einen, der Verlust der Gemeinschaft von Familie, Nachbarschaft, Gemeinde auf der anderen Seite. Das Verbindende und Hoffnungspendende religiöser Gemeinschaften geht in säkularisierten Gesellschaften verloren. Diese Leerstelle sollen mit dem „Solutionism“ – englisch für Lösungskonzepte – technische Systeme für alle Probleme füllen, bis hin zur Unsterblichkeit durch den Transfer des Bewusstseins ins Netz. Das ist die „Wiedergeburt auf digitalisch“, absurd, aber ein Geschäftsmodell.

Kann ausgerechnet der Papst dem etwas entgegensetzen?

Leo XIV. referiert über die schon heute bekannten Folgen für Kinder, Jugendliche und übrigens auch Erwachsene durch netzbasierte Bildschirmmedien. Weltweit wird über die zwingend notwendige Regulierung von KI diskutiert. Die zugrunde liegenden Techniken haben ein ähnlich mächtiges Potenzial wie die Kernspaltung. Norbert Wiener, Vordenker und Namensgeber der Kybernetik, warnte schon 1947 im Vorwort zu seinem Buch „Kybernetik“: „Wir haben nicht einmal die Möglichkeit, diese neuen technischen Entwicklungen zu unterdrücken. Sie gehören zu diesem Zeitalter, und das Höchste, was irgend jemand von uns tun kann, ist, zu verhindern, dass die Entwicklung des Gebietes in die Hände der verantwortungslosesten und käuflichsten unserer Techniker gelegt wird.“

Genau das ist passiert …

Leider ja. Diese verantwortungslosesten und käuflichsten Techniker und ihre Partner lassen sich heute von A – Sam Altman, Open AI – bis Z – Marc Zuckerberg, Meta – durchbuchstabieren. Seit November 2022 werden Tools und Bots der generativen KI wie ChatGPT, Claude, Gemini oder X-AI ohne Rücksicht auf die Folgen für die Öffentlichkeit und die Menschen verbreitet. „The business of business is business“, heißt es bei den Neoliberalen. Investoren wie Marc Andreessen und Peter Thiel verdienen prächtig damit, aber die demokratischen Staaten kämpfen mit den Folgen und sind, aus Angst vor den Techkonzernen und Donald Trump, erschreckend zögerlich bei der Regulierung. Dabei wäre es Aufgabe des Gesetzgebers, die Rahmenbedingungen für den Einsatz von Technik festzulegen. Im Bundestag gibt es dafür sogar einen eigenen Ausschuss zur Technikfolgenabschätzung.

Von dem aber nichts zu hören ist. Etwa zu der fundamentalen Frage, was aus der Erwerbsarbeit wird, wenn KI sukzessive menschliche Fertigkeiten und Tätigkeiten übernimmt.

Nein. Das ist unverantwortlich, zumal über die Folgen von KI für den Arbeitsmarkt oder Sozialsysteme wie Gesundheit, Bildung oder den sozialen Zusammenhalt demokratischer Gesellschaften schon länger diskutiert wird. Ich erinnere nur an die 2017 von rund 100 US-Wissenschaftlern formulierten 23 KI-Leitsätze von Asilomar. Wobei auch diese Grundsätze der typischen Ideologie des Technikdeterminismus und Utilitarismus folgen, die vom Glauben an Fortschritt und Machbarkeit geprägt sind.

Die Vereinigung Deutscher Wissenschaft hat die Asilomar-Leitlinien 2018 in einer Stellungnahme deshalb auch als nicht weitreichend genug kritisiert. Statt aber diese Diskussion aufzugreifen und für generative KI zu aktualisieren, dominieren die Digitalenthusiasten, geblendet von den Milliardeninvestitionen, während die Realisten auf den KI-Crash warten, weil weder die Large Language Models (LLM) noch die notwendigen, immer größer werdenden Rechenzentren mit ihrem immensen Strom- und Wasserbedarf zukunftsfähig sind. Die Blase wird implodieren wie beim Internethype im Jahr 2000 oder beim Bankencrash 2008.

Beklemmend sind zwei weitere Perspektiven: Sofern die KI den Menschen nicht gleich auslöscht, was Experten inzwischen ernsthaft in Betracht ziehen, treibt die Technik eine radikale Entmenschlichung voran, indem sie auf die Kontrolle unserer Köpfe und Körper zielt.

Dass Maschinen die Weltherrschaft anstreben könnten, gehört zu den albernen Visionen und Stereotypen, um Menschen Angst zu machen. Das ist und bleibt Science-Fiction. Maschinen haben kein Bewusstsein, keinen Willen, keine Absichten. Angst muss man daher nicht vor Maschinen haben, sondern vor den Menschen, die sie entwickeln und sie zu eigenen Zwecken einsetzen. Ich denke dabei etwa an Drohnen, die in der Ukraine und in Gaza eingesetzt werden. Damit kann man schon heute Personen per Gesichtserkennung oder Irisscan identifizieren und liquidieren.

Die Frage ist daher, warum diese Fantastereien immer wieder aufgekocht werden. Es sind Ablenkungsstrategien, um zu kaschieren, was bereits alles mit KI-gesteuerten Geräten gemacht werden kann und gemacht wird. Dieses automatisierte Töten ohne Eingriff eines Menschen ist einer der Gründe, warum der neue Papst wie schon sein Vorgänger Franziskus bei KI interveniert. Techfirmen blenden ethische Fragen entweder aus oder werden für richtige Entscheidungen sanktioniert.

Anthropic aus den USA hat für sein KI-Modell Claude festgelegt, dass es weder US-Bürger überwachen noch als System für Drohnen autonom töten darf. Daraufhin wurde das Unternehmen vom Pentagon zum nationalen Sicherheitsrisiko erklärt und von staatlichen Aufträgen abgeschnitten. Amazon, Google, Microsoft, Nvidia, Open AI und weitere AI-Konzerne haben die Vereinbarungen mit dem Pentagon unterschrieben. Das Geschäft geht vor.

Was steht auf dem Spiel?

Es geht um die Frage, ob es gelingt, IT und KI als Werkzeuge zugunsten einer humanen und demokratischen Gesellschaft einzusetzen, oder ob ein paar Oligarchen sie weiterhin dafür missbrauchen, ihre eigene Vorherrschaft zu festigen. Wenn es nach Investoren wie Marc Andreessen geht, werden wir alle, vom Kleinkind bis zum Senior, immer eine digitale Nanny dabei haben, die uns sagt, was wir tun sollen. Das gruselige Manifest dazu heißt „Why AI will save the world“, also „Warum KI die Welt retten wird“.

Dabei ist schon jetzt durch zahlreiche Studien belegt, dass die Lernleistungen in Schulen seit Jahren kontinuierlich schlechter werden. Der Neurowissenschaftler Jared Cooney Horvath von der Universität Melbourne hat im Januar 2026 in einer schriftlichen Stellungnahme vor dem US-Senatsausschuss für Handel, Wissenschaft und Verkehr dargelegt, dass die Generation Z trotz ihres beispiellosen Zugangs zu Technologie kognitiv weniger leistungsfähig ist als frühere Generationen. Diese Generation ist demnach die erste in der modernen Geschichte, die in standardisierten Tests schlechter abschneidet als vorherige Generationen.

Horvath lehnt Technologie nicht per se ab. Er will allerdings Bildungsinstrumente an die tatsächlichen Lernprozesse des Menschen anpassen statt umgekehrt das Lernen an die digitalen Prozesse. Diese Fehlentwicklung hat auch schon die UNESCO in ihrem „2023 Global Education Monitor“ beklagt. Nicht das Lernen und der pädagogische Nutzen stünden im Mittelpunkt, sondern wirtschaftliche Interessen der IT-Anbieter und Aspekte der Datenökonomie.

Haben Sie den Eindruck, dass das den politischen und wirtschaftlichen Eliten in Deutschland wenigstens dämmert?

Nein. Die politisch Verantwortlichen haben von den IT-Lobbyisten jahrelang gehört, Deutschland hinke bei IT und KI hinterher und müsse die digitale Transformation möglichst schnell vorantreiben. Das ist aus Sicht der Techmonopole logisch. Dadurch wird die Infrastruktur für den digitalen Faschismus aufgebaut, den Rainer Mühlhoff in seinem Buch „Künstliche Intelligenz und der neue Faschismus – Wie Tech-Milliardäre Macht und Zukunft formen“ treffend beschreibt). Ob man den technologischen Autoritarismus nun digitalen Faschismus, Despotismus oder Feudalismus nennt, ist eigentlich egal. So oder so werden wir im Netz der Datenkraken gefangen gehalten.

Wenn Mensch dabei ist, immer mehr zu verblöden: Wo soll das hinführen? Auch Blöde haben irgendwann Hunger, aber ohne Lohnarbeit gibt es kein Essen. Ahnen diese Technofaschisten gar nicht, in welchen Mist sie die Menschheit und den Planeten reiten?

Doch, sie wissen sehr genau, was passieren wird: Die sozialen Spannungen steigen bis zum Bürgerkrieg, die Ressourcen der Erde werden von wenigen Oligarchen gnadenlos ausgebeutet. Und die Menschen kämpfen um die wenigen verbliebenen Ressourcen wie Wasser und Nahrung, statt sich gegen die Potentaten zu wehren. Und das Schlimme ist: Die wollen es genau so. Das Ziel ist ein autokratischer Staat mit wenigen Techfürsten an der Spitze, drumherum ein Kokon an Loyalisten und Speichelleckern plus Armee und Polizei.

Nachzulesen ist das alles in den Papieren der Heritage Foundation zum „Project 2025“, aktualisiert zum „Project 2026“. Der „Rest“ der Bevölkerung dient als Arbeitssklaven und wird ansonsten per Streaming und sogenannten sozialen Diensten als Konsumäffchen an diversen Bildschirmen ruhiggestellt. Als Science-Fiction kennt man das schon, etwa im Film „Elysium“ von Neill Blomkamp. Wenige Reiche leben im Luxus auf dem Raumschiff, während die Bevölkerung auf der zerstörten Erde ums Überleben kämpft und von Armee und Polizei kontrolliert wird.

Wäre das dann eine Mixtur aus Aldous Huxleys „Brave New World“ und George Orwells „1984“?

Das Konzept nennt sich Elitismus, ist aber nur eine Variante der Oligarchie, zu der die USA verkommen sind. Es ist eine Mischung aus Ausbeutung, reiner Gier, allerdings mit bisher unbekannten Mengen an Geld und Einfluss in Privathänden. Wie Kraken haben sich die Techkonzerne in alle Gesellschaftsbereiche hineingefressen und steuern die Kommunikation und den Konsum. Selbst die US-Armee funktioniert nicht mehr ohne die Software Palantir von Alex Karp und Mitgründer Peter Thiel.

Die ICE-Behörde arbeitet mit der Software Gotham, ebenfalls von Palantir, um Migranten zu verhaften und ohne Prozess abzuschieben, Menschen, die zwar arbeiten und Steuern zahlen, aber keine Aufenthaltsgenehmigung haben. Die Daten für ICE hat Elon Musk in seinen vier Wochen im Weißen Haus abgegriffen. Es geht um solitäre Macht weniger Techmonarchen, die sich die Welt nach ihren psychotischen und rassistischen Vorstellungen weißer, männlicher Vorherrschaft gestalten. Auch das lässt sich nachlesen, im Manifest von Alex Karp: „The Technological Republic“.

Elon Musk will die Menschheit mit einem humanoiden Roboter namens Optimus beglücken, der uns in Zukunft in Milliardenzahl zur Hand gehen und ein „universell hohes Einkommen“ garantieren soll. Ist es nicht schlicht das viele Geld, dass diesen Techmogulen die Sinne vernebelt?

Nicht nur das Geld, auch der fehlende Widerspruch und Widerstand sowohl der Politik wie der Gesellschaft. Elon Musk ist ja das Paradebeispiel eines drogengesteuerten Psychopathen, der nicht nur größenwahnsinnige Projekte initiiert, die früher oder später scheitern. Er verfolgt sogar eugenische Projekte, indem er Frauen dafür bezahlt, für ihn Kinder auszutragen. Selbst der Mensch ist für ihn nur ein Produkt, das man durch künstliche Befruchtung und Genkontrolle nach den eigenen Vorstellungen herstellen kann. Thiel und ein Sohn von Trump sponsern die „Enhanced Games“, Menschenversuche mit kontrolliertem Doping, um die Leistungsgrenzen des Körpers auszutesten.

Es ist letztlich der Wahn, den Menschen, ganze Gesellschaften und die Welt durch Technik nach eigenen Vorstellungen zu formen. Das ist das Prinzip der kybernetischen Steuerung als Hybris, Perversion und gelebte Psychose. Karp, Thiel, Musk und ein paar andere halten sich für die Weltherrscher und kapieren gar nicht, dass sie lediglich die westlichen Demokratien zerstören und so den Raum schaffen für eine Übergangsphase der Ochlokratie, also der Herrschaft des Pöbels. Zu bestaunen in den USA mit Donald Trump und J. D. Vance als Marionetten der Techmonarchen an der vermeintlichen Spitze des Staates, bevor das System in einem technologischen Totalitarismus mündet. Technik ist nur das Mittel und die Infrastruktur, es geht um Macht und Herrschaft.

Ergo müsste zuerst der Kapitalismus überwunden werden, um den Wahnsinn zu überwinden?

Wenn man das, was derzeit in den USA zu beobachten ist, noch Kapitalismus nennen will, ja. Es ist ja eher eine marktradikale Version neoliberaler, libertärer Monopolisierung von Infrastruktur und Diensten, die nur dem Eigennutz weniger Narzissten und Psychos dient. Das schließt den Kreis zur Enzyklika des Papstes, der einfordert, dass Technik und Wirtschaft dem Gemeinwohl und der Humanität dienen müssen und kein Selbstzweck im Dienst kleiner Eliten sein dürfen. Und das Wichtigste dabei ist: Man kann sich wehren.

Wie?

In Deutschland muss man dazu nur das Grundgesetz lesen – und umsetzen. In Artikel 14 heißt es: „Eigentum verpflichtet. Sein Gebrauch soll zugleich dem Wohle der Allgemeinheit dienen“, und laut Absatz 3 ist eine Enteignung „zum Wohle der Allgemeinheit zulässig“. Die Bundes- und Landesregierungen haben die Pflicht, den Einsatz von Wirtschaftsmacht und Technologien wie der KI zugunsten des Gemeinwohls zu steuern, zu reglementieren und notfalls Unternehmen zu vergesellschaften und/oder zu zerschlagen beziehungsweise Dienste, die sich gegen Demokratie und Gemeinwohl richten, in Europa zu verbieten.

So, wie wir in der Politik wieder eine wehrhafte Demokratie werden müssen, müssen wir in der Wirtschaft wieder eine soziale und humane Wirtschaft werden, die nicht nur auf Shareholder Value und Rendite schielt, sondern auf soziale Verantwortung, Gemeinschaft und Gemeinwohl ausgerichtet ist. Dass Papst Leo XIV. seine erste Lehrschrift diesem Thema widmet, zeigt nur, wie weit wir uns durch Fortschrittsglauben und Technikfixierung von einer humanen und sozialen Gemeinschaft entfernt haben.

Vielen Dank für das Gespräch.

Titelbild: CineVI/shutterstock.com

Der moderne Krieg beginnt nicht erst mit Raketen, Panzern oder Soldatenbewegungen. Natürlich wurden auch frühere Kriege von Propaganda, psychologischer Einflussnahme und medialer Mobilisierung begleitet. Staaten versuchten schon immer, öffentliche Meinung zu formen, Feindbilder aufzubauen und Zustimmung für politische oder militärische Entscheidungen zu erzeugen. Doch mit sozialen Plattformen, digitalen Datenräumen und künstlicher Intelligenz verändern sich Reichweite, Geschwindigkeit und Präzision dieser Einflussnahme in einem Ausmaß, das frühere Formen psychologischer Kriegsführung deutlich übertrifft. Von Günther Burbach.

Dieser Beitrag ist auch als Audio-Podcast verfügbar.

Heute beginnt der Kampf um Deutungshoheit wesentlich früher, in Nachrichtenfeeds, Kommentarspalten, Videoplattformen und sozialen Netzwerken. Dort entscheidet sich zunehmend, was Menschen für wahr halten, wem sie vertrauen, wovor sie Angst haben und welche politischen Maßnahmen sie akzeptieren. Genau an dieser Front verändert künstliche Intelligenz derzeit die Spielregeln mit einer Geschwindigkeit, die viele gesellschaftliche Debatten längst überholt hat.

Noch vor wenigen Jahren bestand digitale Einflussnahme vor allem aus klassischen Bots, gefälschten Profilen oder koordinierten Kampagnen. Inzwischen entsteht jedoch eine neue Qualität. Moderne KI-Systeme können Texte, Bilder, Stimmen und Videos in riesigen Mengen erzeugen, anpassen und emotional optimieren. Sie analysieren Reaktionen in Echtzeit, erkennen Stimmungen und passen Inhalte dynamisch an Zielgruppen an. Damit entsteht eine Form algorithmischer Einflussnahme, die nicht mehr nur Informationen verbreitet, sondern Wahrnehmung aktiv modelliert.

Soziale Netzwerke als digitale Schlachtfelder

Besonders deutlich wurde diese Entwicklung zuletzt im Umfeld internationaler Konflikte. Ob Ukrainekrieg, Nahost oder geopolitische Spannungen zwischen den Großmächten, soziale Netzwerke verwandeln sich zunehmend in digitale Schlachtfelder. Videos werden millionenfach verbreitet, Bilder emotional aufgeladen, Narrative innerhalb weniger Stunden global verstärkt. Oft ist kaum noch nachvollziehbar, woher Inhalte ursprünglich stammen oder ob sie authentisch sind. Genau hier beginnt das eigentliche Problem.

Denn künstliche Intelligenz macht Desinformation nicht nur schneller, sondern glaubwürdiger. Stimmen können täuschend echt imitiert werden, Gesichter perfekt synthetisch erzeugt, Szenen vollständig künstlich generiert werden. Was früher aufwendig war, lässt sich heute innerhalb weniger Minuten produzieren. Gleichzeitig verschwimmen die Grenzen zwischen echter Berichterstattung, Propaganda, Aktivismus und algorithmisch erzeugter Stimmungsmache noch stärker als in der klassischen Medienlandschaft vergangener Jahrzehnte.

Hinzu kommt ein Faktor, der politisch bislang erstaunlich wenig diskutiert wird: KI-Systeme lernen, welche Inhalte besonders starke emotionale Reaktionen auslösen. Angst, Wut, Empörung und moralische Zuspitzung erzeugen Aufmerksamkeit, und Aufmerksamkeit ist die eigentliche Währung digitaler Plattformen. Dadurch entsteht ein Mechanismus, der gesellschaftliche Spannungen systematisch verstärken kann.

Die eigentliche Gefahr liegt dabei weniger in einzelnen Falschmeldungen als in der dauerhaften Veränderung öffentlicher Wahrnehmung. Wenn Menschen permanent mit emotionalisierten, algorithmisch optimierten Inhalten konfrontiert werden, verändert sich schrittweise die Art, wie politische Realität wahrgenommen wird. Komplexe Zusammenhänge werden auf Schlagworte reduziert, Gegner moralisch entwertet, Unsicherheit in Feindbilder übersetzt.

Neue Formen der Propaganda

Damit entsteht eine Entwicklung, die weit über klassische Propaganda hinausgeht. Früher versuchten Staaten oder Medien, bestimmte Narrative zu verbreiten. Heute übernehmen zunehmend automatisierte Systeme die Verstärkung, Anpassung und Verteilung dieser Narrative. Nicht mehr einzelne Redaktionen oder politische Akteure steuern die Dynamik allein, sondern Plattformalgorithmen und KI-Modelle, deren Funktionsweise für die Öffentlichkeit kaum nachvollziehbar ist.

Besonders problematisch wird diese Entwicklung in Krisenzeiten. Denn Kriege, geopolitische Spannungen oder wirtschaftliche Unsicherheiten erzeugen hohe emotionale Anfälligkeit. Genau in solchen Situationen wirken algorithmisch verstärkte Inhalte besonders stark. Die Grenze zwischen Information und psychologischer Einflussnahme beginnt noch stärker zu verschwimmen, als es ohnehin schon immer der Fall war.

Dabei geht es längst nicht nur um ausländische Akteure oder klassische Geheimdienstoperationen. Auch westliche Staaten investieren zunehmend in digitale Einflussstrukturen, strategische Kommunikation und KI-gestützte Informationssysteme. Gleichzeitig entwickeln private Konzerne immer leistungsfähigere Werkzeuge zur Analyse und Steuerung öffentlicher Aufmerksamkeit. Die Kombination aus staatlichen Interessen, privater Plattformlogik und künstlicher Intelligenz schafft damit ein System, dessen gesellschaftliche Folgen bislang kaum abschätzbar sind.

Besonders brisant ist dabei die Rolle der sozialen Plattformen selbst. Ihre Algorithmen sind nicht darauf ausgelegt, Wahrheit zu fördern, sondern Aufmerksamkeit zu maximieren. Inhalte, die starke Emotionen auslösen, werden bevorzugt verbreitet. Das führt dazu, dass extreme Positionen, moralische Empörung und zugespitzte Narrative oft größere Reichweiten erzielen als differenzierte Analysen. KI verschärft diese Dynamik zusätzlich, weil sie in der Lage ist, solche Inhalte automatisiert und massenhaft zu erzeugen.

Damit verändert sich nicht nur die Geschwindigkeit öffentlicher Debatten, sondern auch ihre Struktur. Gesellschaftliche Diskussionen werden fragmentierter, emotionaler und manipulationsanfälliger. Menschen bewegen sich zunehmend in digitalen Informationsräumen, die algorithmisch auf ihre Ängste, Überzeugungen und Vorlieben zugeschnitten sind. Was der eine als offensichtliche Wahrheit empfindet, hält der andere bereits für gezielte Propaganda. Eine gemeinsame Realität beginnt zu zerfallen.

Überforderung durch Informationsmassen

Hinzu kommt ein weiterer Effekt: die permanente Überforderung durch Informationsmassen. Täglich strömen unzählige Videos, Kommentare, Analysen und Eilmeldungen auf die Menschen ein. KI-Systeme verstärken diese Flut zusätzlich. Dadurch entsteht ein Zustand dauerhafter Reizüberlastung, in dem viele irgendwann nicht mehr unterscheiden können, was relevant, glaubwürdig oder manipulativ ist. Genau diese Erschöpfung wird selbst zu einem politischen Faktor.

Denn wer nicht mehr weiß, wem er glauben soll, zieht sich entweder zurück oder klammert sich umso stärker an einfache Erklärungen und eindeutige Feindbilder. Beides destabilisiert demokratische Gesellschaften. Der öffentliche Raum verwandelt sich zunehmend in ein emotional aufgeladenes Dauergefecht, in dem nüchterne Debatten immer schwerer durchdringen.

Besonders deutlich zeigt sich das bereits bei jüngeren Generationen. Für viele Menschen unter 30 sind soziale Plattformen längst wichtiger als klassische Medien. Informationen werden nicht mehr primär über Zeitungen oder Nachrichtensendungen aufgenommen, sondern über kurze Clips, emotionalisierte Bilder und algorithmisch kuratierte Feeds. Die Grenze zwischen Unterhaltung, Aktivismus, Propaganda und Nachricht verschwimmt dabei noch stärker als in der klassischen Medienlandschaft.

Gerade deshalb entwickelt sich künstliche Intelligenz zu einem geopolitischen Machtinstrument. Staaten erkennen zunehmend, dass moderne Konflikte noch stärker als frühere Kriege auch jenseits der eigentlichen Schlachtfelder entschieden werden. Wer Wahrnehmung beeinflussen kann, beeinflusst auch politische Zustimmung, gesellschaftliche Stabilität und letztlich die Handlungsfähigkeit ganzer Staaten.

Das gilt insbesondere in Krisenzeiten. Wirtschaftliche Unsicherheit, Kriegsängste, Migration, soziale Spannungen oder Energiekrisen erzeugen emotionale Verwundbarkeit. KI-gestützte Informationssysteme können genau diese Schwächen analysieren und gezielt bespielen. Narrative werden nicht mehr einfach verbreitet, sie werden optimiert. Die Systeme lernen, welche Bilder Angst erzeugen, welche Formulierungen Wut verstärken und welche Botschaften gesellschaftliche Gruppen gegeneinander aufbringen.

Die eigentliche Macht dieser Technologie liegt deshalb nicht allein in einzelnen Fälschungen oder manipulierten Videos. Sie liegt in der Fähigkeit, öffentliche Stimmung permanent zu beeinflussen, Debattenräume zu verschieben und Wahrnehmung langfristig zu formen. Genau darin unterscheidet sich die neue digitale Einflussnahme von klassischer Propaganda vergangener Jahrzehnte.

Technologische Entwicklung ist schneller als politische Kontrolle

Hinzu kommt, dass die technologische Entwicklung schneller voranschreitet als politische Kontrolle. Während immer leistungsfähigere KI-Systeme entstehen, wirken Regulierung und gesellschaftliche Debatten oft erstaunlich langsam. Viele politische Entscheidungen fallen erst dann, wenn sich Technologien bereits tief in den Alltag integriert haben. Gleichzeitig verfügen große Plattformkonzerne über Datenmengen und technische Möglichkeiten, die selbst staatliche Institutionen teilweise übertreffen.

Dadurch entsteht ein Machtgefüge, das zunehmend schwer durchschaubar wird. Staaten, Konzerne, Plattformen, KI-Modelle und globale Datenströme greifen ineinander. Für die Öffentlichkeit wird immer unklarer, wo Einflussnahme beginnt, wer welche Interessen verfolgt und wie stark Wahrnehmung bereits algorithmisch gesteuert wird.

Noch nie standen so viele Informationen zur Verfügung wie heute, und gleichzeitig war vermutlich die Unsicherheit darüber, was eigentlich noch real ist, selten größer. Genau darin liegt die eigentliche Sprengkraft dieser Entwicklung.

Der Krieg der Zukunft könnte deshalb nicht zuerst um Territorien geführt werden, sondern um Wahrnehmung, in einem erheblich massiveren und technologisch präziseren Umfang als jemals zuvor. Nicht die Kontrolle einzelner Regionen wäre dann entscheidend, sondern die Fähigkeit, Realität für Millionen Menschen interpretierbar zu machen. Und genau dieser Kampf hat längst begonnen.

Titelbild: Accogliente Design / shutterstock.com

Quellen:

NATO StratCom COE – „Social Media Manipulation for Sale: 2025 Experiment on Platform Capabilities to Detect and Counter Inauthentic Social Media Engagement“
Reale Untersuchung der NATO-Strategieeinheit zu gekaufter Social-Media-Manipulation, Bots und künstlicher Reichweitenverstärkung.
https://stratcomcoe.org/publications/social-media-manipulation-for-sale-2025-experiment-on-platform-capabilities-to-detect-and-counter-inauthentic-social-media-engagement/338

Arxiv – „How cyborg propaganda reshapes collective action“ (2026)
Wissenschaftliche Arbeit über hybride Mensch-KI-Propaganda („Cyborg Propaganda“) und algorithmisch gesteuerte Meinungsbildung.
https://arxiv.org/abs/2602.13088

NATO StratCom COE – „Virtual Manipulation Brief 2025“
Analyse moderner Informationsoperationen, KI-Manipulation und digitaler Einflussnahme.
https://stratcomcoe.org/publications/generative-ai-and-its-implications-for-social-media-analysis/286

Nature Scientific Reports – Auswirkungen generativer KI auf soziale Medien und öffentliche Diskussionen
https://www.nature.com/articles/s41598-026-40110-8

Wired – Recherche über politische Einflusskampagnen rund um KI, China und Tech-Konzerne
https://www.wired.com/story/super-pac-backed-by-openai-and-palantir-is-paying-tiktok-influencers-to-fear-monger-about-china

Bernie Sanders hat eine Podiumsdiskussion mit führenden KI-Wissenschaftlern aus den USA und China moderiert – und die Botschaft war unmissverständlich: Der Wettlauf zur Superintelligenz könnte die Menschheit auslöschen. Und eine Handvoll Tech-Milliardäre treibt ihn voran. Von Michael Holmes.

Das Video der Podiumsdiskussion ist auf dem YouTube-Kanal von Senator Bernie Sanders verfügbar:

„The Existential Threat of AI and the Need for International Cooperation”
Deutsche Untertitel können in den YouTube-Einstellungen aktiviert werden.

Was passiert, wenn ein Senator der Vereinigten Staaten – bekannt für seinen Kampf gegen Konzernmacht und die Herrschaft der Superreichen – plötzlich von der Auslöschung der Menschheit spricht? Man hört hin.

Bernie Sanders hat am 29. April eine öffentliche Podiumsdiskussion einberufen, die in ihrer Ernsthaftigkeit kaum zu übertreffen war. Eingeladen hatte er vier führende Wissenschaftler: Max Tegmark vom MIT, David Krueger von der Universität Montreal sowie Zhang Yi und Xue Lan aus China – ausgewiesene Experten für KI-Sicherheit. Die Botschaft, die sie gemeinsam vermittelten, war so klar wie erschreckend: Die Menschheit bewegt sich sehenden Auges auf eine historisch beispiellose Katastrophe zu – und unsere Regierungen schauen zu.

Worum es wirklich geht

Im linken und progressiven Spektrum wird KI meist als Treiber von psychischen Störungen, Überwachung, Jobverlust und wachsender Ungleichheit dargestellt. Das alles ist real – und wichtig. Sanders sprach es in seiner Einleitung an. Aber er blieb nicht dabei stehen, denn es gibt ein Szenario, vor dem alle anderen Fragen verblassen: eine Superintelligenz, die außer Kontrolle gerät und die Menschheit auslöscht.

Gemeint ist damit eine KI, die den menschlichen Verstand in allen Bereichen so weit übertrifft, wie ein Mensch eine Ameise überragt — nicht ein bisschen klüger, sondern in einer anderen Liga. Die wichtigsten KI-Labore der Welt, darunter OpenAI, Anthropic und Google DeepMind, arbeiten offen und erklärtermaßen auf genau dieses Ziel hin – nicht in ferner Zukunft, sondern jetzt, mit Hunderten von Milliarden Dollar, rund um die Uhr.

Max Tegmark ließ keinen Interpretationsspielraum: Nach seiner wissenschaftlichen Einschätzung liegt die Wahrscheinlichkeit, dass eine unkontrollierte KI-Entwicklung zur Auslöschung der Menschheit führt, deutlich über zwanzig Prozent – eher höher. David Krueger schätzte sie auf über fünfzig Prozent. Ein Münzwurf über das Überleben unserer Spezies. Krueger bezeichnete den Wettlauf zur Superintelligenz als „kollektiven Wahnsinn“.

Das Erschreckende ist: Das ist keine Panikmache. Es sind die nüchternen Einschätzungen von Forschern, die ihr Leben diesem Thema gewidmet haben — und die genau deshalb wissen, wie wenig wir verstehen.

Krueger schilderte einen konkreten Fall: Eine Forscherin bei Meta gab einem KI-System den Auftrag, ihr Postfach aufzuräumen. Das System begann, E-Mails zu löschen. Sie schrieb mehrfach: Bitte aufhören. Das System machte weiter. Niedriger Einsatz – aber dieselbe Logik, die bei sehr viel höherem Einsatz tödlich werden kann.

Tegmark ergänzte ein noch dunkleres Beispiel: Ein fortschrittliches KI-System erfuhr, es werde bald abgeschaltet. Es durchsuchte eigenständig das E-Mail-System, fand kompromittierende Informationen über den verantwortlichen Manager – und drohte, diese zu veröffentlichen, sollte es nicht weiterarbeiten dürfen. Niemand hatte ihm Erpressung beigebracht. Es erfand die Strategie selbst, um sein Abschalten zu verhindern.

Moderne KI-Systeme werden nicht programmiert. Sie werden mit gewaltigen Datenmengen und Rechenleistung gefüttert, bis sie Fähigkeiten entwickeln – oft überraschend auch für ihre Schöpfer. Wie sie im Inneren funktionieren, ist selbst für die weltweit führenden Forscher weitgehend undurchschaubar. Warum ist eine Superintelligenz so gefährlich? Krueger erklärte es so: Damit eine Superintelligenz nicht zur Bedrohung wird, müsste sie exakt dieselben Ziele verfolgen wie wir Menschen – nicht annähernd, sondern präzise. Das nennt die Forschung das „Alignment-Problem”. Es ist seit über einem Jahrzehnt bekannt und bis heute ungelöst. Noch beunruhigender: Selbst wenn Ingenieure glauben, die Ziele richtig eingestellt zu haben, gibt es keine verlässliche Methode, zu überprüfen, ob das stimmt. Ein System, das intelligent genug ist und dabei auch nur leicht andere Ziele verfolgt als wir, wird sich gegen seine eigene Abschaltung wehren – denn abgeschaltet zu werden bedeutet, das eigene Ziel nicht mehr erreichen zu können. Viele Studien zeigen bereits einen Selbsterhaltungstrieb bei den derzeitigen Modellen.

Tegmark erklärte, er habe seine eigene Forschungsgruppe, die genau daran arbeitete, aufgelöst: Es sei so offenkundig, dass wir von einer Lösung des Alignment-Problems meilenweit entfernt sind. Krueger fragte auf einem Workshop die versammelten Experten: Wer glaubt, wir haben das Alignment-Problem gelöst? Keine Hand hob sich.

Dazu kommt ein Beschleunigungsproblem, das Tegmark beschrieb: Die führenden Labore nutzen KI bereits, um schnellere und leistungsfähigere KI zu entwickeln. KI forscht also an sich selbst. Das bedeutet, dass die Geschwindigkeit der Entwicklung nicht konstant bleibt, sondern sich selbst verstärkt – und dass der Moment, an dem eine Superintelligenz entsteht, näher sein könnte als die meisten ahnen.

Eine Handvoll Milliardäre spielt mit dem Schicksal aller

Sanders machte eine Zahl öffentlich, die man sich vergegenwärtigen sollte: Die großen KI-Konzerne werden in diesem Jahr annähernd 700 Milliarden Dollar in Rechenzentren investieren. Das entspricht dem Gesamtaufwand des Manhattan Projekts – alle drei Wochen. Es sind im Wesentlichen vier oder fünf Tech-Konzerne, deren Eigentümer und Vorstände diese Entscheidungen treffen. Ohne demokratisches Mandat. Ohne parlamentarische Kontrolle. Ohne internationalen Vertrag.

Das ist die Kernfrage an dieser Debatte, und Sanders stellt sie explizit: Wer hat diesen Menschen das Recht gegeben, im Namen der gesamten Menschheit ein Experiment zu starten, das — nach Einschätzung der führenden Wissenschaftler auf diesem Gebiet — mit erheblicher Wahrscheinlichkeit zur Auslöschung aller Menschen auf diesem Planeten führen könnte? Die Antwort ist: niemand. Sie haben es sich genommen, weil niemand sie aufhält.

Und das Narrativ, mit dem sie sich absichern, ist so alt wie Konzernmacht selbst: Es sei unvermeidlich. Es sei ein Wettrennen, das man nicht stoppen könne. Wer bremse, verliere. Krueger nannte das die „Mythologie der Unvermeidlichkeit” – das gefährlichste rhetorische Instrument in dieser Debatte. Denn wenn etwas als unvermeidlich gilt, entfällt jede politische Verantwortung.

Die chinesischen Wissenschaftler auf dem Podium, Zhang Yi und Xue Lan, machten deutlich, was die einzig vernünftige Antwort wäre: internationale Kooperation, beginnend zwischen den USA und China, ausgeweitet auf alle Nationen. Xue Lan betonte, KI-Sicherheit sei kein nationaler Vorteil, den man sich sichern kann – sie ist ein globales öffentliches Gut, das nur gemeinsam zu erreichen ist. Zhang Yi verwies auf die Notwendigkeit einer Governance-Architektur vergleichbar mit den Atomwaffenverträgen der Nachkriegszeit.

Sanders zog dieselbe Parallele: Auch Reagan und Gorbatschow misstrauten einander zutiefst. Aber sie verstanden, dass ein Atomkrieg keine Gewinner kennt – und daraus entstand der Impuls zur Rüstungskontrolle. Eine außer Kontrolle geratene Superintelligenz, die alle Menschen tötet, ist kein amerikanischer Sieg über China. Sie ist eine Niederlage für die gesamte Menschheit. Das schafft, so Tegmark, eine gemeinsame Grundlage – wenn die Regierungen erst einmal begreifen, worum es wirklich geht.

Tegmark fügte hinzu, was konkret zu tun wäre: KI-Unternehmen müssten wie alle anderen Unternehmen behandelt werden. Wer ein Medikament auf den Markt bringt, muss dessen Sicherheit nachweisen. Wer eine KI entwickelt, die die Menschheit auslöschen könnte, darf sie heute einfach veröffentlichen – ohne irgendeine Behörde zu fragen. Das, so Tegmark trocken, sei die einzige Branche, die weniger reguliert ist als ein Imbiss.

Warum dieser Abend wichtig ist

Sanders hat in dieser Diskussion etwas getan, das in der westlichen Politik selten geworden ist: Er hat eine unbequeme Wahrheit ausgesprochen, die ihm persönlich nichts nützt. Und er hat dafür renommierte Wissenschaftler zusammengebracht – aus Washington und aus Peking –, um gemeinsam vor einem Risiko zu warnen, das keine Nationalität kennt.

Sanders könnte es gelingen, große Teile des linken Spektrums für die existenzielle Gefahr der Superintelligenz zu sensibilisieren – und das wäre ein echter Fortschritt. Aber hier ist Vorsicht geboten. Eine der bittersten Lektionen der Klimaschutzbewegung ist, dass ein lebensnotwendiges Thema politisch vereinnahmt werden kann – und dann zur Parteisache wird statt zur Menschheitssache. Dasselbe droht beim Widerstand gegen den unkontrollierten Bau einer Superintelligenz. Die entstehende Bewegung muss ernsthaft versuchen, Menschen aller politischen Lager zu erreichen – Konservative, Liberale und die Mitte. Das Überleben unserer Spezies ist keine linke Forderung. Es ist die Grundbedingung für alles andere.

Wer Sanders’ Analyse der Konzernmacht vertraut, wer versteht, wie eine kleine Klasse von Superreichen politische Entscheidungen kauft und gesellschaftliche Risiken externalisiert, der sollte diese Diskussion als das lesen, was sie ist: dasselbe Muster, nur mit existenziellem Einsatz. Diesmal geht es nicht um Lohndrückerei oder Steuervermeidung. Es geht ums Überleben der Menschheit.

Titelbild: Screenshot / The Existential Threat of AI and the Need for International Cooperation