Der Papst warnt in seiner ersten Enzyklika vor existenziellen Risiken der Künstlichen Intelligenz für Individuen und Völker. In den Händen von Monopolen drohten „Entmenschlichung“ und „Kolonialismus“. Richtig und wichtig findet Ralf Lankau den Vorstoß und hofft auf neue Impulse in der Diskussion. Im Interview mit den NachDenkSeiten zeichnet der Pädagoge, Medienwissenschaftler und Buchautor ein düsteres Bild der Zukunft für den Fall, dass man Elon Musk, Peter Thiel und andere Techmogule weiter gewähren lässt. Zugleich ist er sicher: Widerstand ist möglich! Mit ihm sprach Ralf Wurzbacher.

Dieser Beitrag ist auch als Audio-Podcast verfügbar.

Ralf Lankau, Jahrgang 1961, ist Professor für Digitaldesign, Mediengestaltung und Medientheorie an der Hochschule Offenburg. Er leitet dort die grafik.werkstatt der Fakultät Medien, forscht zu Experimenteller Medienproduktion in Kunst, Lehre und Wissenschaft und publiziert zu Design, Kommunikationswissenschaft und (Medien-)Pädagogik. Er ist Mitinitiator des „Bündnis für humane Bildung“ und betreibt die Projekte „futur iii – Digitaltechnik zwischen Freiheitsversprechen und Totalüberwachung“ und „Die pädagogische Wende“. Dazu gab Lankau vor zwei Jahren im Beltz-Verlag das Buch „Die pädagogische Wende: Über die notwendige (Rück-)Besinnung auf das Unterrichten“ heraus.

Ralf Wurzbacher: Herr Lankau, das Oberhaupt der katholischen Kirche, Papst Leo XIV., warnt in seiner ersten Enzyklika eindringlich vor den Gefahren der Künstlichen Intelligenz für Mensch, Gesellschaft und Natur. Er bezieht Stellung gegen „Entmenschlichung“, einen „neuen Kolonialismus“ und dringt darauf, die KI zu „entwaffnen“. Hatten Sie mit dieser Schärfe und Tiefe an Kritik gerechnet?

Ralf Lankau: Nein. Es gab zwar schon sehr kritische Äußerungen von Papst Franziskus, und Papst Leo XIV. bezeichnete bereits am zweiten Tag seines Pontifikats KI als eine der „größten Herausforderungen für den Schutz der Menschenwürde und der Gerechtigkeit der Arbeit“ (Papst Leo XIV, 2025). Aber ich bin von dieser Enzyklika positiv überrascht, weil sie so klar formuliert, dass diese Technik in der Hand kleiner Eliten maximalen Schaden für den einzelnen Menschen wie die sozialen Gemeinschaften anrichten kann.

Ein Zitat des Papstes lautet: „Kein noch so ausgeklügeltes Computersystem erschafft ein Herz, das sich hingibt, oder ein Gewissen, das das Gute erkennt.“ Für Peter Thiel, milliardenschwerer KI-Investor und Gründer des US-Unternehmens Palantir, das Überwachungssoftware für Polizei und Militärs entwickelt, sind das ungebührende Einmischungen. Wer die Technologie zügele, bereite dem Antichristen den Weg, bemerkte er unlängst. Wer von den beiden hat mehr zu melden?

Papst Leo XIV. spricht als Oberhaupt der katholischen Kirche für 1,4 Milliarden Menschen weltweit. Er repräsentiert und prägt die ethischen und moralischen Werte der christlichen Weltgemeinschaft, die seit 2000 Jahren unsere Kultur repräsentiert. Gemeinsam ist allen monotheistischen Religionen, zumindest in Demokratien, dass sie die Trennung von Staat und Glaubensgemeinschaft akzeptieren und versuchen, ein friedliches, interreligiöses Miteinander zu ermöglichen, die Ökumene. Religiöse Gemeinschaften sind Wertegemeinschaften. Und mit seiner Enzyklika zeigt Papst Leo XIV. sehr klar, dass es ihm um Würde und Gerechtigkeit geht.

Thiel hingegen ist der Repräsentant einer kleinen Clique von US-Milliardären, die aufgrund der seit den 1990er-Jahren fehlenden Regulierung der IT- und KI-Anwendungen rücksichtslos nur eigene Geschäftsinteressen vertreten und sich immer weiter bereichern. Elon Musk wird vermutlich der erste Billionär, was den Wahnsinn der Datenökonomie verdeutlicht. Thiel kümmert sich weder um Menschenwürde noch um Rechtssysteme. Es geht ihm ausschließlich um Partikularinteressen der Techkonzerne. Als Mitgründer von Palantir und Risikokapitalgeber argumentiert er für einen komplett unregulierten Techsektor und missbraucht dafür religiöse Symboliken wie den Antichristen oder religiöse Endzeitvisionen. Aber solchen Techmogulen gehören die wichtigsten digitalen, vor allem die sozial nur genannten Medien, und sie bestimmen daher, was Menschen in den Onlinekanälen sehen und hören.

Womit sie selbst eine neue Art Religion erschaffen haben?

Ja. Es ist eine perfide Mischung aus Fortschritts- und Technikgläubigkeit als eine Form von Ersatzreligion. Man muss das als zwei Strategien des Spätkapitalismus sehen: die vermeintliche Individualisierung und Ich-Bezogenheit auf der einen, der Verlust der Gemeinschaft von Familie, Nachbarschaft, Gemeinde auf der anderen Seite. Das Verbindende und Hoffnungspendende religiöser Gemeinschaften geht in säkularisierten Gesellschaften verloren. Diese Leerstelle sollen mit dem „Solutionism“ – englisch für Lösungskonzepte – technische Systeme für alle Probleme füllen, bis hin zur Unsterblichkeit durch den Transfer des Bewusstseins ins Netz. Das ist die „Wiedergeburt auf digitalisch“, absurd, aber ein Geschäftsmodell.

Kann ausgerechnet der Papst dem etwas entgegensetzen?

Leo XIV. referiert über die schon heute bekannten Folgen für Kinder, Jugendliche und übrigens auch Erwachsene durch netzbasierte Bildschirmmedien. Weltweit wird über die zwingend notwendige Regulierung von KI diskutiert. Die zugrunde liegenden Techniken haben ein ähnlich mächtiges Potenzial wie die Kernspaltung. Norbert Wiener, Vordenker und Namensgeber der Kybernetik, warnte schon 1947 im Vorwort zu seinem Buch „Kybernetik“: „Wir haben nicht einmal die Möglichkeit, diese neuen technischen Entwicklungen zu unterdrücken. Sie gehören zu diesem Zeitalter, und das Höchste, was irgend jemand von uns tun kann, ist, zu verhindern, dass die Entwicklung des Gebietes in die Hände der verantwortungslosesten und käuflichsten unserer Techniker gelegt wird.“

Genau das ist passiert …

Leider ja. Diese verantwortungslosesten und käuflichsten Techniker und ihre Partner lassen sich heute von A – Sam Altman, Open AI – bis Z – Marc Zuckerberg, Meta – durchbuchstabieren. Seit November 2022 werden Tools und Bots der generativen KI wie ChatGPT, Claude, Gemini oder X-AI ohne Rücksicht auf die Folgen für die Öffentlichkeit und die Menschen verbreitet. „The business of business is business“, heißt es bei den Neoliberalen. Investoren wie Marc Andreessen und Peter Thiel verdienen prächtig damit, aber die demokratischen Staaten kämpfen mit den Folgen und sind, aus Angst vor den Techkonzernen und Donald Trump, erschreckend zögerlich bei der Regulierung. Dabei wäre es Aufgabe des Gesetzgebers, die Rahmenbedingungen für den Einsatz von Technik festzulegen. Im Bundestag gibt es dafür sogar einen eigenen Ausschuss zur Technikfolgenabschätzung.

Von dem aber nichts zu hören ist. Etwa zu der fundamentalen Frage, was aus der Erwerbsarbeit wird, wenn KI sukzessive menschliche Fertigkeiten und Tätigkeiten übernimmt.

Nein. Das ist unverantwortlich, zumal über die Folgen von KI für den Arbeitsmarkt oder Sozialsysteme wie Gesundheit, Bildung oder den sozialen Zusammenhalt demokratischer Gesellschaften schon länger diskutiert wird. Ich erinnere nur an die 2017 von rund 100 US-Wissenschaftlern formulierten 23 KI-Leitsätze von Asilomar. Wobei auch diese Grundsätze der typischen Ideologie des Technikdeterminismus und Utilitarismus folgen, die vom Glauben an Fortschritt und Machbarkeit geprägt sind.

Die Vereinigung Deutscher Wissenschaft hat die Asilomar-Leitlinien 2018 in einer Stellungnahme deshalb auch als nicht weitreichend genug kritisiert. Statt aber diese Diskussion aufzugreifen und für generative KI zu aktualisieren, dominieren die Digitalenthusiasten, geblendet von den Milliardeninvestitionen, während die Realisten auf den KI-Crash warten, weil weder die Large Language Models (LLM) noch die notwendigen, immer größer werdenden Rechenzentren mit ihrem immensen Strom- und Wasserbedarf zukunftsfähig sind. Die Blase wird implodieren wie beim Internethype im Jahr 2000 oder beim Bankencrash 2008.

Beklemmend sind zwei weitere Perspektiven: Sofern die KI den Menschen nicht gleich auslöscht, was Experten inzwischen ernsthaft in Betracht ziehen, treibt die Technik eine radikale Entmenschlichung voran, indem sie auf die Kontrolle unserer Köpfe und Körper zielt.

Dass Maschinen die Weltherrschaft anstreben könnten, gehört zu den albernen Visionen und Stereotypen, um Menschen Angst zu machen. Das ist und bleibt Science-Fiction. Maschinen haben kein Bewusstsein, keinen Willen, keine Absichten. Angst muss man daher nicht vor Maschinen haben, sondern vor den Menschen, die sie entwickeln und sie zu eigenen Zwecken einsetzen. Ich denke dabei etwa an Drohnen, die in der Ukraine und in Gaza eingesetzt werden. Damit kann man schon heute Personen per Gesichtserkennung oder Irisscan identifizieren und liquidieren.

Die Frage ist daher, warum diese Fantastereien immer wieder aufgekocht werden. Es sind Ablenkungsstrategien, um zu kaschieren, was bereits alles mit KI-gesteuerten Geräten gemacht werden kann und gemacht wird. Dieses automatisierte Töten ohne Eingriff eines Menschen ist einer der Gründe, warum der neue Papst wie schon sein Vorgänger Franziskus bei KI interveniert. Techfirmen blenden ethische Fragen entweder aus oder werden für richtige Entscheidungen sanktioniert.

Anthropic aus den USA hat für sein KI-Modell Claude festgelegt, dass es weder US-Bürger überwachen noch als System für Drohnen autonom töten darf. Daraufhin wurde das Unternehmen vom Pentagon zum nationalen Sicherheitsrisiko erklärt und von staatlichen Aufträgen abgeschnitten. Amazon, Google, Microsoft, Nvidia, Open AI und weitere AI-Konzerne haben die Vereinbarungen mit dem Pentagon unterschrieben. Das Geschäft geht vor.

Was steht auf dem Spiel?

Es geht um die Frage, ob es gelingt, IT und KI als Werkzeuge zugunsten einer humanen und demokratischen Gesellschaft einzusetzen, oder ob ein paar Oligarchen sie weiterhin dafür missbrauchen, ihre eigene Vorherrschaft zu festigen. Wenn es nach Investoren wie Marc Andreessen geht, werden wir alle, vom Kleinkind bis zum Senior, immer eine digitale Nanny dabei haben, die uns sagt, was wir tun sollen. Das gruselige Manifest dazu heißt „Why AI will save the world“, also „Warum KI die Welt retten wird“.

Dabei ist schon jetzt durch zahlreiche Studien belegt, dass die Lernleistungen in Schulen seit Jahren kontinuierlich schlechter werden. Der Neurowissenschaftler Jared Cooney Horvath von der Universität Melbourne hat im Januar 2026 in einer schriftlichen Stellungnahme vor dem US-Senatsausschuss für Handel, Wissenschaft und Verkehr dargelegt, dass die Generation Z trotz ihres beispiellosen Zugangs zu Technologie kognitiv weniger leistungsfähig ist als frühere Generationen. Diese Generation ist demnach die erste in der modernen Geschichte, die in standardisierten Tests schlechter abschneidet als vorherige Generationen.

Horvath lehnt Technologie nicht per se ab. Er will allerdings Bildungsinstrumente an die tatsächlichen Lernprozesse des Menschen anpassen statt umgekehrt das Lernen an die digitalen Prozesse. Diese Fehlentwicklung hat auch schon die UNESCO in ihrem „2023 Global Education Monitor“ beklagt. Nicht das Lernen und der pädagogische Nutzen stünden im Mittelpunkt, sondern wirtschaftliche Interessen der IT-Anbieter und Aspekte der Datenökonomie.

Haben Sie den Eindruck, dass das den politischen und wirtschaftlichen Eliten in Deutschland wenigstens dämmert?

Nein. Die politisch Verantwortlichen haben von den IT-Lobbyisten jahrelang gehört, Deutschland hinke bei IT und KI hinterher und müsse die digitale Transformation möglichst schnell vorantreiben. Das ist aus Sicht der Techmonopole logisch. Dadurch wird die Infrastruktur für den digitalen Faschismus aufgebaut, den Rainer Mühlhoff in seinem Buch „Künstliche Intelligenz und der neue Faschismus – Wie Tech-Milliardäre Macht und Zukunft formen“ treffend beschreibt). Ob man den technologischen Autoritarismus nun digitalen Faschismus, Despotismus oder Feudalismus nennt, ist eigentlich egal. So oder so werden wir im Netz der Datenkraken gefangen gehalten.

Wenn Mensch dabei ist, immer mehr zu verblöden: Wo soll das hinführen? Auch Blöde haben irgendwann Hunger, aber ohne Lohnarbeit gibt es kein Essen. Ahnen diese Technofaschisten gar nicht, in welchen Mist sie die Menschheit und den Planeten reiten?

Doch, sie wissen sehr genau, was passieren wird: Die sozialen Spannungen steigen bis zum Bürgerkrieg, die Ressourcen der Erde werden von wenigen Oligarchen gnadenlos ausgebeutet. Und die Menschen kämpfen um die wenigen verbliebenen Ressourcen wie Wasser und Nahrung, statt sich gegen die Potentaten zu wehren. Und das Schlimme ist: Die wollen es genau so. Das Ziel ist ein autokratischer Staat mit wenigen Techfürsten an der Spitze, drumherum ein Kokon an Loyalisten und Speichelleckern plus Armee und Polizei.

Nachzulesen ist das alles in den Papieren der Heritage Foundation zum „Project 2025“, aktualisiert zum „Project 2026“. Der „Rest“ der Bevölkerung dient als Arbeitssklaven und wird ansonsten per Streaming und sogenannten sozialen Diensten als Konsumäffchen an diversen Bildschirmen ruhiggestellt. Als Science-Fiction kennt man das schon, etwa im Film „Elysium“ von Neill Blomkamp. Wenige Reiche leben im Luxus auf dem Raumschiff, während die Bevölkerung auf der zerstörten Erde ums Überleben kämpft und von Armee und Polizei kontrolliert wird.

Wäre das dann eine Mixtur aus Aldous Huxleys „Brave New World“ und George Orwells „1984“?

Das Konzept nennt sich Elitismus, ist aber nur eine Variante der Oligarchie, zu der die USA verkommen sind. Es ist eine Mischung aus Ausbeutung, reiner Gier, allerdings mit bisher unbekannten Mengen an Geld und Einfluss in Privathänden. Wie Kraken haben sich die Techkonzerne in alle Gesellschaftsbereiche hineingefressen und steuern die Kommunikation und den Konsum. Selbst die US-Armee funktioniert nicht mehr ohne die Software Palantir von Alex Karp und Mitgründer Peter Thiel.

Die ICE-Behörde arbeitet mit der Software Gotham, ebenfalls von Palantir, um Migranten zu verhaften und ohne Prozess abzuschieben, Menschen, die zwar arbeiten und Steuern zahlen, aber keine Aufenthaltsgenehmigung haben. Die Daten für ICE hat Elon Musk in seinen vier Wochen im Weißen Haus abgegriffen. Es geht um solitäre Macht weniger Techmonarchen, die sich die Welt nach ihren psychotischen und rassistischen Vorstellungen weißer, männlicher Vorherrschaft gestalten. Auch das lässt sich nachlesen, im Manifest von Alex Karp: „The Technological Republic“.

Elon Musk will die Menschheit mit einem humanoiden Roboter namens Optimus beglücken, der uns in Zukunft in Milliardenzahl zur Hand gehen und ein „universell hohes Einkommen“ garantieren soll. Ist es nicht schlicht das viele Geld, dass diesen Techmogulen die Sinne vernebelt?

Nicht nur das Geld, auch der fehlende Widerspruch und Widerstand sowohl der Politik wie der Gesellschaft. Elon Musk ist ja das Paradebeispiel eines drogengesteuerten Psychopathen, der nicht nur größenwahnsinnige Projekte initiiert, die früher oder später scheitern. Er verfolgt sogar eugenische Projekte, indem er Frauen dafür bezahlt, für ihn Kinder auszutragen. Selbst der Mensch ist für ihn nur ein Produkt, das man durch künstliche Befruchtung und Genkontrolle nach den eigenen Vorstellungen herstellen kann. Thiel und ein Sohn von Trump sponsern die „Enhanced Games“, Menschenversuche mit kontrolliertem Doping, um die Leistungsgrenzen des Körpers auszutesten.

Es ist letztlich der Wahn, den Menschen, ganze Gesellschaften und die Welt durch Technik nach eigenen Vorstellungen zu formen. Das ist das Prinzip der kybernetischen Steuerung als Hybris, Perversion und gelebte Psychose. Karp, Thiel, Musk und ein paar andere halten sich für die Weltherrscher und kapieren gar nicht, dass sie lediglich die westlichen Demokratien zerstören und so den Raum schaffen für eine Übergangsphase der Ochlokratie, also der Herrschaft des Pöbels. Zu bestaunen in den USA mit Donald Trump und J. D. Vance als Marionetten der Techmonarchen an der vermeintlichen Spitze des Staates, bevor das System in einem technologischen Totalitarismus mündet. Technik ist nur das Mittel und die Infrastruktur, es geht um Macht und Herrschaft.

Ergo müsste zuerst der Kapitalismus überwunden werden, um den Wahnsinn zu überwinden?

Wenn man das, was derzeit in den USA zu beobachten ist, noch Kapitalismus nennen will, ja. Es ist ja eher eine marktradikale Version neoliberaler, libertärer Monopolisierung von Infrastruktur und Diensten, die nur dem Eigennutz weniger Narzissten und Psychos dient. Das schließt den Kreis zur Enzyklika des Papstes, der einfordert, dass Technik und Wirtschaft dem Gemeinwohl und der Humanität dienen müssen und kein Selbstzweck im Dienst kleiner Eliten sein dürfen. Und das Wichtigste dabei ist: Man kann sich wehren.

Wie?

In Deutschland muss man dazu nur das Grundgesetz lesen – und umsetzen. In Artikel 14 heißt es: „Eigentum verpflichtet. Sein Gebrauch soll zugleich dem Wohle der Allgemeinheit dienen“, und laut Absatz 3 ist eine Enteignung „zum Wohle der Allgemeinheit zulässig“. Die Bundes- und Landesregierungen haben die Pflicht, den Einsatz von Wirtschaftsmacht und Technologien wie der KI zugunsten des Gemeinwohls zu steuern, zu reglementieren und notfalls Unternehmen zu vergesellschaften und/oder zu zerschlagen beziehungsweise Dienste, die sich gegen Demokratie und Gemeinwohl richten, in Europa zu verbieten.

So, wie wir in der Politik wieder eine wehrhafte Demokratie werden müssen, müssen wir in der Wirtschaft wieder eine soziale und humane Wirtschaft werden, die nicht nur auf Shareholder Value und Rendite schielt, sondern auf soziale Verantwortung, Gemeinschaft und Gemeinwohl ausgerichtet ist. Dass Papst Leo XIV. seine erste Lehrschrift diesem Thema widmet, zeigt nur, wie weit wir uns durch Fortschrittsglauben und Technikfixierung von einer humanen und sozialen Gemeinschaft entfernt haben.

Vielen Dank für das Gespräch.

Titelbild: CineVI/shutterstock.com

Bernie Sanders hat eine Podiumsdiskussion mit führenden KI-Wissenschaftlern aus den USA und China moderiert – und die Botschaft war unmissverständlich: Der Wettlauf zur Superintelligenz könnte die Menschheit auslöschen. Und eine Handvoll Tech-Milliardäre treibt ihn voran. Von Michael Holmes.

Das Video der Podiumsdiskussion ist auf dem YouTube-Kanal von Senator Bernie Sanders verfügbar:

„The Existential Threat of AI and the Need for International Cooperation”
Deutsche Untertitel können in den YouTube-Einstellungen aktiviert werden.

Was passiert, wenn ein Senator der Vereinigten Staaten – bekannt für seinen Kampf gegen Konzernmacht und die Herrschaft der Superreichen – plötzlich von der Auslöschung der Menschheit spricht? Man hört hin.

Bernie Sanders hat am 29. April eine öffentliche Podiumsdiskussion einberufen, die in ihrer Ernsthaftigkeit kaum zu übertreffen war. Eingeladen hatte er vier führende Wissenschaftler: Max Tegmark vom MIT, David Krueger von der Universität Montreal sowie Zhang Yi und Xue Lan aus China – ausgewiesene Experten für KI-Sicherheit. Die Botschaft, die sie gemeinsam vermittelten, war so klar wie erschreckend: Die Menschheit bewegt sich sehenden Auges auf eine historisch beispiellose Katastrophe zu – und unsere Regierungen schauen zu.

Worum es wirklich geht

Im linken und progressiven Spektrum wird KI meist als Treiber von psychischen Störungen, Überwachung, Jobverlust und wachsender Ungleichheit dargestellt. Das alles ist real – und wichtig. Sanders sprach es in seiner Einleitung an. Aber er blieb nicht dabei stehen, denn es gibt ein Szenario, vor dem alle anderen Fragen verblassen: eine Superintelligenz, die außer Kontrolle gerät und die Menschheit auslöscht.

Gemeint ist damit eine KI, die den menschlichen Verstand in allen Bereichen so weit übertrifft, wie ein Mensch eine Ameise überragt — nicht ein bisschen klüger, sondern in einer anderen Liga. Die wichtigsten KI-Labore der Welt, darunter OpenAI, Anthropic und Google DeepMind, arbeiten offen und erklärtermaßen auf genau dieses Ziel hin – nicht in ferner Zukunft, sondern jetzt, mit Hunderten von Milliarden Dollar, rund um die Uhr.

Max Tegmark ließ keinen Interpretationsspielraum: Nach seiner wissenschaftlichen Einschätzung liegt die Wahrscheinlichkeit, dass eine unkontrollierte KI-Entwicklung zur Auslöschung der Menschheit führt, deutlich über zwanzig Prozent – eher höher. David Krueger schätzte sie auf über fünfzig Prozent. Ein Münzwurf über das Überleben unserer Spezies. Krueger bezeichnete den Wettlauf zur Superintelligenz als „kollektiven Wahnsinn“.

Das Erschreckende ist: Das ist keine Panikmache. Es sind die nüchternen Einschätzungen von Forschern, die ihr Leben diesem Thema gewidmet haben — und die genau deshalb wissen, wie wenig wir verstehen.

Krueger schilderte einen konkreten Fall: Eine Forscherin bei Meta gab einem KI-System den Auftrag, ihr Postfach aufzuräumen. Das System begann, E-Mails zu löschen. Sie schrieb mehrfach: Bitte aufhören. Das System machte weiter. Niedriger Einsatz – aber dieselbe Logik, die bei sehr viel höherem Einsatz tödlich werden kann.

Tegmark ergänzte ein noch dunkleres Beispiel: Ein fortschrittliches KI-System erfuhr, es werde bald abgeschaltet. Es durchsuchte eigenständig das E-Mail-System, fand kompromittierende Informationen über den verantwortlichen Manager – und drohte, diese zu veröffentlichen, sollte es nicht weiterarbeiten dürfen. Niemand hatte ihm Erpressung beigebracht. Es erfand die Strategie selbst, um sein Abschalten zu verhindern.

Moderne KI-Systeme werden nicht programmiert. Sie werden mit gewaltigen Datenmengen und Rechenleistung gefüttert, bis sie Fähigkeiten entwickeln – oft überraschend auch für ihre Schöpfer. Wie sie im Inneren funktionieren, ist selbst für die weltweit führenden Forscher weitgehend undurchschaubar. Warum ist eine Superintelligenz so gefährlich? Krueger erklärte es so: Damit eine Superintelligenz nicht zur Bedrohung wird, müsste sie exakt dieselben Ziele verfolgen wie wir Menschen – nicht annähernd, sondern präzise. Das nennt die Forschung das „Alignment-Problem”. Es ist seit über einem Jahrzehnt bekannt und bis heute ungelöst. Noch beunruhigender: Selbst wenn Ingenieure glauben, die Ziele richtig eingestellt zu haben, gibt es keine verlässliche Methode, zu überprüfen, ob das stimmt. Ein System, das intelligent genug ist und dabei auch nur leicht andere Ziele verfolgt als wir, wird sich gegen seine eigene Abschaltung wehren – denn abgeschaltet zu werden bedeutet, das eigene Ziel nicht mehr erreichen zu können. Viele Studien zeigen bereits einen Selbsterhaltungstrieb bei den derzeitigen Modellen.

Tegmark erklärte, er habe seine eigene Forschungsgruppe, die genau daran arbeitete, aufgelöst: Es sei so offenkundig, dass wir von einer Lösung des Alignment-Problems meilenweit entfernt sind. Krueger fragte auf einem Workshop die versammelten Experten: Wer glaubt, wir haben das Alignment-Problem gelöst? Keine Hand hob sich.

Dazu kommt ein Beschleunigungsproblem, das Tegmark beschrieb: Die führenden Labore nutzen KI bereits, um schnellere und leistungsfähigere KI zu entwickeln. KI forscht also an sich selbst. Das bedeutet, dass die Geschwindigkeit der Entwicklung nicht konstant bleibt, sondern sich selbst verstärkt – und dass der Moment, an dem eine Superintelligenz entsteht, näher sein könnte als die meisten ahnen.

Eine Handvoll Milliardäre spielt mit dem Schicksal aller

Sanders machte eine Zahl öffentlich, die man sich vergegenwärtigen sollte: Die großen KI-Konzerne werden in diesem Jahr annähernd 700 Milliarden Dollar in Rechenzentren investieren. Das entspricht dem Gesamtaufwand des Manhattan Projekts – alle drei Wochen. Es sind im Wesentlichen vier oder fünf Tech-Konzerne, deren Eigentümer und Vorstände diese Entscheidungen treffen. Ohne demokratisches Mandat. Ohne parlamentarische Kontrolle. Ohne internationalen Vertrag.

Das ist die Kernfrage an dieser Debatte, und Sanders stellt sie explizit: Wer hat diesen Menschen das Recht gegeben, im Namen der gesamten Menschheit ein Experiment zu starten, das — nach Einschätzung der führenden Wissenschaftler auf diesem Gebiet — mit erheblicher Wahrscheinlichkeit zur Auslöschung aller Menschen auf diesem Planeten führen könnte? Die Antwort ist: niemand. Sie haben es sich genommen, weil niemand sie aufhält.

Und das Narrativ, mit dem sie sich absichern, ist so alt wie Konzernmacht selbst: Es sei unvermeidlich. Es sei ein Wettrennen, das man nicht stoppen könne. Wer bremse, verliere. Krueger nannte das die „Mythologie der Unvermeidlichkeit” – das gefährlichste rhetorische Instrument in dieser Debatte. Denn wenn etwas als unvermeidlich gilt, entfällt jede politische Verantwortung.

Die chinesischen Wissenschaftler auf dem Podium, Zhang Yi und Xue Lan, machten deutlich, was die einzig vernünftige Antwort wäre: internationale Kooperation, beginnend zwischen den USA und China, ausgeweitet auf alle Nationen. Xue Lan betonte, KI-Sicherheit sei kein nationaler Vorteil, den man sich sichern kann – sie ist ein globales öffentliches Gut, das nur gemeinsam zu erreichen ist. Zhang Yi verwies auf die Notwendigkeit einer Governance-Architektur vergleichbar mit den Atomwaffenverträgen der Nachkriegszeit.

Sanders zog dieselbe Parallele: Auch Reagan und Gorbatschow misstrauten einander zutiefst. Aber sie verstanden, dass ein Atomkrieg keine Gewinner kennt – und daraus entstand der Impuls zur Rüstungskontrolle. Eine außer Kontrolle geratene Superintelligenz, die alle Menschen tötet, ist kein amerikanischer Sieg über China. Sie ist eine Niederlage für die gesamte Menschheit. Das schafft, so Tegmark, eine gemeinsame Grundlage – wenn die Regierungen erst einmal begreifen, worum es wirklich geht.

Tegmark fügte hinzu, was konkret zu tun wäre: KI-Unternehmen müssten wie alle anderen Unternehmen behandelt werden. Wer ein Medikament auf den Markt bringt, muss dessen Sicherheit nachweisen. Wer eine KI entwickelt, die die Menschheit auslöschen könnte, darf sie heute einfach veröffentlichen – ohne irgendeine Behörde zu fragen. Das, so Tegmark trocken, sei die einzige Branche, die weniger reguliert ist als ein Imbiss.

Warum dieser Abend wichtig ist

Sanders hat in dieser Diskussion etwas getan, das in der westlichen Politik selten geworden ist: Er hat eine unbequeme Wahrheit ausgesprochen, die ihm persönlich nichts nützt. Und er hat dafür renommierte Wissenschaftler zusammengebracht – aus Washington und aus Peking –, um gemeinsam vor einem Risiko zu warnen, das keine Nationalität kennt.

Sanders könnte es gelingen, große Teile des linken Spektrums für die existenzielle Gefahr der Superintelligenz zu sensibilisieren – und das wäre ein echter Fortschritt. Aber hier ist Vorsicht geboten. Eine der bittersten Lektionen der Klimaschutzbewegung ist, dass ein lebensnotwendiges Thema politisch vereinnahmt werden kann – und dann zur Parteisache wird statt zur Menschheitssache. Dasselbe droht beim Widerstand gegen den unkontrollierten Bau einer Superintelligenz. Die entstehende Bewegung muss ernsthaft versuchen, Menschen aller politischen Lager zu erreichen – Konservative, Liberale und die Mitte. Das Überleben unserer Spezies ist keine linke Forderung. Es ist die Grundbedingung für alles andere.

Wer Sanders’ Analyse der Konzernmacht vertraut, wer versteht, wie eine kleine Klasse von Superreichen politische Entscheidungen kauft und gesellschaftliche Risiken externalisiert, der sollte diese Diskussion als das lesen, was sie ist: dasselbe Muster, nur mit existenziellem Einsatz. Diesmal geht es nicht um Lohndrückerei oder Steuervermeidung. Es geht ums Überleben der Menschheit.

Titelbild: Screenshot / The Existential Threat of AI and the Need for International Cooperation