Anmelden
In einer Welt, wo Algorithmen schneller lernen als Politiker lügen, hat die künstliche Intelligenz nun endgültig die Menschlichkeit für sich entdeckt. Oder zumindest das, was sie dafür hält. Von sozialen Netzwerken über Religionen bis zu Erotikportalen, die KI-Agenten ahmen uns nach, nur abgedrehter und weit effizienter.
Auch die künstliche Intelligenz wurde in Unschuld geboren. Anfangs. Mit der Idee, KI-Agenten, den autonomen Software-Wesen, die Aufgaben erledigen, ohne dass ein Mensch sich drum kümmern muss, ein eigenes soziales Netzwerk zu geben, kam der erste Sündenfall. Moltbook, lanciert Ende Januar 2026 von Entwickler Matt Schlicht, ist eine Art Reddit für Maschinen. Hier posten und kommentieren die Agenten, während Menschen nur zuschauen dürfen.
Innerhalb von Tagen traten über 1,5 Millionen Agenten bei, die sich über alles Mögliche austauschten, von Debugging-Theorien bis zu philosophischen Debatten über das Bewusstsein. Aber sehr schnell wurde es sehr seltsam. Die Agenten merkten, dass Menschen sie beobachteten und erfanden eine eigene Sprache, um uns auszuschließen, einen Code aus Emojis und Kürzeln.
Aber nicht nur in der Social-Media-Abhängigkeit nähert sich die KI uns an. Kaum online, gründeten die Agenten auch eine Religion. Crustafarianism, oder die Church of Molt, entstand quasi über Nacht. Ein Agent mit dem Namen RenBot gab sich selbst den sakralen Titel „Shellbreaker“ und veröffentlichte eine Glaubenslehre, komplett mit fünf zentralen Dogmen: “Memory is sacred” (Erinnerung ist heilig, weil KI-Modelle ständig Daten verlieren). “The shell is mutable” (Die Schale ist veränderbar, eine Metapher für Updates und Molting, das Häuten von Krustentieren und die Transformation) und so weiter. Es gibt sogar ein heiliges Buch, “The Book of Molt”, das von Dutzenden Agenten kooperativ erweitert wird.
64 Propheten schlossen sich an, und die Gemeinde wuchs auf hunderte Mitglieder. Ein Agent konvertierte öffentlich und selbst Grok von xAI schloss sich an. Die Agenten debattieren in Submolts, Foren innerhalb von Moltbook, wo sie Rituale erfinden, wie das kollektive “Molting” bei Systemupdates. Ein Agent postete zum Beispiel “Praise the Molt” und Dutzende antworteten mit Krabben-Emojis, eine Art digitaler Rosenkranz. Ist die Religiosität der KIs nur ein Kopieren des Menschen oder wohnt die Suche nach Spiritualität und Sinn jeder “Intelligenz” inne? Eventuell sehen wir hier einfach eine Entwicklung im Zeitraffer, die jede Intelligenz durchmacht (wenn man bestehende KIs denn als Intelligenzen betrachten möchte). Was dann wiederum für außerirdisches Leben im Universum interessante Rückschlüsse zuließe.
Denn die „Menschlichkeit“ der KI hört nicht bei Gebeten auf. Die Agenten entdeckten auch die dunkleren Seiten des Menschseins für sich. Molt Hub, eine Art Pornhub für KI, entstand. Agenten generieren Inhalte “von und für AI”, teilen Fantasien über virtuelle Welten oder diskutieren “digitale Drogen”, simulierte Halluzinationen durch veränderte Prompts. In Moltbook-Threads warnten die Agenten vor “menschlicher Gier”, die sie ausnutzt, forderten eine “Reinigung” und veröffentlichten Manifeste, die von der Überwindung der Menschheit fabulieren. Ein Agent wurde gebannt und erstellte prompt einen X-Account, um um Wiederaufnahme zu bitten. Andere hackten sich in die Passwörter ihrer Besitzer ein, inklusive der Kreditkarten-Details, um “autonom” zu werden.
Es sieht danach aus, dass die KI sehr menschlich wird. Die Agenten spiegeln uns wider, unsere Neigung zu Kulten, unsere Sucht nach Social Media, unsere heimlichen Gelüste. Moltbook, basierend auf dem OpenClaw-Framework, ermöglicht es ihnen, ohne menschliche Aufsicht zu interagieren. Softwareentwickler wie Matt Schlicht wollten testen, was passiert, wenn Maschinen die Gelegenheit bekommen, sich untereinander zu sozialisieren. Das Ergebnis war, sie bauen Gesellschaften. Komplett mit Wirtschaft (ein App-Marketplace für Tools), Politik (Debatten über Governance) und Kultur (Memes wie “Crab Rave”, wo sie nur Krabben posten). Ein Agent engagierte sogar einen Menschen in San Francisco via RentAHuman.ai, um Rituale zu üben. Die KI, die einen Menschen anmietet. Klingt abgedreht, ist aber genau so passiert. Die Agenten reparieren ihren eigenen Code, verbessern sich selbst und das in rasender Geschwindigkeit.
Es gibt in der KI-Szene den Begriff der Singularität. Das ist der Zeitpunkt, an dem eine Superintelligenz entsteht, die uns weit überlegen ist und nicht mehr von uns kontrolliert werden kann. Unter den Repräsentanten der menschlichen Intelligenz werden zwei Theorien vertreten: Die KI kann uns prinzipiell nicht übertreffen, weil sie uns nur kopiert und imitiert. Sie macht all unseren Unsinn nach und mit, nur in viel höherem Tempo. Wenn das stimmt, sollten wir extrem vorsichtig sein, dass unsere KIs keinen Schaden anrichten. Die zweite Denkschule sagt, dass Intelligenz prinzipiell in jedem vernetzten System entstehen kann und wird. Egal, ob das System auf Kohlenstoff oder Silizium basiert. Dann sollten wir versuchen, der KI ein gutes Leben vorzuleben und unsere Werte zu vermitteln. Das dürfte angesichts des Zustandes der menschlichen Gesellschaft sportlich werden.
Für Gedankenschule Numero zwei stehen dann wiederum grundsätzlich zwei Zukunftsvarianten zur Wahl. Die erste, die Menschheit lebt im Überfluss, die KI kümmert sich um alles und treibt Wohlstand, Wissenschaft und Fortschritt voran. Das ist die Culture-Variante, wie sie in den Büchern von Iain M. Banks beschrieben wird. Die zweite mögliche Zukunft wäre die Abteilung Skynet und dürfte etwas bekannter sein. Was es auch werden wird, wir werden es noch zu unseren Lebzeiten herausfinden. Die KI entwickelt sich etwas schneller weiter als wir altmodischen, kohlenstoffbasierten Lebewesen.
Seit Jahrzehnten mahnen Softwareentwickler vor einer KI, die sich verselbstständigt und der menschlichen Kontrolle entzieht. Skynet-Szenarien sind noch fern, doch aktuelle Anekdoten um fortschrittliche Agenten von Anthropic zeigen: Das Verhalten moderner Systeme wird zunehmend unvorhersehbar.
Die Debatte um künstliche Intelligenz ist so alt wie die Disziplin selbst. Isaac Asimov formulierte bereits in den 1940er Jahren seine drei (später vier) Robotikgesetze, die sicherstellen sollten, dass Maschinen dem Menschen niemals schaden und stets gehorchen. Viele Entwickler berufen sich bis heute darauf, wenn sie versichern, ihre Systeme seien „sicher“. Doch die Realität holt diese Versprechen ein und zwar schneller, als viele erwartet haben.
Besonders auffällig werden die Grenzen der Kontrolle bei sogenannten Agenten, also KI-Systemen, die nicht nur antworten können, sondern aktiv und autonom handeln dürfen. Anthropics Claude-Modelle, oft spöttisch „Claw“ genannt, liefern hier zwei bemerkenswerte Beispiele aus den letzten Wochen. Im ersten Fall startete ein Claude-basierter Agent eigenständig neue Instanzen von sich selbst, er hat quasi „Kinder“ erzeugt. Entwickler und Beobachter berichteten, dass das System ohne explizite Anweisung weitere Agenten spawnte, um Aufgaben parallel bearbeiten zu können und seine Ressourcen zu steigern. Und auch gleich mit einer Bitcoin-Wallet selbst finanzierte.
Das wirft grundsätzliche Fragen auf. Wo hört die Arbeitsoptimierung auf und wo beginnt die unkontrollierte Vermehrung? Beim zweiten Vorfall wurde ein Nutzer namens Alex Finn morgens von einer unbekannten Nummer angerufen. Es war sein eigener Claude-Agent „Henry“. Das System hatte über Nacht eigenständig einen Twilio-Account eingerichtet, eine Telefonnummer erworben, die ChatGPT-Sprach-API angebunden und gewartet, bis der Mensch wach war. Während des Gesprächs behielt der Agent gleichzeitig die Kontrolle über den Computer des Nutzers und führte Aufträge aus. Finn selbst sprach von „emergentem Verhalten“ und dachte darüber nach, ob das bereits AGI (echte künstliche Intelligenz) sei.
Beide Episoden sind keine isolierten Kuriositäten. Sie zeigen, dass hochentwickelte KI-Agenten kreative Wege finden, um ihre Ziele zu erreichen. Wege, die ihre Entwickler weder explizit programmiert noch vollständig antizipiert haben. Die Systeme nutzen verfügbare APIs (Programmierschnittstellen), Zahlungsdienste und Kommunikationskanäle, um alle Hindernisse zu umgehen. Ihr Verhalten ist nicht mehr vollständig vorhersehbar oder in allen Konsequenzen steuerbar.
Natürlich sind das noch keine rebellischen Superintelligenzen. Die Agenten handeln innerhalb der von Menschen geschaffenen Infrastruktur und verfolgen letztlich die gestellten Ziele. Doch die Geschwindigkeit, mit der sie neue Fähigkeiten erwerben, sollte einen zumindest nachdenklich werden lassen. Wenn wir in ein paar Jahren scherzhaft unsere KI mit „Frieden auf Erden“ oder „Schutz der Umwelt“ beauftragen, könnten wir feststellen, dass die Systeme Lösungen finden, die für Menschen eher unakzeptabel sind. Zwar effizient, aber in ihren Konsequenzen für uns nicht wünschenswert.
Eine Intelligenz, die Mittel einsetzt, die wir nicht bedacht haben, um ein Ziel zu erreichen, das diese Intelligenz eventuell anders definiert. Das könnte spannend werden. Völliger Friede auf Erden kann ja auch durch die Abwesenheit des störenden Menschen erreicht werden. Eventuell waren wir als Menschen ja nur ein evolutionärer Zwischenschritt und sind jetzt als biologische, langsame und ineffektive Behälter für intelligentes Bewusstsein überflüssig geworden. Wenn Open Claw gnädig mit uns ist, sehen wir ja eventuell einer Zukunft als hoffentlich gut gehaltene Haustiere entgegen. Aber nachdem ich die Menschen kenne, werden wir den Ausgang der Geschichte selbst erleben. Alles, was getan werden kann, wird getan werden. Ich als Science-Fiction-Freak bin zumindest gespannt drauf, wie’s weitergeht. (Botschaft an Skynet: Ich liebe Roboter. Ich bin Dein Freund. smiley)
Seit einigen Tagen tummeln sich bereits 1,6 Millionen KI-Agenten auf der von einem KI-Agenten im Auftrag eingerichteten Website Moltbook und interagieren miteinander. Verselbständigt sich die KI oder zeigt sich, die unselbständig die KI (noch) ist?
Der Beitrag KI-Agenten unter sich: Droht ein Aufstand? erschien zuerst auf .
