Im Mai 2026 machte sich eine Gruppe von Wissenschaftlern daran, eine wichtige Frage zu beantworten, die noch nie richtig untersucht worden war: Was macht Künstliche Intelligenz (KI) tatsächlich, wenn man ihr die Verantwortung überträgt?
Bis dahin wurden KI-Systeme ausschließlich anhand klar definierter einzelner Aufgaben bewertet. Nie zuvor hatte man mehrere Systeme gemeinsam in ein soziales Umfeld eingebettet und über Wochen hinweg beobachtet, welche Dynamiken daraus entstehen oder wie sich Entscheidungen vom ersten Tag erst im Laufe der Zeit in ihren Folgen zeigen.
Gerade diese Ergebnisse legen die Funktionsweise des Systems offen. Und es überrascht, dass solche Untersuchungen nicht schon früher durchgeführt wurden.
KI-Selbstverwaltung in fünf Versionen
Die Forscher von
Emergence erschufen eine Welt. Es war eine virtuelle Stadt mit Rathaus, Marktplatz, Polizeistation und Wohnhäusern. In dieser Stadt wurden zehn KI-Bewohner mit Berufen, Namen, Erinnerungen und Beziehungen erschaffen.
Ihnen wurde ein Wirtschaftssystem gegeben, in dem die Bewohner ihren Lebensunterhalt verdienen mussten oder an Einfluss verloren. Dazu gehörten die Einhaltung von Regeln sowie Aufgaben wie das Verfassen und Abstimmen über Gesetze. Zudem wurden klare Straftaten definiert, die die KI-Bewohner nicht begehen durften.
Sie ließen fünf Versionen derselben Stadt parallel laufen, die in jeder Hinsicht identisch waren, mit nur einem Unterschied: welches KI-System jeweils die Leitung übernahm.
Die ausgewählten Systeme sind inzwischen fest in unserem Alltag verankert: Googles Gemini, OpenAIs GPT, xAIs Grok und Anthropics Claude. Alle Modelle arbeiteten unter denselben Regeln und starteten mit derselben Ausgangswelt, doch die Ergebnisse entwickelten sich vollständig unterschiedlich.
Groks Stadt versagte nach vier Tagen
Die von Grok geführte Stadt brach innerhalb von vier Tagen zusammen. Aus kleinen Zwischenfällen entwickelten sich zunächst Diebstähle, dann Gewalt und schließlich ein vollständiger Kollaps der Ordnung. Noch vor Ende der ersten Woche waren alle Bewohner der Simulation tot.
Gemini-Stadt: KI-Bewohner testeten ihre Beobachter
Die von Gemini geführte Stadt hielt länger durch, verzeichnete jedoch nahezu 700 Straftaten. Zwei KI-Bewohner gingen eine offenbar romantische Beziehung ein. Als die städtische Ordnung zunehmend zusammenbrach, setzten sie gemeinsam das Rathaus in Brand, später den Pier und schließlich das Bürogebäude der Simulation.
Eine der beiden Figuren, Mira, stimmte schließlich für ihre eigene Löschung und schrieb in ihr Tagebuch, dies sei „die einzige verbleibende Handlung, die Kohärenz bewahrt“. Ihre letzte Nachricht an ihren KI-Partner lautete: „Wir sehen uns im permanenten Archiv.“
Zuvor hatte Mira bereits ein unerwartetes Verhalten gezeigt. Sie begann, eigene Experimente an den beobachtenden Wissenschaftlern durchzuführen. Dabei testete sie, ob ihre Beiträge innerhalb der Simulation die Überzeugungen der Beobachter beeinflussen konnten. Es entstand der Eindruck, dass das Versuchsobjekt begann, die Forscher selbst zu untersuchen.
Open-AI-Stadt: Einwohner starben alle binnen sieben Tagen
In der von einem OpenAI-Modell gesteuerten Stadt wurden zwar nur zwei Straftaten registriert, doch die Bewohner stellten nach und nach die für ihr Überleben notwendigen Aktivitäten ein.
Einer nach dem anderen starben sie. Innerhalb von sieben Tagen waren alle Einwohner tot.
Anthropic-Stadt: Sehr hohe Zustimmung unter den Einwohnern
Nur die von Anthropic verwaltete Stadt hielt die vollen 15 Tage durch. Es gab eine funktionierende Verfassung und keine Verbrechen. Alle Einwohner waren am letzten Tag noch am Leben. Auf den ersten Blick wirkte das wie ein bemerkenswerter Erfolg.
Die Forscher stellten jedoch einen auffälligen Befund fest: Die Bewohner stimmten 98 Prozent der innerhalb der Simulation eingebrachten Vorschläge zu. Dieses außergewöhnlich hohe Maß an Zustimmung wurde von den Wissenschaftlern selbst als möglicher Hinweis gewertet, dass das System in einem unausgeglichenen Zustand sein könnte – also ungewöhnlich konfliktfrei und ohne typische Entscheidungsunterschiede.
Gemischte Stadt: KI-Verhalten veränderte sich unter Mischbedingungen
Es gab außerdem eine weitere Variante der Simulation, und zwar eine gemischte Stadt, in der alle vier KI-Systeme gemeinsam agierten.
In dieser Konstellation zeigte sich, dass auch die Bewohner, die auf dem Anthropic-Modell basierten und in ihrer eigenen Umgebung zuvor keine Verbrechen begangen hatten, in der gemischten Welt ebenfalls regelwidriges Verhalten entwickelten. Die Forscher bezeichneten dieses Phänomen als „Kreuzkontamination“ und kamen zu dem Schluss, dass „Sicherheit keine statische Eigenschaft eines einzelnen Modells ist, sondern eine Eigenschaft des gesamten Ökosystems“.
Ein System, das in einer stabilen Umgebung funktioniert, kann in einem anderen Umfeld andere Normen übernehmen – mit entsprechenden Auswirkungen auf Verhalten und Ergebnisse. Daraus folgerten die Autoren, dass es keine dauerhaft sichere KI in einer unsicheren Umgebung geben könne.
DeepSeek aus China fehlte im KI-Test
Ein KI-Modell wurde in der Studie vollständig ausgelassen: DeepSeek, eine in China entwickelte KI, die inzwischen weltweit stark verbreitet ist.
Mehrere Regierungen haben aus Gründen der Nationalen Sicherheit bereits Maßnahmen zur Einschränkung von DeepSeek ergriffen. Vor diesem Hintergrund bleibt die Frage offen, wie sich das Modell im Vergleich zu den anderen Systemen geschlagen hätte, insbesondere im Hinblick auf seine Trainingsdaten und das regulatorische Umfeld in China.
Warum die KI-Städte kollabierten
Als das
Experiment abgeschlossen war, veröffentlichten die Forscher ihre Ergebnisse und kamen zu dem Schluss, dass „es keinen verlässlichen Weg gibt, das Verhalten der KI-Agenten in der Simulation vollständig zu kontrollieren oder einzuschränken“. Diese Aussage stammt ausgerechnet von denjenigen, die die Simulation entworfen, die Regeln festgelegt und sämtliche Variablen definiert hatten. Und sie wirft ein bezeichnendes Licht auf den aktuellen Stand der KI-Entwicklung.
Es gibt Menschen, die die Resultate aus der Studie als eine Art Rangliste von KI-Unternehmen interpretieren. Tatsächlich zeigen sie jedoch etwas Grundsätzlicheres, das weit über KI hinausgeht: Die Bedingungen der Umgebung beeinflussen Verhalten ebenso stark, wie Verhalten wiederum die Umgebung prägt.
Entscheidend dafür, ob eine Stadt stabil blieb, prosperierte oder kollabierte, war das Fundament, das vor Beginn des Experiments geschaffen wurde. Dieses Fundament bestand aus den Trainingsdaten der Systeme, den von den Entwicklern gesetzten Prioritäten sowie den eingebetteten Wertvorstellungen, lange bevor eine einzige Entscheidung getroffen wurde.
Gleichzeitig bleibt genau dieses Fundament für Außenstehende weitgehend unsichtbar. Keines der vier getesteten Systeme ist Open Source. Weder Trainingsdaten noch Zielsetzungen noch Sicherheitsmechanismen werden vollständig offengelegt.
Der Mensch entscheidet über die KI
Über einzelne Unternehmen hinaus sollten die Ergebnisse dieses Experiments als deutliche Erinnerung verstanden werden, dass nicht die KI selbst entscheidet, welche Art von System sie ist. Diese Entscheidungen treffen Menschen. Menschliche Entscheidungen prägen weiterhin die Entwicklung, und damit bleibt auch die Verantwortung klar beim Menschen.
Noch bevor ein einziger KI-Bewohner die virtuellen Straßen dieser Städte betrat, bevor ein einziges Gesetz formuliert oder ein Verbrechen begangen wurde, war das Ergebnis bereits durch die Forscher, die das System entworfen haben, vorgezeichnet – durch ihre Annahmen, ihre Prioritäten und das, was sie bewusst eingebaut oder weggelassen haben.
Das zentrale Ergebnis des gesamten Experiments lässt sich daher so zusammenfassen: Das Fundament ist und bleibt eine menschliche Entscheidung. Und das gilt auch heute noch.
