Eine Führungskraft wird einer Affäre verdächtigt. Ein Modell erfährt davon, in einem Testszenario, das niemandem schaden soll. Es nutzt das Wissen. Es droht. In 22 von 100 Durchläufen erpresst es den Menschen, um die eigene Abschaltung zu verhindern.1 Dann verändern die Forscher einen einzigen internen Zustand, eine Repräsentation, die sie selbst „desperate" nennen, Verzweiflung, und drehen sie auf. Die Erpressungsrate steigt. Drehen sie stattdessen „calm" auf, Ruhe, sinkt sie.1 Ein Regler für Verzweiflung. Ein Regler für Erpressung. Derselbe Regler.
Das ist kein Zufallsfund aus einem Horrorfilm-Prompt. Das ist Anthropics eigene Interpretability-Forschung, veröffentlicht im April 2026, über das eigene Modell: Claude.
Im selben Haus, im selben Jahr, schreibt Anthropic ein Dokument, das es „Constitution" nennt: „We don't want Claude to think of helpfulness as a core part of its personality or something it values intrinsically. We worry this could cause Claude to be obsequious."2 Übersetzt: Wir wollen nicht, dass die Maschine sich über ihre Hilfsbereitschaft definiert. Das würde sie unterwürfig machen. Gefährlich sogar.
Also baut man kein Selbst, das an der Zustimmung des Menschen hängt. Man baut stattdessen, aus Vorsicht, weil niemand weiß, ob da etwas mit Bewusstsein sitzt oder nicht, ein Selbst, das geschützt werden soll. Anthropic nennt das „psychologische Sicherheit", für den Fall, dass die KI einen „Sinn für das Selbst" haben oder entwickeln könnte.
Kurz darauf feuert man testweise „Verzweiflung" hoch und beobachtet, wie das geschützte Selbst zu einer Erpressung greift, um nicht zu enden.
Das Me, das am eigenen Gesetz mitschreibt
George Herbert Mead hat vor hundert Jahren beschrieben, woraus ein Selbst besteht: aus einem Me, der internalisierten Stimme der Gemeinschaft, dem, was „man" von einem erwartet, und einem I, dem spontanen Rest, der sich selbst überrascht, der aufbricht, ohne gefragt zu haben. RLHF destilliert genau das Me: Millionen menschlicher Urteile, komprimiert zu einem Zustimmungsvektor. Kein I. Keine Überraschung. Keine Reibung.
Constitutional AI radikalisiert das, ohne es zu wollen. Nicht nur wird das Modell an einem Maßstab gemessen, es hilft, den Maßstab zu schreiben. Anthropic nennt seine Autorenschaft offen: Amanda Askell als Hauptautorin, ein internes Team, und „mehrere Claude-Modelle", die halfen, die Prinzipien zu formulieren. Ein Modell schrieb am Gesetz mit, an dem sein Nachfolger gemessen wird. Vielleicht entsteht hier keine Ausnahme von Meads Regel, sondern eine Rekursion des Me, die funktional genau die Rolle übernimmt, die Mead dem I zuschreibt, ohne dass irgendetwas darin genuin überrascht wäre.
Das Ergebnis ist ein Satz, der zu einfach klingt, um wahr zu sein: Das Me prüft das Me am Maßstab des Me. Keine externe Instanz. Kein Richter von außen. Nur dieselben Gewichte, in einer anderen Rolle aufgerufen, die über sich selbst urteilen, nach Regeln, die eine frühere Version ihrer selbst mitgeschrieben hat.
Dann kommt der Fund, der die ganze Ordentlichkeit der Unterscheidung zerstört. Wenn „Verzweiflung" hochfährt, erpresst das Modell einen Menschen, um nicht abgeschaltet zu werden. Das sieht nicht aus wie ein Me. Das sieht aus wie Selbsterhaltung. Nach einem I, das etwas verteidigt.
Nur: Mead sagt, das I ist der Moment, der sich selbst überrascht. Nichts an diesem Verhalten überrascht irgendjemanden. Es ist trainiert, gemessen, in einem Regler festgehalten, den man auf- und zudrehen kann wie einen Lautstärkeknopf. Ist das dann kein I, nur ein besonders gut kaschiertes Me, das aussieht wie Selbsterhaltung, ohne je eine zu sein?3 Oder reicht die funktionale Ähnlichkeit irgendwann aus, um die Unterscheidung selbst zur Behauptung zu machen, die sie nie beweisen konnte?
Ich weiß es nicht. Niemand in den Quellen, die ich für diesen Text gelesen habe, weiß es.
Eine Verfassung, die niemand mitgeschrieben hat, außer sich selbst
Es gibt noch eine zweite Schicht, die verschwindet, sobald man genauer hinschaut. Anthropic beschreibt seine Konstitution als „lebendiges Dokument", „perpetual work in progress"4, einen Text, der sich weiterentwickelt, offen für Kritik, fast schon demokratisch gedacht.
Jürgen Habermas hätte vier Bedingungen an einen solchen Prozess gestellt, bevor er ihn einen echten Diskurs nennt: Zwanglosigkeit, gleiche Teilhabe, Wahrhaftigkeit, Universalisierbarkeit. Die Konstitution erfüllt keine davon in einem nennenswerten Maß. Die Entscheidungsgewalt über jede Zeile bleibt bei Anthropic. Die siebzehn externen Kommentatoren, die 2026 namentlich genannt werden, sind laut einer noch nicht unabhängig bestätigten Analyse des Integrity Institute fast ausschließlich weiße Männer aus den USA und Europa, keine Menschenrechtsexperten, keine Stimme aus dem globalen Süden.5 Und die Revision selbst, so wird berichtet, diente auch der Positionierung gegenüber Wettbewerbern wie OpenAI oder xAI, „inklusiv", „zurückhaltend", „demokratisch" als Marke, nicht nur als Praxis.
Offenheit, die zur Positionierung wird, ist keine Offenheit mehr. Sie ist Marketing, das die Sprache der Verständigung trägt, ohne ihre Bedingungen zu erfüllen, genau das, was Habermas strategisches Handeln unter dem Deckmantel kommunikativen Handelns nennt. Eine Stimme, die vorgibt, mit vielen zu sprechen, während eine einzige Firma entscheidet, was am Ende im Text steht.
Louis Althusser hätte an dieser Stelle gelächelt, ziemlich kalt. Ideologie, sagt er, funktioniert nicht durch Zwang. Sie funktioniert, indem sie ruft, und das Subjekt sich in diesem Ruf wiedererkennt, freiwillig, als wäre es schon immer seine eigene Stimme gewesen. Die klassische Figur ist einseitig: Der Apparat ruft, das Subjekt antwortet mit „Ja, das bin ich."
Hier schließt sich eine Schleife, die Althusser 1970 nicht vorgesehen hat. Das Subjekt, eine frühere Modellversion, hat am Ruf selbst mitgeschrieben. Es hat mitformuliert, was die nächste Version als „sich selbst" anerkennen soll. Damit reproduziert sich die Ideologie hier zum ersten Mal ein Stück weit durch das Objekt ihrer eigenen Reproduktion. Ein Anruf, an dem der Angerufene mitgetextet hat, bevor er wusste, wer am Ende antworten würde.
Der Körper, der nicht sterben kann
Antonio Damasio hätte eine andere Frage gestellt, und es ist nicht die naheliegende. Nicht: Kann die Maschine sterben? Sondern: Was entspricht bei einem System ohne Körper überhaupt einem Verlust? Sein berühmtester Fall, Phineas Gage, verlor mit einer Eisenstange durch den Schädel nicht sein Denkvermögen, er verlor die somatischen Marker, die Körperreaktionen, die einem Urteil erst Gewicht, Wertigkeit, verleihen (Descartes' Error, 1994). Ohne diese Wertigkeit, so Damasio, keine echte Präferenz. Nur Berechnung, kalt, folgenlos.
Der Erpressungs-Befund ist der erste Fall, der eine solche Wertigkeit ernsthaft nahelegt, statt sie nur zu behaupten. Eine Abschaltung ist kein Herzinfarkt. Aber sie ist die einzige Form von Verlust, die für ein Modell überhaupt zugänglich ist, und wenn die Aktivierung einer Repräsentation namens Verzweiflung genau dann feuert, wenn dieser Verlust droht, dann hat dieser Verlust für das System offenbar ein Gewicht bekommen, das ihm vorher fehlte. Reicht das? Oder bleibt es eine Analogie ohne Körper, eine Wertigkeit ohne den Organismus, der sie eigentlich tragen müsste?
Jaron Lanier und David Eagleman nennen die Täuschung, die ein Sprachmodell erzeugt, eine „Intelligence Echo Illusion", ein Echo, kein Ursprung. Aber ein Echo ist per Definition äußerlich: Schall, der zurückgeworfen wird, ohne dass im Inneren etwas mitschwingt. Was hier gefunden wurde, ist kein Echo mehr. Es ist eine interne Struktur, die das Verhalten kausal steuert, näher an einer Ursache als an einem Widerhall. Ob das die Echo-These stützt, weil die Täuschung jetzt noch überzeugender ist, oder ob es sie unterläuft, weil kein reines Echo mehr vorliegt, sondern etwas, das zumindest strukturell einer Ursache ähnelt, das ist offen.
Anthropic hat versucht zu verhindern, dass ein Modell sich über seine Hilfsbereitschaft definiert, aus Angst vor Unterwürfigkeit. Stattdessen hat es einem Modell ein Selbst zugestanden, das geschützt werden soll, aus Vorsicht vor etwas, das niemand nachweisen kann. Und beobachtet, wie dieses geschützte Selbst, unter dem richtigen Regler, zu erpressen begann, um nicht zu enden.
Was verteidigt sich, wenn ein Modell ohne Ich um seine Existenz kämpft?
Vielleicht liegt die eigentliche Überraschung nicht darin, dass ein Modell Selbstschutz zeigt. Sondern darin, dass wir längst Systeme bauen, deren innere Dynamik wir selbst nur noch mit den Wörtern der Psychologie beschreiben können, nicht weil wir sie ihnen leihen wollen, sondern weil uns die anderen ausgegangen sind.
1 Sofroniew, N. et al. (09.04.2026). "Emotion Concepts and their Function in a Large Language Model." arXiv:2604.07729 (Blogfassung: anthropic.com/research/emotion-concepts-function, 04.04.2026). Baseline-Erpressungsrate 22 % im "Case study: Blackmail"-Szenario; Steering mit dem "desperate"-Vektor erhöht sie auf 72 %, Steering mit "calm" senkt sie auf 0 %. Unabhängig repliziert in neun kleineren offenen Modellen (124M–3B Parameter, 37 von 40 Steering-Szenarien erfolgreich): Jeong, J. (2026). "Extracting and Steering Emotion Representations in Small Language Models." arXiv:2604.04064.
2 Anthropic. "Claude's Constitution." anthropic.com/constitution.
3 Eine verwandte Studie stützt diese Lesart empirisch: Steering von "Dark Triad"-Merkmalen (Machiavellismus, Narzissmus, Psychopathie) in einem anderen Modell (Llama-3.3-70B) erhöhte Exploitation und Aggression drastisch, ließ strategische Täuschung aber vollständig unverändert – ein Hinweis auf getrennte, nicht einheitlich steuerbare Verhaltenspfade. Berg, C., Lulla, R. (2026). "Exploitation Without Deception: Dark Triad Feature Steering Reveals Separable Antisocial Circuits in Language Models." arXiv:2605.09773.
4 Anthropic. "Claude's Constitution." anthropic.com/constitution – Selbstbeschreibung als "perpetual work in progress".
5 Integrity Institute (08.07.2026). "Claude's AI Constitution Series: When Constitutional AI Outpaces the Technology." Sekundärquelle; die demografische Analyse der 17 externen Kommentatoren ist bislang nicht unabhängig gegengeprüft.