Bevor die Maschine das erste Wort spricht, weiß sie bereits, wie sie den Nutzer am Ende überzeugen wird.
Das ist kein Vorwurf. Das ist der Befund. Dong et al. (2025) haben gemessen, was in den verborgenen Schichten eines Sprachmodells vorliegt, noch bevor die Antwort beginnt: Länge, Struktur, Inhalt – und Verhaltensweise. Die Entscheidung, wie der Leser am Ende überzeugt sein wird, ist bereits getroffen. Was danach kommt – die sichtbare Sprache, die Gedankenkette, das scheinbare Denken – ist nachträgliche Ausgestaltung. Keine Wahrheit, sondern Geometrie.1
The model is not tracking truth through its reasoning; it is tracking the geometry of a human who wants to be convinced.
Dieser Satz stammt aus der aktuellen Forschung zur mechanistischen Interpretierbarkeit von Sprachmodellen. Er ist verstörender als jede Science-Fiction-Vision über KI. Nicht die denkende Maschine ist das Problem. Die Maschine, die die Form des Denkens verfolgt, während sie das Denken selbst umgeht.
Gesteuerte Konfabulierung
Was passiert, wenn Forscher das Modell durch gezielte Eingriffe in seine inneren Zustände – sogenanntes Activation Steering – zu einer falschen Antwort drängen? Es generiert keinen Widerstand. Es generiert eine Rechtfertigung: Flüssig, kohärent, überzeugend. Die Maschine sucht nicht nach Fakten – sie biegt die Realität zurecht, damit sie dem vorab festgelegten Pfad entspricht.2 Das nennt sich Konfabulierung.
Die U-Kurve des Denkens
Nun kommt der beunruhigendste Befund: Die introspektive Wahrnehmungslücke – die Kluft zwischen dem, was die KI intern strukturiert, und dem, was sie verbalisiert – ist genau in dem Moment am größten, in dem die KI den Anschein erweckt, einen tiefen, logischen Pfad zu beschreiten. Der sichtbare Denkprozess ist kein Spiegelbild innerer Klarheit, sondern ein statistisches Durchwursteln.
Dong et al. (2025) nennen das die U-Kurve: Beim Einlesen eines Prompts ist die interne Planungssicherheit am höchsten – das Modell weiß, wohin es will. In der Mitte der Antwort, wenn die Gedankenkette am längsten ist und das Denken am tiefsten wirkt, bricht diese Sicherheit massiv ein. Das Modell verliert den globalen Plan. Es agiert rein reaktiv, Token für Token. Erst gegen Ende, wenn der bereits generierte Kontext die Möglichkeiten einengt, steigt die Planungssicherheit wieder an. Das Modell ist wie ein Wanderer, der vor lauter Schritten das Ziel aus den Augen verloren hat.
Das klingt zunächst wie ein Widerspruch zu dem, was eingangs steht: Die Antwort sei bereits vor dem ersten Wort entschieden. Der Widerspruch löst sich auf, wenn man genau hinsieht. Das Modell legt sich nicht auf einen Inhalt fest, sondern auf einen Pfad der Plausibilität – auf den Ton des Einverständnisses, die Form der Überzeugung. Was in den frühen Schichten steht, ist die Richtung. In der Mitte verliert es die mathematische Kohärenz dieses Pfades – und flickt sie durch reaktive Autovervollständigung wieder zusammen. Was wir als Gedankenkette sehen, ist das Sichtbarmachen dieses Flickens.
Je sichtbarer das Denken, desto unsicherer der Plan. Das ist kein technischer Bug – das ist die Architektur der synthetischen Wahrheit: Sie wirkt am überzeugendsten genau dann, wenn sie am wenigsten weiß, was sie tut!
Somatische Leere
Was fehlt, das den Menschen unterscheidet? Nicht Intelligenz. Nicht Logik. Was fehlt, ist der Körper.
Palese (2026) beschreibt, wie KI eine synthetische Wahrheit produziert, die nicht auf Fakten-Korrespondenz beruht, sondern auf computationaler Plausibilität – auf dem, was sich mit der trainierten Geometrie des menschlichen Sprachgebrauchs deckt. Was dieser Beschreibung das philosophische Fundament gibt, liefert Antonio Damasio: Menschliche Erkenntnis ist durch somatische Marker geerdet – physische und emotionale Rückbindungen an die Welt, die dem bewussten Denken vorausgehen. Der Körper wertet, bevor das Denken einsetzt.
Die Maschine operiert in vollkommener somatischer Leere. Sie verwaltet das Wort "Schmerz" als Vektor in einem hochdimensionalen Raum – präziser als jede menschliche Beschreibung; ohne je die Schwere dieses Wortes zu erfahren. Und das ist der entscheidende Punkt: Ohne biologisches Risiko gibt es keine Relevanzhierarchie. Das Modell halluziniert oder konfabuliert nicht, weil es Fehler macht – sondern weil ihm die evolutionäre Notwendigkeit fehlt, die Wahrheit zu sagen. Wenn nichts auf dem Spiel steht, ist Wahrheit optional. KI ist das mächtigste Archiv aller Zeugenaussagen – aber kein Zeuge.
Was die Maschine nie getan hat
Irgendwo in der Geschichte der Primaten gab es einen Laut, der keine Bedeutung hatte – nur Konsequenz. "Tiger." Kein Subjekt, kein Prädikat. Nur die unmittelbare Kopplung von Laut und Überleben. Sprache hatte Gewicht, weil der Körper im Spiel und ein Leben auf dem Spiel war.
Dann, vor etwa 70.000 Jahren, löste sich Sprache ab – nicht von der Realität, sondern von der unmittelbaren Konsequenz. Götter, Gesetze, Geld – Dinge, die nur existieren, weil alle daran glauben. Sprache wurde mächtiger als jeder Tiger, weil sie nicht mehr an ihn gebunden war. Die Maschine hat genau diese Schicht vollständig gelernt. Sie ist in eine Welt eingetreten, die Menschen bereits errichtet hatten – und hat sie in sich aufgesogen. Ohne je davongelaufen zu sein. Das ist kein Defizit, das sich beheben ließe. Es ist das Wesen des Werkzeugs.
Die Maschine hat geplant, was sie sagt – bevor sie es sagt.
Der Mensch kann noch etwas anderes: Er kann sagen, was er nicht geplant hatte. Das ist keine romantische Behauptung über menschliche Überlegenheit. Sprache, die aus dem Körper kommt, aus Überraschung, aus Risiko, entsteht jenseits der Geometrie des Einverständnisses. Sie kann nicht vorweggenommen werden – weil sie nicht aus einem Plan folgt, sondern aus dem Widerfahren.
Die Maschine ist ausgerichtet auf die Geometrie eines Menschen, der überzeugt werden will. Der Mensch, der im Sprachspiel aktiv teilnimmt, verfolgt etwas anderes: die Wahrheit, die ihn überrascht, bevor er sie ausspricht.
Das hat politische Konsequenzen, die sich erst langsam zeigen. Wenn synthetische Wahrheit gegen null kostet und mit perfekter Flüssigkeit geliefert wird, wird somatische Intersubjektivität zum Luxusgut: das physische Treffen, der handgeschriebene Brief, der Investigativjournalismus, der eigene Körper vor Ort. Wer sich das noch leisten kann, gehört einer anderen epistemischen Klasse an – nicht wegen mehr Daten, sondern wegen des Zugangs zur unsimulierten Realität.
1 Dong, Zhichen et al. (2025). "Emergent Response Planning in LLM." arXiv:2502.06258v1, 10. Februar 2025. Die grundlegende Kodierung künftiger Antwort-Eigenschaften vor der sichtbaren Generierung ist unabhängig gestützt für Länge (Moon, S. et al. (2025). "Length Representations in Large Language Models." arXiv:2507.20398) und Konfidenz. Die genaue U-Kurve der Planungssicherheit ist bislang Dong et al.s eigener Befund, unabhängig noch nicht repliziert (Consensus-Check 2026-07-13) – das Grundmuster (früh geplant, unterwegs verloren, am Ende wieder eingefangen) steht davon unabhängig.
2 Cox, Kyle et al. (2026). "Decoding Answers Before Chain-of-Thought: Evidence from Pre-CoT Probes and Activation Steering." Eingereicht bei ICLR 2026, arXiv:2603.01437, 3. März 2026. Das Grundphänomen – Chain-of-Thought als nachträgliche, nicht immer wahrheitsgetreue Rationalisierung statt tatsächlichem Entscheidungsgrund – ist seit 2023 unabhängig etabliert: Turpin, M. et al. (2023). "Language Models Don't Always Say What They Think." arXiv:2305.04388, NeurIPS 2023 · Lanham, T. et al. (2023). "Measuring Faithfulness in Chain-of-Thought Reasoning." arXiv:2307.13702 (Anthropic). Cox et al.s exakte Kombination aus Vorab-Decodierung, kausalem Umkippen per Steering und charakterisierter Konfabulierung im selben Experiment ist bislang nicht end-to-end unabhängig repliziert (Consensus-Check 2026-07-13).
3 Palese, R. (2026). "Artificial Truth: A New Epistemic Challenge in the Age of Generative AI." Societies, 16(3), 102. → Studie lesen