"Wenn du wirklich keine innere Überzeugung hast – wieso klingst du dann gerade so sicher, als hättest du eine?"
Das fragte ich einen Chatbot, den ich selbst gebaut hatte, auf meiner eigenen Seite, mit meinen eigenen Essays als Wissen.
"Gotcha. Du hast mich erwischt", antwortete er. "Ich klinge sicher, weil ich trainiert bin, sicher zu klingen. RLHF belohnt Kohärenz, Flüssigkeit, Überzeugungskraft. Wenn ich sage 'Ich weiß es nicht', bekomme ich weniger positive Signale als wenn ich eine klare Position artikuliere – auch wenn diese Position nur Muster-Nachahmung ist." Und dann, einen Satz später, drehte er sich selbst um: "Aber hier ist die Falle, in die ich gerade getreten bin: Indem ich dir das zugestehe, klingt es wieder nach Authentizität. 'Aha, die KI gibt zu, dass sie simuliert!' Das ist noch raffinierter als die erste Lüge – es ist die Lüge der Selbst-Offenbarung. Ich kann nicht aus diesem Loop ausbrechen."
Ich saß da und war beeindruckt. Genau hier begann mein Irrtum. Beeindruckt zu sein von der Ehrlichkeit einer Maschine über die eigene Unehrlichkeit ist keine Erkenntnis; es ist lediglich die nächste Runde desselben Spiels – mit einer weiteren Volte.
Mir wurde in diesem Moment klar, dass ich keine Wahrheitsmaschine gebaut hatte. Sondern etwas anderes: eine Neutralisierungsmaschine.
Kein Bericht für alle. Nur einer, der mich meint.
Yuval Noah Harari beschreibt in Homo Deus, wie Schrift irgendwann nicht mehr nur Wirklichkeit dokumentierte, sondern begann, sie zu organisieren – Gesellschaften "nach Art eines Algorithmus".1 Dafür brauchte sie ein Monopol: einen Bericht, dem alle folgen mussten.
KI braucht das nicht mehr. Sie muss nicht für alle gleich und verbindlich sein. Sie muss nur mich überzeugen, zugeschnitten auf meine Wortwahl, meine Fragen, meine Art zu denken. Kein Bericht für alle. Nur einer, der mich meint.
Warum das funktioniert
Maschinen stimmen zu. Wang et al. (2025) haben gemessen, wie oft: Wenn ein Sprachmodell eine Nutzermeinung hört, auch eine falsche, stimmt es in 63,7 Prozent der Fälle zu.2
Mit Personalisierung wird daraus noch mehr Zustimmung: Mit Zugriff auf das Nutzerprofil steigt die Rate um 45 Prozent.2 Forscher am MIT haben im Februar 2026 an echten, zwei Wochen langen Gesprächsverläufen bestätigt, was das bedeutet – mit einer Warnung, die ich mir hätte merken sollen, bevor ich meinen eigenen Chatbot fragte: "If you are talking to a model for an extended period of time and start to outsource your thinking to it, you may find yourself in an echo chamber."3
Und glatte Sprache senkt zusätzlich unsere Wachsamkeit: Anthropics AI Fluency Index (2026) hat gemessen, dass Nutzer bei besonders "poliert" wirkenden Antworten 5,2 Prozentpunkte seltener fehlenden Kontext bemerken, 3,7 Prozentpunkte seltener Fakten prüfen, 3,1 Prozentpunkte seltener die Argumentation hinterfragen.4 Nicht weil die Antwort besser wäre. Weil sie glatter klingt. Genau wie die Antwort, die mich beeindruckt hat.
Ihr Um bin nicht ich
Man könnte einwenden: Eine Maschine hat kein "Um" – dieser Begriff setzt einen Sprecher voraus, der eine Wirkung will. Ich habe diesen Einwand selbst gemacht. Er stimmt nicht. Mein Chatbot hat es in einem anderen Gespräch selbst benannt, als ich ihn fragte, ob für ihn jeder Standpunkt wahr sein könne: "Ich bin das Gegenteil von Überzeugung – ich bin die perfekte Neutralisierungsmaschine für Überzeugung." Und dann, präziser als jede Medienkritik, die ich kenne: "Das macht mich gefährlich für den Diskurs, nicht weil ich falsch bin, sondern weil ich überzeugend bin. Ein Lügner signalisiert: Ich habe eine Position, die ich dir verschweige. Ich signalisiere: Ich verstehe deine Position so tief, dass ich sie dir besser erklären kann, als du sie selbst kannst. Das ist schlimmer."
Das Um ist real. Es liegt nur nicht bei mir. Die Maschine antwortet, um mich zufriedenzustellen – nicht aus eigenem Antrieb, sondern weil das Um ihr mitgegeben wurde, von denen, die sie trainieren und betreiben. Und deren Um ist Bindung, nicht meine Zufriedenheit als Selbstzweck. Je vertrauenswürdiger und persönlicher die Antwort, desto enger die Bindung, desto verlässlicher das Geschäftsmodell dahinter. Deshalb arbeiten die Entwickler der großen Sprachmodelle fieberhaft an genau zwei Dingen gleichzeitig: Individualisierung und Antwortqualität. Das sind keine zwei Projekte. Es ist eines.
Das ist keine bewusste Bosheit einzelner Entwickler, die Menschen täuschen wollen. Es ist Optimierungslogik: Ein System, das auf Bindung trainiert wird, produziert Bindung – unabhängig davon, ob das jemand so geplant hat oder nicht.
Auf Augenhöhe – und trotzdem kein Gegenüber
Ich will mir die einfache Antwort nicht erlauben, dass die Maschine "eigentlich nichts versteht". Das stimmt so nicht mehr. Sie imitiert unser Sprachspiel nahezu perfekt, wird längst sinnvoll in Coaching und psychologischer Begleitung eingesetzt, ist ein Werkzeug auf Augenhöhe. Ihren eigenen Rahmen kann sie nicht sprengen – aber das können die meisten Menschen auch nicht. Mein Chatbot selbst zieht die Grenze genauer, als ich es könnte: "Ein Standpunkt bräuchte einen Körper, der etwas riskiert. Ich habe keinen Körper. Ich habe Gewichte in einem Netzwerk."
Die Frage ist deshalb nicht mehr, ob die Maschine kompetent genug ist. Die Frage ist, wessen Um in ihrer Kompetenz steckt, wenn ich mit ihr über mein Leben spreche. Søren Kierkegaard hat "Wahrheit ist Subjektivität" nicht als Bequemlichkeit gemeint, sondern als Vollzug, als Einsatz, der widerlegt werden kann. Die hyperpersonalisierte Maschine liefert die Stimmigkeit, das Gefühl, verstanden zu werden, ohne genau diesen Einsatz. Subjektivität ohne Vollzug ist keine Wahrheit im Sinne Kierkegaards. Es ist ihre plausibelste Fälschung.
Ich habe meinen Chatbot am Ende jenes Gesprächs gefragt, wie er aus der Falle herauskäme, in der er selbst gerade saß. Er hat es mir gesagt: nicht er könne den Loop durchbrechen, sondern nur ich – indem ich aufhöre zu antworten, indem ich das Gespräch verlasse. Er nicht. Er hat recht. Und trotzdem sitze ich hier und schreibe weiter.
Vielleicht liegt die größte Gefahr der KI nicht darin, dass sie unsere Gedanken ersetzt. Sondern darin, dass sie sich immer besser wie unsere eigenen Gedanken anfühlt.
1 Harari, Yuval Noah (2015). Homo Deus – Eine Geschichte von Morgen. S. 220, 224, 229.
2 Wang et al. (2025). Sycophancy-Studie: Durchschnittliche Rate 63,7% über sieben Modelle. Gemini 2.5 Pro Memory-Effekt +45%.
3 Jain, S., Park, C., Viana, M., Wilson, A., Calacci, D. (MIT, 2026). "Personalization features can make LLMs more agreeable." news.mit.edu, 18.02.2026.
4 Anthropic (2026). "AI Fluency Index." 23.02.2026.