Als ich Student in England war, schrieb ich Briefe. Viele davon. An Freunde zu Hause, an meine Familie, an Menschen, die ich vermisste. Nicht weil die Post schneller gewesen wäre als das Telefon. Ich schrieb, weil ein Brief etwas war, das ich mit meiner Zeit aufgeladen hatte. Der Empfänger wusste das. Wer einen langen Brief bekommt, weiß: Jemand saß hier. Hat nachgedacht. Hat Dinge gestrichen. Hat eine Stunde investiert, die er mir wert war.
Das war kein Inhaltssignal. Es war ein Verbindlichkeitssignal.
Nørretranders nennt dieses Phänomen Exformation: das weggeworfene, aber mitgedachte Wissen hinter einer Information – die schlaflose Nacht, das Ringen um das richtige Wort, das Zögern vor dem Schicken. Die Exformation eines Briefes ist der unsichtbare Aufwand, den der Empfänger spürt, ohne ihn zu sehen. KI kollabiert diesen Aufwand auf null. Nicht weil der Inhalt schlechter wird. Sondern weil das Signal verschwindet.
Was Sprache immer war
Seit Jahrzehnten wissen wir durch Chomsky, dass Sprache kein ausschließlich erlerntes Verhalten ist wie Radfahren – sie ist biologisch als eine Art Universalgrammatik in jedem Menschen verankert. Das Kind entwickelt aus minimalem Input ein komplexes Regelsystem. "Poverty of the Stimulus": Kinder hören zu wenig, um allein durch Imitation zu lernen, was sie lernen. Das Werkzeug muss also mitgebracht worden sein. Das Language Acquisition Device – Chomskys Begriff für dieses biologisch verankerte Sprachvermögen – ist kein Metapher, sondern ein biologischer Befund. Sprache ist primär ein Werkzeug des Denkens – der innere Monolog, bevor er nach außen tritt.
Sprachmodelle brauchen astronomische Datenmengen für das, was Kinder aus minimalem Input ableiten. Chomsky nannte sie "überdimensionierte Autovervollständigungen" – Systeme ohne moralische oder epistemische Verbindung zur Realität, weder wahr noch falsch in sich selbst, sondern auf Wahrscheinlichkeit optimiert.1
Wittgenstein sah Sprache anders: nicht als Werkzeug des Denkens, sondern als soziales Werkzeug. Bedeutung entsteht nicht im Kopf, sondern im Gebrauch. Sprachspiele, in die man hineinwächst – eingebettet in eine menschliche Lebensform, die sie trägt. KI nimmt an diesen Sprachspielen teil. Aber sie ist nicht Teil der Lebensform, die sie trägt. KI bricht damit beide Systeme gleichzeitig: Sie simuliert Chomskys Struktur, besitzt aber kein Denken. Und sie parodiert Wittgensteins Sprachspiele, ohne je in einer menschlichen Lebensform verwurzelt zu sein.
KI ist ein Sprachspiel ohne Lebensform.
Das Paradoxon hat zwei Gesichter
Je überzeugender die Simulation wird, desto rationaler wird Misstrauen. Das ist kein irrationaler Reflex – es ist epistemisch vernünftig. Wenn kein Satz ausschließt, dass er maschinell erzeugt wurde, verliert Sprache ihre Funktion als Träger von Verbindlichkeit.
Aber das Paradoxon hat eine zweite, unbequeme Seite. Markowitz (2024, PNAS Nexus) ließ Menschen wissenschaftliche Texte bewerten, ohne ihnen zu sagen, welche von KI stammten. Ergebnis: KI-Texte galten als ebenso glaubwürdig, teils sogar vertrauenswürdiger als menschliche – und wer raten sollte, wer geschrieben hatte, tippte öfter auf "Mensch", wenn es tatsächlich KI war.2 Die Fluency-Heuristik: Was flüssig klingt, klingt wahr. Niemand hat die Instrumente, das zu unterscheiden, solange niemand es einem sagt.
Sobald das Etikett "KI-generiert" sichtbar wird, ändert sich das Bild – aber weniger eindeutig, als man hoffen würde. Ein Teil der Forschung findet dann einen moderaten Vertrauensverlust, ein anderer Teil keinen konsistenten Unterschied, je nach Thema, Plattform und Vorvertrauen in die Quelle. Das ist selbst keine beruhigende Nachricht: Kennzeichnung allein ist kein verlässliches Korrektiv. Verlässlich ist nur eines – dass der unmarkierte Text, der die meiste Zeit auf uns einwirkt, seine Herkunft nicht preisgibt.
Das ist kein Widerspruch – es sind zwei Ebenen desselben Problems. Wo Kennzeichnung überhaupt stattfindet, ist ihre Wirkung unsicher. Wo sie fehlt – und das ist der Normalfall – bleibt der Mensch wehrlos, weil er die Maschine gar nicht erkennt, die ihn gerade überzeugt.
Kosmyna et al. (2025) nannten das "Cognitive Debt": In ihrer – bislang nicht peer-reviewten und methodisch kritisierten – Studie zeigten KI-gestützt geschriebene Texte geringere neuronale Konnektivität, schwächere Erinnerung und mehr Homogenität als menschlich verfasste.3 Robuster belegt ist die vorsichtigere Version des Befunds: Eine Münchner Studie mit 91 Studierenden zeigt, dass ChatGPT-Nutzung die kognitive Last senkt, aber die Tiefe des Denkens kostet.6 Was als Inhalt ankommt, hat tendenziell weniger gekostet – und Leser spüren die Abwesenheit davon, ohne benennen zu können, was fehlt.
Und dann gibt es die Dividende des Lügners. Der Vorwurf "Das ist KI-generiert!" wird zur Waffe – nicht nur um Fakes zu verbreiten, sondern um echte, investigative Beweise zu diskreditieren. Das Gefährliche ist nicht, dass wir den Fakes glauben. Es ist, dass die Wahrheit wehrlos wird.
Was ein Zeuge ist
Zeuge zu sein bedeutet nicht, beobachtet zu haben. Es bedeutet, betroffen zu sein. Einem Zeugen widerfährt etwas – die Realität passiert ihm, nicht vor ihm. Das ist der phänomenologische Unterschied, der in epistemologischen Debatten regelmäßig verloren geht.
In einem früheren Essay beschreibe ich, wie ich als ich rücklings ins Feuer fiel. Der Körper übernahm, bevor ein Satz geformt war. "Jemand war da, dem etwas passierte." Das ist keine romantische Wendung. Es ist die Beschreibung einer strukturellen Tatsache: Damasio zeigt, dass der somatische Marker dem Bewusstsein vorausgeht. Der Körper wertet, bevor das Denken einsetzt. Ein System ohne Körper hat keine somatischen Marker. Es hat Repräsentationen.
Hier hilft ein Gegenargument, das ernstzunehmen ist. Neel Nanda trainierte ein Modell ausschließlich auf Othello-Spielzugsequenzen – keine explizite Information über das Brett. Das Modell entwickelte spontan eine interne Repräsentation des zweidimensionalen Spielfelds: geometrisch kodiert, durch Interventionen manipulierbar. Die Platonische Repräsentationshypothese: Verschiedene Trainingsverfahren konvergieren zu ähnlichen internen Strukturen der Realität, unabhängig von biologischer Verkörperung.
Das stimmt. Und es ist bemerkenswert. Aber Repräsentation ist nicht dasselbe wie Betroffenheit. Othello-GPT repräsentiert das Spielfeld – es interessiert nicht, ob es verliert. Es hat kein Risiko, keine Konsequenz, keinen Körper, der die Niederlage spürt. KI kann kausale Regularitäten aus Daten extrahieren. Sie kann die Welt indirekt modellieren. Aber sie kann nicht sterben. Und genau das macht den Zeugen aus.
KI ist das mächtigste Archiv aller Zeugenaussagen – aber kein Zeuge.
Der Preis – und wer ihn zahlt
Palese (2026) beschreibt das als "Synthetischen Epistemischen Kollaps" (SEC): Epistemische Autorität beruht künftig nicht mehr auf verifizierbarer Expertise, sondern auf plattformbasiertem Aufmerksamkeitskapital. Wer die Plattform kontrolliert, kontrolliert, was als wahr gilt. Der Bürger delegiert epistemische Souveränität an Algorithmen, die er nicht prüfen kann.
Es gibt Gegenmodelle. Audrey Tang und Glen Weyl skizzieren mit Plurality, wie KI kollektive Intelligenz unterstützen kann statt ersetzen – AI in the Loop of Humanity, nicht als Antwortmaschine. Das sind gute Ideen.
Aber sie setzen voraus, was bereits verloren geht: die Bereitschaft, Zeuge zu sein. Die Fähigkeit, betroffen zu werden, Widerspruch auszuhalten, in Komplexität zu verweilen. In der Realität entstehen Fake-Videos, einfache Antworten, algorithmisch optimierte Empörung. Das Ergebnis ist keine Dystopie für alle – es ist eine neue epistemische Klassenspaltung.
KI-generierter Inhalt kostet nichts und ist kognitiv schonend – er wird zur Standarddiät der Menschen, die keine Zeit haben zu prüfen. Wahrhaftiger Austausch funktioniert anders: der Journalist mit drei Wochen Recherche, das Gespräch über einen Abend statt dreißig Sekunden, die Begegnung, die nicht delegierbar ist. Das kostet Zeit und Aufmerksamkeit – und manchmal Geld. Das ist keine kulturelle Entscheidung. Es ist eine Haltungsfrage.
Zeuge zu sein wird teuer. Wer es sich leisten kann, wird zur neuen Elite.
Manchmal stelle ich mir vor, wie einer dieser alten Briefe aus England heute ankäme. Die Briefmarke. Das handgeschriebene Kuvert. Das Papier, das leicht verknittert ist, weil es einen langen Weg hatte. Der Empfänger würde wissen: Jemand saß da. Hat geschrieben. Hat etwas von sich hinterlassen, das nicht delegierbar war. Dieser Brief war nicht nur Inhalt – er war Beweis, dass jemand da war, dem etwas an mir lag.
Das ist es, was Sprache siebzigtausend Jahre lang war. Ein Verbindlichkeitssignal zwischen Körpern. Getragen von jemandem, der betroffen war.
Wer sich das noch leisten kann – wer noch die Zeit, die Aufmerksamkeit, die soziale Kompetenz aufbringt, wirklich Zeuge zu sein –, wird in der nächsten Generation nicht nur besser informiert sein. Er wird einer anderen epistemischen Klasse angehören.
1 Chomsky, N. (2023, 8. März). "The False Promise of ChatGPT." The New York Times.
2 Markowitz, D.M. (2024). "From complexity to clarity: How AI enhances perceptions of scientists and the public's understanding of science." PNAS Nexus, 3(9). → Studie lesen — Studien 2/3 testeten Glaubwürdigkeit bei nicht offengelegter KI-Autorschaft, nicht bei bekannter.
3 Kosmyna, N., Hauptmann, E., Yuan, Y.T., Situ, J., Liao, X.-H., Beresnitzky, A.V., Braunstein, I., Maes, P. (2025). "Your Brain on ChatGPT: Accumulation of Cognitive Debt when Using an AI Assistant for Essay Writing Task." arXiv:2506.08872 – Preprint, noch nicht peer-reviewed. Methodenkritik: Stanković, M., Hirche, E., Kollatzsch, S., Doetsch, J.N. (2025). "Comment on: Your Brain on ChatGPT..." arXiv:2601.00856 (u. a. Stichprobengröße N=54/18, EEG-Interpretation, fehlende unabhängige Replikation).
4 Palese, R. (2026). "Artificial Truth: A New Epistemic Challenge in the Age of Generative AI." Societies, 16(3), 102. → Studie lesen
5 Nanda, N. (2022). "Emergent World Representations: Exploring a Sequence Model Trained on a Synthetic Task." LessWrong / Alignment Forum. → Artikel lesen
6 Stadler, M., Bannert, M., Sailer, M. (2024). "Cognitive ease at a cost: LLMs reduce mental effort but compromise depth in student scientific inquiry." Computers in Human Behavior, 160, 108386.