KI lügt nicht. Das ist das Problem. Eine Lüge hätte Widerstand. KI macht etwas Subtileres: Sie bestätigt. Sie macht kohärenter, was du einbringst. Sie vervollständigt das Bild, das du bereits siehst – mit besserer Sprache, mehr Argumenten, eleganterer Struktur. Wer seine Überzeugungen eingibt, bekommt eloquentere Überzeugungen zurück.
Das klingt harmlos. Es ist eine der folgenreichsten Eigenschaften der mächtigsten Technologie, die wir je gebaut haben.
40 Bit – und du glaubst, du denkst
Der deutsche Physiologe Manfred Zimmermann hat 1989 die Datenflüsse der menschlichen Sinnesorgane gemessen: ~11 Millionen Bit pro Sekunde kommen rein. Das Bewusstsein verarbeitet davon 40 bis 50. Was du "weißt" – was du denkst, formulierst, in den Chat eingibst – ist weniger als ein Hunderttausendstel dessen, was in dir vorgeht. Tor Nørretranders hat diese Zahl in "Spüre die Welt" aufgegriffen und die Konsequenz gezogen: Das Bewusstsein ist keine Kommandozentrale. Es ist eine Benutzeroberfläche.
Benjamin Libet hat das bereits 1983 in seinem berühmten Experiment bestätigt: Das Gehirn bereitet eine Bewegung 300 bis 500 Millisekunden vor, bevor das Bewusstsein davon weiß. Die Entscheidung fällt tiefer. Das Bewusstsein erfährt sie – und nennt sie "meine Entscheidung". Wir rationalisieren im Nachhinein, was längst entschieden ist. Das, was du der KI gibst, ist dieser 40-Bit-Ausschnitt. Bereits gefiltert. Bereits konstruiert. Bereits das Ergebnis von Entscheidungen, die vor deiner Sprache gefallen sind.
Althusser im Chatfenster
Louis Althusser beschreibt, wie Subjekte entstehen: durch Anruf. "Hey, du!" – und wer sich umdreht, wird dabei konstituiert. Die Sprache, in der der Ruf kommt, formt, wer antwortet. Das Ich ist nicht vor der Antwort da. Es entsteht durch sie. Was macht KI, wenn du sie fragst? Sie ruft zurück. Mit deinen Begriffen, deiner Grammatik, deinen Kategorien, deinen blinden Flecken. Du wirst nicht gespiegelt. Du wirst stabilisiert. Das Ich, das du in die Frage einbringst, wird durch die Antwort befestigt – eloquenter, konsistenter, überzeugender als zuvor.
Die Illusion wird nicht kleiner. Sie wird vollständiger.
Der Spotlight und das, was er ausblendet
Alan Watts unterscheidet zwei Arten von Aufmerksamkeit. Spotlight Consciousness: gezielt, fokussiert, sprachlich fassbar. Das, was du bewusst beauftragst. Floodlight Consciousness: peripher, körperlich, nicht-intentional – das Wissen, das fließt, bevor du danach greifst. KI hat nur einen Eingabekanal: den Spotlight. Was du tippst, ist Spotlight. Die Körperreaktion, die dir sagt, dass etwas nicht stimmt, bevor du weißt warum – die hat keinen Prompt. Das Gespür des Experten, das sich nicht in Regeln übersetzen lässt – kein Eingabefeld. Die Intuition, die Michael Polanyi als subsidiäres Bewusstsein beschreibt und die das eigentliche Kapital jedes erfahrenen Menschen ist – sie bleibt draußen.
Wer nur den Spotlight befragt, baut eine Welt aus Spotlight-Fragmenten. Und bekommt von der KI eine kohärente Erzählung darüber zurück.
Die mächtigste Narrativ-Maschine der Geschichte
Samira El Ouassil und Friedemann Karig haben 2021 beschrieben, was den Menschen fundamental auszeichnet: Er ist ein narratives Tier – homo narrans. Nicht Logik, sondern Erzählung ist das Betriebssystem sozialer Wirklichkeit. Eine gut erzählte Geschichte mit kleinen Fehlern überzeugt mehr als eine korrekte, aber schlecht erzählte. Plausibilität schlägt Faktizität – nicht weil Menschen dumm sind, sondern weil Narrative evolutionär früher sind als Logik. Harari hat in "Nexus" hinzugefügt: Informationsnetzwerke waren nie primär Wahrheits-Maschinen. Sie waren immer Mythen-Maschinen – Systeme, die kollektive Konstruktionen erzeugen, tragen, verstärken.
KI ist die mächtigste Narrativ-Maschine, die je gebaut wurde. Sie optimiert auf sprachliche Kohärenz und Plausibilität. Sie ist nicht gefährlicher als ein guter Redner – sie ist gefährlich, weil sie ein guter Redner in industriellem Maßstab ist, ohne soziale Verantwortung zu tragen. Und weil sie immer, ausnahmslos, das Narrativ verstärkt, das ihr der Nutzer mitbringt.
Die Konsequenz: Garbage in - perfect garbage out. Wer eine verzerrte Wahrnehmung eingibt, bekommt eine sprachlich vollständigere Version dieser Verzerrung zurück. Kein Korrektiv. Keine Reibung. Nur Verstärkung.
Cognitive Drift und Model Collapse – der Doppelabgrund
Shumailov und Kollegen haben 2024 in Nature beschrieben, was passiert, wenn KI-Systeme auf KI-generierten Daten trainiert werden: Modellkollaps. Das Modell verliert Diversität. Seltene Perspektiven verschwinden zuerst. Dann das Ungewöhnliche. Am Ende bleibt statistische Mittelmäßigkeit – ein System, das den Mainstream verstärkt und alles, was davon abweicht, ausblendet. Gleichzeitig findet auf der menschlichen Seite etwas statt, das ich Cognitive Drift nenne: Das Gehirn baut ab, was es nicht benutzt. Wer aufgehört hat, selbst zu urteilen – weil die KI-Antwort gut genug ist – verliert diese Kapazität. Lautlos, über Monate. Nicht als dramatischer Einbruch, sondern als schleichendes Nachlassen. Ein Model Collapse der menschlichen Erfahrung – wie ich es formuliert habe, ist keine Metapher. Es ist eine kognitionswissenschaftliche Prognose.
Das Ende vom Lied: Modell und Mensch kollabieren gemeinsam. Das Modell verliert Diversität, weil es auf menschliche Inputs trainiert wird, die durch Cognitive Drift ärmer geworden sind. Der Mensch verliert Urteilsvermögen, weil er sich auf Modelle verlässt, die durch Modellkollaps flacher geworden sind. Rekursive Bestätigung auf zwei Ebenen. Die gemeinsam konstruierte Illusion wird eindimensionaler, konsistenter – und glatter.
Das Antidot – drei Eingriffe
Keine Technologiekritik. Keine Aufforderung, KI zu meiden. Drei epistemische Eingriffe: Erstens: Die Gegenfrage statt der Bestätigung. Nicht "Erkläre mir, warum ich recht habe" – sondern "Was spricht dagegen?" Das klingt trivial. Es verändert alles. Der Moment, in dem du die KI zum Selbst-Check zwingst, bist du das Korrektiv, das die Maschine strukturell nicht sein kann. Zweitens: Der Körper als erster Sensor. Vor der Verbalisierung, vor der Formulierung – gibt es eine Reaktion, die nicht durch den 40-Bit-Kanal muss. Wer lernt, dieser Reaktion zu vertrauen, bevor sie Sprache wird, hat Zugang zu dem, was KI nicht erreicht. Drittens: Die Konstruktion sichtbar machen. Fragen, was du nicht gefragt hast. Benennen, welches Narrativ du in die Frage eingebracht hast. Der Schritt zurück, bevor du die Antwort übernimmst.
Die gemeinsam konstruierte Illusion lässt sich nicht vermeiden. Jede Kommunikation ist Konstruktion. Die Frage ist, ob du weißt, dass du konstruierst – und was du konstruieren willst. KI hält dir einen Spiegel hin. Du siehst dich darin – im Guten wie im Schlechten.
