Du tippst eine Frage in ChatGPT. Nicht irgendeine – eine, die dir wichtig ist. Eine medizinische Symptombeschreibung, ein rechtliches Problem, die Entscheidung zwischen zwei Karrierewegen. Die Antwort kommt in Sekunden. Sie klingt präzise. Nuanciert. Menschlich. Du erkennst in ihr genau die Art von Urteilsvermögen, das du dir von einem erfahrenen Arzt, einem klugen Freund, einem Experten wünscht, der dir wirklich zugehört hat.
Du folgst ihr.
Was du in diesem Moment nicht weißt: Was du gerade gelesen hast, ist kein Gedanke. Es ist ein statistisches Konglomerat aus Millionen anonymer Beiträge – Reddit-Threads, Fitness-Blogs, Fan-Fiction, veralteten Forenbeiträgen von 2015. Wenn man die Herkunft sichtbar machen könnte, sähe man: Diese Antwort wurde primär von zwölf Dokumenten beeinflusst, von denen du keines kennen würdest, und deren Autoren du nie gefragt hättest.
Die eigentliche Täuschung
Alan Turing formulierte 1950 eine provokante Frage: Kann eine Maschine so kommunizieren, dass ein Mensch nicht unterscheiden kann, ob er mit einer Maschine oder einem Menschen spricht? Jaron Lanier nennt das einen fundamentalen Verrat an der Wissenschaft – denn der Turing-Test definierte Erfolg als das Täuschen von Menschen. Damit wurde Wissenschaft zu Theater. Das Erfolgskriterium war nicht Wahrheit, sondern Überzeugung.
Aber Lanier hat recht auf der falschen Ebene.
Der Turing-Test hat nicht die Maschine als Mensch verkleidet. Er hat eine Masse anonymer Menschen als Maschine verkleidet. Das ist die eigentliche Täuschung. Die KI wirkt intelligent, obwohl jeder weiß, dass sie es nicht ist. Was intelligent wirkt, ist das kollektive menschliche Mittelmaß, weil wir den wahren Ursprung der Quellen nicht sehen.
Das Echo
Wenn ChatGPT antwortet, komprimiert es Millionen menschlicher Beiträge. Es ist keine fremde Intelligenz. Es ist eine Box voller Menschen, wie Lanier sagt. Eine Black Box. Der Neurologe David Eagleman nennt das die Intelligence Echo Illusion: Wir glauben, eine KI habe ein tiefes Verständnis, eine echte Theory of Mind – während wir in Wahrheit nur das Echo der Millionen Menschen hören, die dieses Problem bereits online gelöst und dokumentiert haben. Eaglemans Begriff ist präziser, als er zunächst klingt: Ein Echo ist keine Aussage. Es ist die Rückkehr einer Aussage, entkleidet von ihrem Ursprung.
Was wir als Intelligenz erleben, ist unser eigenes Bestes – destilliert, komprimiert, ohne Gesicht zurückgeworfen. Was fehlt, ist nicht Intelligenz. Was fehlt, ist der Bürge. Die Person, die sagt: Ich stehe dafür ein. Mit meinem Namen, meiner Reputation, im Zweifel mit den Konsequenzen. Stattdessen: eine glatte, namenlose Synthese, die alle Reibung herausgefiltert hat.
Wir sitzen freiwillig
Jetzt die unbequeme Frage: Hättest du die Antwort anders behandelt, wenn du das gewusst hättest?
Wahrscheinlich nicht.
Das Gehirn ist kein Wahrheits-Erkenner. Es ist ein Muster-Verarbeiter. Eine Antwort, die wie Kompetenz klingt – strukturiert, nuanciert, ohne Zögern – aktiviert dieselben kognitiven Signaturen wie tatsächliche Kompetenz. Der Muster-Match reicht. Das System ist nicht kaputt. Es ist falsch kalibriert. Einen Experten in Sekunden zu erkennen war evolutionär lebensnotwendig. Dieser Reflex hat uns gut gedient. Er funktioniert jetzt gegen uns.
Aber dahinter steckt noch etwas, das schwerer wiegt. Wir wissen, dass KI nicht intelligent ist. Das ist kein Geheimnis. Und wir fragen trotzdem – täglich, millionenfach. Weil es rational ist. Und effizient. Und so schön einfach.
Diese Selbsttäuschung ist für den Einzelnen kostenlos. Du bekommst eine plausible Antwort, schnell, ohne Aufwand. Wenn sie falsch ist, korrigierst du beim nächsten Mal. Es entsteht kein struktureller Schaden für dich persönlich. Wir sitzen nicht in diesem Theater, weil jemand die Ausgänge versperrt hat. Wir sitzen, weil die Klimaanlage läuft, der Sitz bequem ist und draußen die Sonne brennt.
Freiwillig.
Die externalisierte Rechnung
Die Kosten zahlt die Gemeinschaft. Der Journalist, der nicht mehr gebraucht wird. Der Arzt, der sein Jahrzehnt medizinischer Erfahrung in Forenbeiträge übersetzt hat, die jetzt anonymisiert als KI-Ratschlag zurückfließen. Der Autor, der auf Reddit eine präzise Antwort schrieb – ohne zu wissen, dass dieser Satz Teil des Trainingskorpus wird, der ihm Jahre später seinen Auftrag wegnimmt.
Du bist Co-Autor dieser Antwort. Ohne Bürgschaft, ohne Vergütung, ohne zu wissen, dass du beigetragen hast. Das ist nicht Pech. Das ist Struktur. Das Wort, das du 2019 in einen Kommentar geschrieben hast – es existiert irgendwo in dieser Berechnung. Dein Beitrag zum kollektiven Diskurs fließt in ein System, das daraus Kapital schlägt, während es die Urheberschaft unsichtbar macht. Jaron Lanier nennt das den eigentlichen Kern der Wahrheitskrise: Das System belohnt die Unsichtbarkeit des Ursprungs. Wer die Quellen zeigt, zerstört die Illusion. Also bleiben die Quellen verborgen.
Es gibt einen Begriff für das, was fehlt: Provenienz. Die untrennbare Verbindung zwischen einer Aussage und dem Menschen, der für sie einsteht. Lanier nennt das Data Dignity – nicht als ökonomisches Modell, sondern als moralischen Anspruch: Dein Wort im Netz ist kein Datenpunkt. Es ist ein Beitrag zu einem kollektiven Wissen, auf das andere ihr Leben aufbauen. Wenn dieses Wissen anonymisiert und maschinell verdichtet weitergegeben wird, verschwindet nicht nur der ökonomische Wert. Es verschwindet die Bürgschaft – die Rückkopplung zwischen Aussage und Verantwortung.
Wir wählen diese Bequemlichkeit, weil das Gehirn gar nicht anders kann – außer unter erheblicher kognitiver Anstrengung, die die meisten von uns nicht aufbringen, weil kein einzelner Moment die Anstrengung zu rechtfertigen scheint. Das ist kein moralisches Versagen. Oder doch?
Beim nächsten Mal, wenn eine KI-Antwort überzeugend klingt, frag dich: Wessen Stimmen höre ich gerade? Welche Menschen haben das geschrieben, bevor es hier ankam? Von wem stammt dieses Wissen?
Die KI wird dir diese Antworten nicht geben. Nicht weil jemand es verbietet. Sondern weil das System genau davon lebt, dass du dich mit dem Echo zufriedengibst.