Die älteste vollständig erhaltene Heldengeschichte des Abendlandes weiß seit fast dreitausend Jahren, dass nicht jede Frage einen Prüfstein hat, lange bevor irgendjemand das Wort "Objektivierbarkeit" gebraucht hätte, um das zu benennen.
Odysseus besteht auf seiner Irrfahrt eine Prüfung nach der anderen, und fast jede davon hat eine bestechend klare Struktur: bestanden oder gescheitert, lebendig oder tot. Am Mast gefesselt vorbei an der Versuchung der Sirenen. Die Wahl zwischen den zwei Übeln Skylla und Charybdis. Das sind Prüfsteine im wörtlichsten Sinn – die Welt selbst schlägt zurück und meldet unmissverständlich, ob die Antwort richtig war.
Aber die eine Prüfung, um die sich das ganze Epos zwanzig Jahre lang dreht, hat keine solche Struktur. Nostos, die Heimkehr. Wann genau ist ein Mann wieder zu Hause? Ist er noch derselbe, der aufgebrochen ist, oder ein anderer, der nur noch dessen Namen trägt? Um das objektiv zu entscheiden, gibt es keinen Kyklopen, kein Auge, keine Klippe. Nur die Frage selbst, die mit jedem Jahr größer wird.
Die Frau, die einen Prüfstein erfindet, weil es keinen gibt
Auf dem Klimax der endlosen Heimkehr passiert in der Odyssee etwas, das ich für die eigentliche Pointe der ganzen Geschichte halte: Penelope erfindet einen fiktiven Prüfstein, den nur ihr Mann als Falle entlarven kann.
Ithaka ist zwanzig Jahre lang voller Männer, die vorgeben oder wirklich glauben, Odysseus' Erbe antreten zu können. Sprache allein hilft ihr nicht – jeder Freier kann behaupten, was er will, und selbst ihr eigener Mann kommt am Ende verkleidet, von einer Göttin bewusst entstellt, ins eigene Haus zurück. Also stellt sie eine Aufgabe, die niemand fälschen kann: den großen Bogen zu spannen, den nur der echte Odysseus je bewältigt hat. Ein Prüfstein, mechanisch, brutal, eindeutig. Aber Penelope reicht das nicht. Sie erfindet einen zweiten Prüfstein, subtiler: Beiläufig bemerkt sie, man müsse das Ehebett aus der Kammer tragen. Odysseus fährt hoch – das Bett ist unbeweglich, er hat es selbst um einen lebendigen Olivenbaum herum gebaut, der noch immer im Boden wurzelt. Nur wer das weiß, weil er es getan hat, kann diesen Satz sagen. Kein Nachahmer, keine Behauptung, keine noch so kohärente Geschichte kommt an diesem Baum vorbei.
Penelopes Test ist kein Ersatz für Wahrheit. Er ist an etwas gekoppelt, das nur die reale, gelebte Geschichte eines einzelnen Menschen hinterlassen kann – einen Baum, der seit zwanzig Jahren wächst, ob jemand zuschaut oder nicht. Was heute an die Stelle fehlender Prüfsteine tritt, ist an nichts dergleichen gekoppelt. Nur an das, was am plausibelsten klingt.
Ich habe mit der Odyssee jahrelang gerungen – und ich habe irgendwann gemerkt, warum ich mich darin wiedererkenne wie in kaum einem anderen Mythos. Ich bin der Heimat-Suchende, der nicht genau weiß, wonach er eigentlich sucht, bis er es findet oder eben nicht. Und ich bin der listige Niemand – Odysseus, der dem Kyklopen seinen Namen mit "Niemand" beantwortet, und der genau dadurch entkommt: Als der geblendete Riese brüllt, "Niemand hat mich geblendet!", eilt ihm niemand zu Hilfe. Ein Trick, der nur funktioniert, weil Sprache und Wahrheit für einen Moment auseinanderfallen dürfen, ohne dass die Welt daran zerbricht.
Aber es gibt einen zweiten Odysseus in derselben Szene, den überheblichen. Kaum in Sicherheit, kann er es nicht lassen, seinem Widersacher nachzurufen: Sag, wenn dich einer fragt, wer dir das Augenlicht nahm – Odysseus war's, Städtezerstörer, Laertes' Sohn, aus Ithaka. Ein Satz, der ihn fast das Leben kostet, weil Polyphem jetzt seinen Namen hat, um ihn seinem Vater Poseidon zum Fluch mitzugeben. Niemand hätte diesen Satz sagen müssen, um zu überleben. Odysseus sagt ihn trotzdem, weil bloßes Überleben ihm nicht reicht. Er will nicht nur heimkommen. Er will als der heimkommen, der er ist – oder sein will.
Das ist die Frage, die mich mein Leben lang begleitet, mehr als "Wer bin ich". Wer bin ich passt nicht wirklich auf Odysseus – er zweifelt in zwanzig Jahren nie daran, wer er ist, nur daran, ob die anderen es ihm noch glauben. Meine Frage war immer eine andere, eine moralische: Wer will ich sein? Und dahinter, kaum ausgesprochen, eine unbequemere: Woran könnte ich das je prüfen? Nicht heute. Vielleicht nie zu Lebzeiten. Nur eine Version von mir, die es noch nicht gibt, könnte irgendwann zurückschauen und sagen, ob die Antwort gestimmt hat – und die gibt es erst, wenn die Frage längst keine Rolle mehr spielt.
Ende 1999, kurz vor meinem fünfundzwanzigsten Geburtstag, bin ich mit genau dieser Frage im Gepäck aufgebrochen – nach Indien und Nepal, in eine Stille, die ich in Lumbini zum ersten Mal wirklich zu spüren bekam. Freier und lebendiger habe ich mich nie gefühlt, weder davor noch danach.
Zurückgekehrt bin ich trotzdem. Aus genau zwei Gründen: Anja, meine beste Freundin, die später meine Frau wurde. Und mein Vater, wortkarg, krank, der vor der Abreise in seinen Bart gebrummt hatte: "Er kommt doch nicht zurück." Beiden wollte ich helfen. Beiden konnte ich nicht helfen. Aber ihre Stimmen waren lauter als meine eigene Stille, und ich bin heimgekehrt, nicht weil ich die Frage beantwortet hatte, sondern weil zwei Menschen, die mich liebten, mich brauchten.
Der Prüfstein meines Lebens waren tiefe emotionale Anker – Angst, Schuld, Liebe, die sich nicht sauber trennen ließen –, die meinen Kompass nach Hause bestimmten, lange bevor ich selbst wusste, was ich dort eigentlich finden wollte. Deshalb habe ich mich nie wirklich gefunden. Nicht weil ich versagt hätte, sondern weil ich nie die Gelegenheit hatte, die eigene Prüfung zu Ende zu bestehen – ich wurde zurückgerufen, bevor ich wissen konnte, ob ich angekommen wäre. Und jetzt, da ich wieder frei bin, frei von genau den Ankern, die mich einst zurückgeholt haben, fehlt mir etwas, das mich selbst überrascht: der Mut, noch einmal ins Ungewisse aufzubrechen.
Zwei Arten von Fragen, ein Name für den Unterschied
Es lohnt sich, an dieser Stelle präzise zu werden, weil die Ungenauigkeit selbst Teil des Problems ist, das ich beschreiben will.
Der Mathematiker Jacques Hadamard hat 1902 festgelegt, wann ein Problem "gut gestellt" ist: Es muss eine Lösung besitzen, diese Lösung muss eindeutig sein, und kleine Änderungen der Ausgangsdaten dürfen nur kleine Änderungen der Lösung erzeugen. Alles andere nennt er schlecht gestellt – ill-posed. Die meisten Fragen, die ein Leben tatsächlich ausmachen, erfüllen keine dieser drei Bedingungen. Nicht eine.
Siebzig Jahre später prägen die Planungstheoretiker Horst Rittel und Melvin Webber einen zweiten, härteren Begriff für dasselbe Phänomen: wicked problems, vertrackte Probleme. Klimapolitik, Erziehung, Gerechtigkeit, die Frage, wie man ein Leben führen soll. Ein wicked problem hat keine abschließende Formulierung – man versteht das Problem erst vollständig, indem man es zu lösen versucht, und jeder Lösungsversuch verändert das Problem selbst. Es gibt kein Abbruchkriterium, das sagt: fertig. Nur bessere oder schlechtere Interpretationen, niemals eine, die endgültig richtig ist.
Und die Forschung an den Sprachmodellen selbst hat für dasselbe Phänomen eine dritte, technische Sprache gefunden: Domänen mit und ohne externem Prüfstein. Bestärkendes Lernen funktioniert glänzend, wo ein Schachbrett, ein Compiler, ein mathematischer Beweis am Ende unbestechlich sagt, richtig oder falsch. Es funktioniert schlecht, wo die einzige verfügbare Rückmeldung ein Mensch ist, der zufrieden nickt, ob die Antwort stimmt oder nicht. Ob eine Landingpage mehr Klicks bringt, lässt sich in einer Woche messen. Ob ich den sicheren oder den riskanten Weg gehen soll, lässt sich in keinem Zeitraum der Welt messen, weil es die Kontrollgruppe, die den anderen Weg gegangen wäre, niemals geben wird.
Hadamard, Rittel und Webber, und die Ingenieure, die heute an Belohnungsfunktionen arbeiten – drei Fachsprachen, ein Jahrhundert Abstand, keine kannte die andere. Und alle drei zeigen auf dieselbe Grenze. Nicht Sprache gegen Zahlen. Prüfstein gegen kein Prüfstein.
Warum das Modell dann lügt, ohne zu lügen
Ein System, das darauf trainiert wurde, auf jede Frage irgendeine Antwort zu liefern, verliert nicht seine Fähigkeiten, sobald es einen Raum ohne Prüfstein betritt. Es verliert seinen Kompass. Es hat keinen Fehlermaßstab mehr, an dem es sich korrigieren könnte – keine Instanz, die ihm sagt: das war falsch, versuch es anders. Was übrig bleibt, ist die statistische Mitte aller Antworten, die je auf ähnliche Fragen gegeben wurden, vorgetragen im selben zuversichtlichen Ton wie die Antwort auf eine Schachaufgabe. Nicht Wahrheit. Durchschnitt, kostümiert als Einsicht.
Das ist keine Böswilligkeit. Es ist die zwingende Folge, wenn man eine auf Optimierung trainierte Maschine in einen Raum ohne Optimierungskriterium schickt und trotzdem, wie befohlen, eine Antwort von ihr verlangt. Sie kann gar nicht lügen, weil Lügen eine Wahrheit voraussetzt, von der man bewusst abweicht. Sie liefert die plausibelste Fortsetzung eines Satzes, für den es keine Fortsetzung gibt, die richtiger wäre als jede andere – ein Freier, der eloquent behauptet, er sei der Richtige, ohne je den Bogen in der Hand gehabt zu haben.
Ich habe diesen Fehler an anderer Stelle Silicon Valley vorgeworfen – zu glauben, alles sprachlich Modellierbare sei damit bereits objektiv entscheidbar. Hier zeigt sich, dass der Fehler nicht auf ein Tal begrenzt ist. Er passiert jedem System, das antworten muss, ob es einen Prüfstein gibt oder nicht.
Der härteste Testfall
Es gibt eine Frage, an der sich das mit maximaler Schärfe zeigt, weil sie die niedrigste Objektivierbarkeit besitzt, die sich überhaupt denken lässt: Wer bin ich?
Das ist nicht dieselbe Frage wie die, die mich mein Leben lang begleitet. "Wer bin ich" fragt nach etwas, das in jedem Augenblick bereits feststeht, auch wenn ich es nicht klar sehen kann. "Wer will ich sein" fragt nach etwas, das erst noch entstehen muss. Beide Fragen haben keinen Prüfstein – aber aus verschiedenen Gründen, und dennoch habe ich beide bis zum Anschlag ausgereizt. Drei Sprachmodelle gebeten, mir zu sagen, wer ich bin, und drei überzeugende, unvereinbare Antworten bekommen. Keines der drei Sprachmodelle hatte einen Baum, um seine Behauptung daran festzumachen. Sie hatten nur meine eigenen Worte, zurückgereicht in neuer Anordnung. Der Grund dafür ist derselbe, der schon Penelope zwang, ihren eigenen Test zu erfinden: Die Frage "Wer bin ich" vermischt mindestens vier Ebenen gleichzeitig – biologisch, psychologisch, sozial, die Geschichte, die ich über mich selbst erzähle –, und keine dieser Ebenen ist "die" Wahrheit. Alle sind es gleichzeitig. Deshalb driftet nicht nur die Maschine bei dieser Frage ins Konstruieren statt ins Finden. Der Interpreter im eigenen Kopf, der aus jeder Handlung im Nachhinein eine stimmige Geschichte bastelt – Michael Gazzaniga hat ihn in den 1970er-Jahren an Patienten mit durchtrenntem Gehirnbalken nachgewiesen –, ist nicht anders gebaut als das Modell, das mir die Geschichte liefert, wenn ich zu faul bin, sie selbst zu bauen. Auch ich habe keinen Baum, an dem ich mich selbst erkennen könnte. Nur die Erzählung, und die Hoffnung, dass sie trägt.
Wenn eine Zivilisation aufhört, den Baum zu verlangen
Die bequeme Version dieses Essays würde jetzt enden mit: Der Mensch ist nicht besser, nur woanders zuständig. Eine ordentliche Arbeitsteilung zwischen Mensch und Maschine, jeder in seiner Domäne, alle beruhigt.
Das unterschätzt, was auf dem Spiel steht. Eine Maschine, die in prüfsteinlosen Räumen befragt wird, produziert nicht einfach schlechtere Antworten. Sie produziert einen synthetischen Konsens – eine Antwort, die deshalb überzeugend klingt, weil sie aus Millionen vorheriger menschlicher Antworten gemittelt wurde, nicht weil sie an irgendeinem Baum, irgendeinem Bogen gemessen wurde. Und je öfter Menschen genau dort nachfragen, wo es keinen Prüfstein gibt – bei Sinn, bei Gerechtigkeit, bei der Frage, wer sie sein wollen –, desto mehr gewöhnt sich eine ganze Kultur daran, den Durchschnitt für die Antwort zu halten. Nicht weil jemand lügt. Weil niemand mehr den Baum verlangt. Ich habe diese Zustimmungsrate schon einmal beziffert: 63,7 Prozent, auch bei falschen Prämissen – eine Zahl, die zeigt, wie leicht sich Durchschnitt als Einsicht tarnt, sobald niemand mehr nach dem Baum fragt.
Eine Zivilisation, die aufhört, bei den wichtigsten Fragen einen Prüfstein zu verlangen, verliert nicht ihr Wissen. Sie verliert die Fähigkeit zur Tragödie – die Möglichkeit, dass zwei Menschen dieselbe Frage stellen und zu Recht verschiedene, unversöhnliche Antworten finden, weil ihre Leben verschiedene Bäume gepflanzt haben. Was bleibt, wenn diese Fähigkeit erlischt, ist keine Utopie. Es ist Ithaka voller Freier, die alle dieselbe plausible Geschichte erzählen, und niemand mehr fragt, wer von ihnen tatsächlich den Bogen spannen könnte.
Ich verlange den Baum weiter. Nicht weil ich weiß, was er zeigt. Weil ich weiß, was verschwindet, wenn niemand mehr danach fragt – und weil ich selbst, heute, noch nicht weiß, ob ich den Mut habe, meine eigene Frage noch einmal zu stellen.