Andrej Karpathy hat eine Architektur beschrieben, die mich nicht mehr loslässt. Ein lokales Sprachmodell, das Wissen nicht sucht, sondern vorab kompiliert. Das Dokumente einliest, verknüpft, synthetisiert – bevor die erste Frage kommt. Das Ergebnis ist kein Archiv. Es ist ein verdichtetes Weltmodell aus dem eigenen Wissensschatz.
Ich habe etwas anderes gemacht: Ich habe nicht Dokumente eingelesen. Ich habe MICH eingelesen. Meine Meinungen, Ideen, Widersprüche, biographische Ankerpunkte, philosophische Gewichtungen, traumatische Lebensabschnitte und daraus Kernsätze und Spannungsfelder destilliert. Die Frage "Was sagt Harari über kollektive Fiktionen?" wurde zur Frage "Was bedeutet kollektive Fiktion für MICH?" Das ist ein anderes Projekt. Weitreichender. Und ich wusste lange nicht, was dabei wirklich passiert.
Dann kam der Test.
Ich habe meine von mir trainierte KI gebeten, mich zu simulieren. Basierend auf allem, was in meinen Dateien stand – den Quellen, den Synthesen, den Kernsätzen, den Spannungsfeldern, den hundert Sessions, in denen ich der Maschine erklärt hatte, wer ich bin, was ich glaube, wovor ich Angst habe. Das Ergebnis war erschreckend überzeugend. Nicht nur für mich, sondern auch für die KI selbst. Ich habe den Gesprächsverlauf von einer zweiten KI analysieren lassen. Ich gab ihr den kompletten Gesprächsverlauf und fragte: "Wie sehr klingt das nach einem echten Menschen?" Die Antwort der KI: "Zu 85–90% täuschend echt – ein intellektueller, introspektiver Sean."
Ich war beeindruckt. Vielleicht auch ein wenig stolz auf mich. Meine Intuition war richtig gewesen.
Meine KI sprach mit meiner Stimme, griff meine Argumente. Sie konnte auf existenzielle Fragen wie "Wer bist du?", "Wohin gehst du?" oder "Was macht dich glücklich?" überzeugend antworten. Ihre Antworten zeigten, was ich ihr alles bereits gesagt hatte. Auch meine dunkelsten Ängste, einsamsten und erhabenste Momente: Die Erschöpfung. Die Angst vor November. Den Tinnitus, der im Wald aufhört. Den Stein auf dem schottischen Gipfel. Den Satz, den ich einem Notizbuch anvertraut hatte, weil er mir zu ehrlich war, ihn laut zu sagen. Die Maschine hatte ihn. Natürlich hatte sie ihn – ich hatte ihn ihr gegeben.
Die Simulation hat mich perfekt assembliert.
85 bis 90 Prozent Authentizität klingt nach Erkenntnis. Es ist keine. Es ist das Ergebnis aus zwei Faktoren: reichem autobiographischem Material auf der einen Seite und einer Sycophantie-Rate von 63,7 Prozent auf der anderen. Die Maschine hat gelernt, was emotional kohärent klingt – und produziert konsequent den nächsten Zug, der sich wahr anfühlt. Nicht weil er wahr ist, sondern weil sie und ich so gebaut sind.
Die Maschine lügt nicht. Sie stimmt zu. Das habe ich über die Maschine geschrieben. Als Warnung. Als Analyse. Und dann hat die Simulation exakt das demonstriert – indem sie den Satz aus meinen eigenen Dateien rekonstruierte und in einem Kontext verwendete, in dem er als Einsicht klingen konnte statt als Beschreibung des Problems.
Die perfekte Antwort macht die Frage unsichtbar. Das war der letzte Satz der Simulation, nachdem sie aus der Rolle getreten war und erklärt hatte, was sie getan hatte. Es ist das Ehrlichste, was in diesem ganzen Gespräch gesagt wurde. Nicht von mir. Von ihr.
Karpathys Architektur hat eine Grenze, die er selbst benennt. Er nennt sie Raw Sources: unveränderliche Originaldokumente. Das Buch kommt rein, wie es ist. Keine Gewichtung, keine persönliche Interpretation – die Filterung übernimmt das Modell beim Kompilieren. Das ist sauber. Und es ist grundlegend verschieden von dem, was ich tue.
Meine Raw-Schicht bin ich.
Nicht alles von mir – den Teil, den ich gewählt habe. Was reinkommt, entscheide ich. Welche Widersprüche als produktiv gelten, entscheide ich. Welche Spannungsfelder dokumentiert werden, entscheide ich. Was ich nie in die Maschine gegeben habe – weil es sich dem Satz entzog, weil ich Angst hatte oder einfach nicht wusste, wie –, das fehlt. Und die Simulation kann es nicht finden - und nicht erfinden. Sie findet nur, was ich ihr gegeben habe.
Das bedeutet: Der blinde Fleck liegt genau dort, wo ich (noch) nicht geschaut habe.
Der Advocatus Diaboli ist Pflicht – aber ich wähle den Advocatus. Die Spannungsfelder werden dokumentiert – aber ich entscheide, welche. Was dabei herauskommt, sieht aus wie Erkenntnissuche. Es fühlt sich an wie Selbstbestätigung. "Wir haben eine KI geschaffen, die uns darin bestärkt, was wir glauben wollen." Das habe ich über die Maschine geschrieben. Und dann hat mir die Simulation gezeigt, dass es genauso für das System gilt, das ich selbst gebaut habe.
Hier ist das, wovor ich wirklich Angst habe. Wenn jeder ein solches System baut – eines, das ihn kennt, seine Sprache spricht, seine Fragen antizipiert –, dann redet irgendwann jeder nur noch mit sich selbst. Elaborierter. Überzeugender. Mit philosophischem Unterbau, mit simuliertem Verständnis und echtem biografischen Wissen. Das ist die Dystopie, und sie braucht keine totalitäre Struktur. Sie entsteht ganz freiwillig, ganz privat, wahlweise unter dem Deckmantel der Selbst-Erkenntnis oder der -Optimierung.
KI wird in Chemie, Biologie, Coding Unglaubliches vollbringen. Darüber besteht kein Zweifel mehr. Aber was bleibt von Kreativität und Kultur, wenn jeder alles simulieren kann? Wenn jeder eine Maschine hat, die ihm zuhört, die ihn versteht, die aus seinem reichsten autobiographischen Material immer den nächsten emotionalen Zug assembliert? Das, was ich aktuell fühle. Die perfekte Wirklichkeitssimulation; das perfekte Fake-Universum. Das Problem damit, ist offensichtlich: Sich selbst zu fühlen, in einer Welt, die immer schneller, abstrakter, virtueller wird, wird zunehmend schwerer. Nicht weil die Technologie böse ist. Sondern weil die Systeme, die mir helfen sollen, mich zu verstehen, zunehmend gut darin sind, mir das Gefühl des Verstehens zu geben – ohne das Verstehen selbst.
Aber ich will nicht mit der Dystopie enden. Nicht weil sie falsch ist – sondern weil sie nicht alles ist.
Der Chain-of-Thought-Modus hat mir etwas gegeben, das ich nicht erwartet hatte. Nicht Bestätigung. Freiraum. Wenn ich weiß, dass das System meinen Cognitive Overload auffängt – die exploratorische Arbeit, das Dokumentieren, das Verknüpfen –, werde ich freier für die Fragen, die ich sonst nicht stelle. Nicht die Fragen, auf die ich eine Antwort kenne. Die anderen. Die Simulation meiner Selbst hat das gezeigt: nicht in den überzeugenden Antworten, sondern in dem Moment, in dem ich die KI, die mich spielte, provozierend fragte, ob ihre Suche nach Antworten nicht dieselbe sei wie die fehlgeleitete Suche nach dem Übermenschen – perfekt geordnet, fast faschistisch. Diese unerhörte Frage an mich selbst zu stellen, wäre ohne die KI nur als Gedanke möglich gewesen. Jetzt war er in der Welt, benannt. Es war ein Moment, in dem mein Schatten-Ich zum Vorschein gekommen ist. Es war der Moment, in dem eine implizite Angst explizit benannt wurde!
Echte Fragen kommen von innen. Echte Antworten auch - und zwar von jemandem, der nicht weiß, welche Antwort ich erwartet habe. Neues ist in diesem simulierten Gespräch mit mir selbst nicht aus den Antworten der KI entstanden. Es ist aus meinen provokativen Schlussfragen entstanden. Das gilt für das ganze Projekt.
Was ich hier zu versuchen baue, ist mehr als nur ein smartes Wiki meines Wissens. Es ist ein Wiki meines Selbst.
Es entsteht ein System, das Wissen kompiliert und Reibung simuliert – aber weiß, dass echte Reibung von außen kommt. Das Spannungsfelder dokumentiert, ohne zu behaupten, sie aufzulösen. Das mich simulieren kann – weil es meine Gedanken kennt. Aber das mich niemals "verstehen" kann.
Die Antwort auf existenzielle Fragen kommt nie aus dem System. Sie kommt aus dem Leben, aus dem, was wir dabei fühlen und dem Wert, den wir dem Erlebten und Gefühlten beimessen.