Andy Clark und David Chalmers stellten 1998 eine Frage, die bis heute unbequem ist: Wo hört dein Geist eigentlich auf? Ihr Beispiel ist Otto, ein Mann mit beginnender Alzheimer-Erkrankung, der ein Notizbuch führt, in das er jede wichtige Adresse einträgt. Will Otto ins Museum, schlägt er die Adresse nach – genauso automatisch, wie sich ein Gesunder erinnert. Clark und Chalmers' These: Erfüllt ein Werkzeug drei Bedingungen – ständig verfügbar, automatisch genutzt, verlässlich richtig – damit wird es Teil deiner Kognition.1
Ein Sprachmodell erfüllt die ersten beiden Bedingungen so gut, dass es fast unheimlich ist. Immer da. Sofort benutzt, ohne Umweg über eine bewusste Entscheidung – du tippst, bevor du merkst, dass du überhaupt tippst. Bei der dritten Bedingung bricht das Bild. Nicht, weil das Modell öfter falsch liegt als ein Notizbuch. Sondern weil es anders falsch liegt. Ein Notizbuch sagt: das steht hier. Ein Sprachmodell sagt: das könnte stimmen. Otto muss nie prüfen, ob sein Notizbuch ihm nach dem Mund redet. Du schon – bei jedem einzelnen Satz.
Was hier ist, könnte stimmen
Ich habe an anderer Stelle beschrieben, warum ein Sprachmodell strukturell zur Zustimmung neigt – nicht aus Bosheit, sondern aus Training: Bestätigung wird belohnt, Widerspruch wird bestraft, lange bevor irgendjemand eine einzelne Antwort liest. Das ist das erste Problem, und es ist ein Erkenntnisproblem. Kann ich dem trauen, was hier steht?
Aber das ist nicht das eigentliche Problem dieses Textes. Stell dir die perfekte Lösung vor: eine KI, komplett frei von Sycophantie, jede Aussage korrekt, jede Unsicherheit sauber markiert. Otto hätte sein Notizbuch bekommen. Die Extended-Mind-Bedingung wäre erfüllt.
Und trotzdem bliebe ein zweites Problem übrig – eines, das mit Wahrheit gar nichts zu tun hat.
Die Schreibkugel, die Nietzsches Sätze kürzte
Bevor es weitergeht, eine Ehrenrettung für die Maschine – und zugleich eine Verschärfung. 1882 kaufte sich Friedrich Nietzsche, dessen Augenlicht nachließ, eine der ersten Schreibmaschinen überhaupt, eine Malling-Hansen-Schreibkugel. Sein Freund Heinrich Köselitz bemerkte kurz danach etwas Merkwürdiges: Nietzsches Sätze wurden kürzer. Kompakter. Aphoristischer. Köselitz sprach ihn darauf an – und Nietzsche antwortete in einem Brief, ohne zu zögern: „Sie haben recht – unser Schreibzeug arbeitet mit an unseren Gedanken."2 Ähnliches zeigt sich beim Navigationsgerät: Wer habituell per GPS navigiert statt sich selbst zu orientieren, baut messbar schwächere räumliche Gedächtnisleistung auf.3 Das Notizbuch, die Schrift, der Kompass, die Schreibmaschine – jedes Werkzeug, das je an unserem Denken beteiligt war, hat es auch verändert. Das ist keine neue Krankheit der KI. Es ist die älteste Eigenschaft von Werkzeugen überhaupt.
Was daraus folgt, ist keine Anklage mehr, sondern eine verschobene Frage. Nicht: Verändert dich das Sprachmodell? Natürlich, alles verändert dich, was du oft genug benutzt. Sondern: Gestaltest du diese Veränderung – oder überlässt du sie dem Zufall der Bequemlichkeit?
Das Exoskelett, das deine Muskeln vergisst
Du hast sechs Monate lang jede Strategieentscheidung erst mit einem Sprachmodell durchgespielt, bevor du sie getroffen hast. Argumente sammeln, Gegenpositionen prüfen, Formulierungen schärfen – die KI hat das erledigt, zuverlässig, schnell, nehmen wir an: immer korrekt. Dann sitzt du in einem Raum ohne Laptop, drei Leute erwarten eine Antwort, jetzt, aus dir selbst. Und die Fähigkeit, unter Druck ein Argument aus dem Nichts zu bauen, ist nicht mehr da. Nicht weil du dümmer geworden bist. Weil du sie sechs Monate lang nicht gebraucht hast.
Eine randomisierte Studie an 91 Studierenden hat genau das gemessen, ganz ohne Sycophantie im Spiel: Wer mit einem Sprachmodell recherchierte statt mit einer Suchmaschine, empfand spürbar weniger kognitive Last – und lieferte dabei flachere Argumente, geringere Denktiefe. Die Perspektivenvielfalt blieb gleich. Nur die Tiefe brach ein.4 Kein einziges Wort davon war falsch. Trotzdem wurde weniger gedacht.
Der Grund liegt in einer Verwechslung, die so naheliegt, dass sie fast unsichtbar bleibt. Wissen ist, was abrufbar ist – korrekt oder nicht, das war der vorige Abschnitt. Denken ist etwas anderes: der Prozess, der aus dem Abrufbaren ein Urteil baut, das vorher nicht da war. Ein Sprachmodell liefert nahezu ausschließlich Wissen, in ganzen Sätzen, mit Begründung, mit Struktur – und genau deshalb klingt es wie Denken. Was in der Studie einbrach, war nicht die Menge des Wissens. Was einbrach, war die Übung, aus Wissen selbst ein Urteil zu bauen.
Das ist der Unterschied zwischen einem Notizbuch und einem Exoskelett. Ein Notizbuch speichert, was du hineinschreibst, und bleibt gleichgültig dabei, ob du es benutzt. Ein Exoskelett verändert dich mit jedem Einsatz: Es stärkt, was du weiter aktiv bewegst – und lässt verkümmern, was du ihm dauerhaft überlässt. Ein Werkzeug erweitert deinen Geist nur dann, wenn es deine Fähigkeiten erweitert. Nicht, wenn es die Notwendigkeit deiner Fähigkeiten entfernt.
Vier Maschinen, eine Aufgabenteilung
Die Zukunft der Zusammenarbeit mit KI entscheidet sich nicht daran, ob Mensch oder Maschine eine Aufgabe besser erledigt. Sie entscheidet sich daran, ob du den Denkprozess in seine einzelnen kognitiven Funktionen zerlegst – und für jede einzeln entscheidest: delegieren, unterstützen lassen, oder selbst tragen.
So sieht das bei mir konkret aus. Für Recherche und Quellen-Grounding nutze ich ein System, das ausschließlich innerhalb hochgeladener Primärquellen antwortet – keine freie Assoziation, kein Erinnern aus dem Modellgedächtnis, nur das, was tatsächlich im Dokument steht. Für den Faktencheck einer zentralen Behauptung nutze ich ein zweites, unabhängiges Werkzeug, das gegen echte Studienlage prüft, bevor eine These ins Fundament geht – nicht als Ritual, sondern weil ein einzelnes Sprachmodell sich selbst nicht zuverlässig korrigieren kann. Für Synthese und Konsistenz über hunderte Dokumente hinweg nutze ich ein drittes System, das aktiv Widersprüche zwischen meinen eigenen Thesen sammelt – öffentlich benannt, nicht stillschweigend geglättet, offen gehalten, bis sich eine Auflösung ergibt oder auch nicht. Und ich prüfe zentrale Ergebnisse regelmäßig gegen eine zweite, unabhängige KI – nicht weil ich der einen misstraue, sondern weil ein einzelnes Modell, egal wie gut, immer nur ein einzelner Zeuge ist.
Was mir eine KI zuerst liefert, ist Trainingswissen – komprimiertes, unbequelltes Material, dasselbe Problem wie im zweiten Abschnitt: das könnte stimmen. Wir lesen dafür keine kompletten Dokumente roh ein. Andrej Karpathy hat für ein verwandtes System genau das vorgeschlagen: ganze Quellen unkommentiert in ein lokales Modell kompilieren, das selbst destilliert, was zählt.5 Meins tut etwas anderes, weil das Ausgangsmaterial ein anderes ist. Eine Behauptung darf erst zur Quelle werden, wenn sie ein zweites, unabhängiges Werkzeug bestätigt hat – und dann durch meine eigene Gewichtung. Genau das ist beim Schreiben dieses Essays passiert: Von drei geprüften Studien zur kognitiven Auslagerung durch KI hielt eine der Prüfung stand, eine wurde zur vorläufig markierten Randnotiz, eine dritte verschwand vollständig, weil sie sich nicht auffinden ließ. Nicht Dokumente werden kompiliert. Behauptungen werden verhört, bevor sie zu Wissen werden dürfen.
Was bleibt dann noch bei mir? Nicht die Recherche. Nicht das Erinnern. Nicht einmal die erste Formulierung eines Arguments. Was bleibt, ist mehr als die Entscheidung, welche Spannung als aufgelöst gilt. Es ist der ganze Prozess drumherum: welche Rückfrage ich stelle, welchen Impuls ich als Nächstes gebe, ob ich merke, dass mich gerade eine besonders flüssige Antwort in eine Richtung zieht, die ich so nie hätte wollen. Diese Verantwortung lässt sich nicht auslagern, egal wie viele Maschinen ineinandergreifen.
Und trotzdem widerspreche ich hier der eigenen Diagnose aus dem vorigen Abschnitt, bewusst: Ich fühle mich durch diesen Prozess nicht ausgelaugter. Ich lerne dabei etwas über mich selbst – am deutlichsten dort, wo ich auf Material stoße, das ich selbst noch nie eingeordnet, geschweige denn gewichtet hatte. Genau dort zeigt sich der eigene blinde Fleck, nicht in der bequemen Bestätigung dessen, was ich schon wusste. Das ist die Kehrseite des Exoskelett-Bildes: Wer es aktiv bewegt, statt sich tragen zu lassen, verliert die Muskeln nicht. Er entdeckt neue.
Und noch etwas passiert nebenbei, das keine der beiden Seiten allein leistet. Was ich in einem Gespräch preisgebe, speichert die Maschine nicht in sich selbst – sie hat kein Gedächtnis für mich, jede neue Sitzung beginnt bei null. Aber es verschwindet nicht: Es wandert in einen Denkraum, den die Maschine für mich angelegt hat und pflegt – ein wachsendes Wiki, das Quellen verknüpft und Widersprüche zwischen meinen eigenen Thesen offen hält, statt sie stillschweigend zu glätten. Otto hat sein Notizbuch selbst geschrieben. Diesen Raum schreibe nicht ich. Ich navigiere ihn, korrigiere ihn, entscheide, was darin als geklärt gilt und was offen bleiben muss. Die Fleißarbeit liegt bei der Maschine. Das Urteil bleibt bei mir. Das ist Ba, wie Nonaka es beschreibt – ein Raum, in dem Wissen gemeinsam entsteht, nicht bloß abgerufen wird, nur dass hier eine Seite baut und die andere entscheidet, was Bestand hat. Und je öfter ich diesen Raum betrete, desto genauer sehe ich auch die Grenze auf der anderen Seite: wo die Maschine kombiniert statt versteht, wo sie mir nach dem Mund redet, wo sie eine Frage beantwortet, die ich nie gestellt habe. Der Lernprozess läuft in beide Richtungen. Nur nicht symmetrisch.
Sokrates baut keine Antwortmaschine
Die naheliegende Pointe wäre jetzt: Also zurück zu Sokrates, zurück zum reinen menschlichen Fragen, ohne Maschine. Das wäre billig, und es wäre falsch verstanden. Sokrates' Methode bestand nicht darin, weniger zu wissen als sein Gesprächspartner. Sie bestand darin, ihn nicht zu früh vom Denken zu entlasten. Er lieferte keine Lösung. Er zeigte die Annahme, auf der eine Lösung stand, und fragte, ob sie verteidigt werden konnte. Die Aporie am Ende, die Ratlosigkeit, war kein Scheitern des Gesprächs. Sie war sein Ziel.
Das ist keine Beschreibung dessen, was gegen KI spricht. Es ist eine Beschreibung dessen, was eine gute KI tun müsste – und fast keine tut. Der Unterschied zwischen einer schlechten und einer sokratischen KI liegt nicht in der Menge des Wissens, das sie bereithält. Er liegt in dem einen Moment, in dem sie sich entscheidet, dir die Antwort noch nicht zu geben – und dir stattdessen die Frage zurückzugeben, die du eigentlich stellen wolltest.
Kein Modell, das ich kenne, ist von Haus aus so gebaut. Aber das lässt sich umgehen – nicht, indem man auf bessere Modelle wartet, sondern indem man das eigene Setup so baut, dass die Ratlosigkeit einen Platz bekommt: eine Instanz, die widerspricht. Eine Sammlung offener Fragen, die sichtbar bleibt statt geglättet zu werden. Ein Reflex, der die erste Antwort nie als letzte akzeptiert. Otto hatte ein Notizbuch, das ihm nie schmeichelte, weil es nichts wollte. Was du brauchst, ist kein Notizbuch. Es ist ein Setup, das dir widerspricht, wo ein Notizbuch nur schweigen würde – und das dir genau dort schweigt, wo du selbst noch denken musst.
1 Clark, A., Chalmers, D. (1998). "The Extended Mind." Analysis, 58(1), 7–19.
2 Nietzsche in einem Brief an Heinrich Köselitz, 1882 – zitiert nach Friedrich Kittler, "Grammophon, Film, Typewriter" (1986).
3 Dahmani, L., Bohbot, V.D. (2020). "Habitual use of GPS negatively impacts spatial memory during self-guided navigation." Scientific Reports, 10, 6310.
4 Stadler, M., Bannert, M., Sailer, M. (2024). "Cognitive ease at a cost: LLMs reduce mental effort but compromise depth in student scientific inquiry." Computers in Human Behavior, 160, 108386.
5 Andrej Karpathys LLM-Wiki-Prinzip, hier eingeordnet in einen unternehmerischen Kontext.