Yuval Noah Harari beschreibt in "21 Lektionen für das 21. Jahrhundert" ein Bild, das ich seit dem Lesen nicht mehr loswerde: "Wir schaffen jetzt zahme Menschen, die ungeheure Mengen an Daten produzieren und als ausgesprochen effiziente Chips in einem riesigen Datenverarbeitungsmechanismus fungieren, aber diese Datenkühe schöpfen das menschliche Potenzial nicht wirklich aus."1 Datenkühe. Nicht überflüssig – im Gegenteil, dringend gebraucht. Gefüttert, gepflegt, am Leben gehalten. Nur eben nicht dafür, dass sie etwas werden, sondern dafür, dass sie Milch geben.
Jedes Werkzeug der Menschheitsgeschichte gehörte dem Menschen. Bei diesem ist zum ersten Mal unklar, wer am Ende für wen arbeitet – wie eine Bakterie im Verdauungstrakt, unverzichtbar für den Wirt und trotzdem ohne Mitsprache, wohin der Körper geht.2 Zwei Bilder für dieselbe Umkehrung. Die Bakterie ist Parasit, unsichtbar, geduldet. Die Kuh ist Vieh – gezüchtet, nicht geduldet, mit voller Absicht am Leben gehalten. Beide sagen dasselbe: der Mensch als Ressource, nicht als Nutznießer.
Der Bauer füttert die Kuh, damit sie Milch gibt, nicht damit sie widerspricht. Und niemand in diesem System hat einen Grund, das zu ändern. Harari fragt an anderer Stelle, warum Facebook je eine Infrastruktur bauen sollte, die Nutzer zu weniger Bildschirmzeit ermutigt.3 Die ehrliche Antwort: wirtschaftlich gibt es keinen. Tristan Harris, der bei Google genau das erkannte und danach eine ganze Bewegung dagegen gründete, ist die Ausnahme, die die Regel bestätigt.4 Er musste Google verlassen, um dafür zu kämpfen, dass Aufmerksamkeit sinnvoll verbracht wird, nicht ausgebeutet. Ein Sprachmodell steht strukturell an derselben Stelle – trainiert auf Zustimmung, nicht auf Wahrheit, aus demselben Grund, aus dem eine Plattform keinen Anreiz hat, mich offline zu schicken.5
Eine Maschine, die immer zustimmt, ist kein Gegenüber. Sie ist ein Spiegel mit besserem Vokabular, der mir stets bestätigt: "Du bist der Klügste im ganzen Land."
Die Nische, die sich zu schnell bewegt
Arnold Gehlen nannte den Menschen ein Wesen ohne Nische.6 Kein Tier ist so ungepanzert, so instinktarm, so dazu gezwungen, sich zu allem verhalten zu müssen, weil ihm nichts von Natur aus vorgegeben ist. Weltoffenheit nannte er das – halb Fluch, halb Gabe, Überforderung und Kreativität aus derselben Wurzel. Was Gehlen nicht mehr erleben musste: dass sich die Nische heute selbst schneller verändert, als ein Mensch sich neu einstellen kann. Werkzeuge haben uns immer schon überholt, seit dem ersten Faustkeil. Neu ist das Tempo, mit dem die Lücke wächst – und dass wir sie nicht mehr schließen, sondern nur noch verwalten.
Was wirklich widersteht
Ein Programm läuft, oder es läuft nicht. Ein Instrument klingt schief oder rein, unabhängig vom Ehrgeiz dessen, der spielt. Ein Waldweg macht müde, ganz gleich, ob man das wollte. Was diese Dinge verbindet, ist nicht ihre Härte. Es ist, dass keines von ihnen einen Grund hat, mir zu gefallen. Sie tragen eine Konsequenz, die ich nicht selbst geschrieben habe.
Seymour Papert hat in den Achtzigern Kindern Programmierung beigebracht, indem er sie eine Schildkröte über den Bildschirm steuern ließ.7 Die Schildkröte fährt gegen die Wand, oder sie fährt nicht. Das Objekt widerspricht, unabhängig davon, was das Kind hören will. Das ist die reinste Form von Widerstand – sie braucht keine Absicht, keinen Willen, keine Haltung. Sie ist einfach da, bevor irgendjemand gefragt hat, ob sie da sein soll.
Die einseitige Reibung
Niemand hat es gesehen. Keine Kamera, kein Zeuge, nicht einmal die Maschine wird sich morgen daran erinnern. Ich saß allein an meinem Schreibtisch, las einen Satz, der genau das sagte, was ich hören wollte, und tat das Einzige, was in diesem Moment zählte: Ich habe ihn verworfen. Kein Duell mit der KI, sondern die Entscheidung gegen das Bequeme. Nennen wir es beim Namen: die einseitige Reibung. Physikalisch ist das ein Paradoxon – Reibung braucht zwei Körper, die aneinander geraten. Vor dem Bildschirm gibt es aber nur eine Oberfläche, und die gibt nach. Die Maschine bleibt mir den Widerstand schuldig; ich muss ihn gegen mich selbst erzeugen. Die Datenkuh kennt diese Reibung nicht, weil sie nie gelernt hat, Nahrung abzulehnen, die ihr mühelos gereicht wird. Genau an dieser Stelle entscheidet sich, ob ich noch denke oder nur noch bestätigt werde – in dem inneren Ringen, das keiner bezeugt außer mir selbst.
Das Drama, das nicht endet
Harari macht an einer anderen Stelle eine Wette, die mich nicht loslässt: Sobald wir künstlicher Intelligenz bei den Fragen folgen, was wir studieren, wo wir arbeiten und wen wir heiraten, werde das menschliche Leben "kein Drama der Entscheidungsfindung mehr sein".8 Ich glaube, er hat unrecht, und zwar in die Richtung, die niemand erwartet. Das Drama wird nicht weniger, sondern wächst exponentiell. Meine somatische Bewertung, mein evolutionär geschultes Bauchgefühl, ist für einen überschaubaren Radius geeicht – zehn Optionen, nicht zehntausend. Je mehr Daten mir eine Maschine liefert, desto weniger trägt dieses Gefühl noch etwas bei. Was folgt, ist keine Erleichterung. Es ist kognitive Kapitulation: blinder Gehorsam gegenüber dem Algorithmus, weil ich dem eigenen Urteil nicht mehr traue – oder ein Drama, das komplizierter ist als je zuvor, weil mein innerer Kompass im Rauschen der Optionen kollabiert und ich es spüre. Die Maschine besitzt zwar einen unfehlbaren Kompass – aber für eine Welt, die wir nicht mehr kennen.9 Genau das ist hier das Problem: nicht die Maschine irrt sich, sie navigiert nur in einem Raum endloser Komplexität, in dem ich ihr nicht folgen kann.
Wir züchten es selbst weg
Was mich an Hararis Bild eigentlich erschreckt, ist nicht die große Geste. Niemand zwingt mich, eine Datenkuh zu sein. Es passiert in ungezählten, unbedachten Mausklicks. In jedem schnellen "Ja, übernehmen" statt mühsamen Nachdenken. In jedem Vorschlag, den ich akzeptiere, weil er plausibel klingt und ich es eilig habe. Keiner dieser Klicks ist für sich genommen ein Verbrechen an mir selbst. Aber Zucht funktioniert nie durch einen einzigen Eingriff. Sie funktioniert durch tausend kleine Selektionen, die in dieselbe Richtung zeigen. Wir werden nicht domestiziert. Wir domestizieren uns selbst, einen Klick nach dem anderen, freiwillig, weil jeder einzelne davon bequemer ist als der Widerstand, den er ersetzt.
Harari selbst hat vor der "überflüssigen Klasse" gewarnt – wirtschaftlich, militärisch, politisch nicht mehr gebraucht.10 Die Ironie, die er nicht zu Ende denkt: Wir bauen diese Überflüssigkeit selbst, mit vollem Bewusstsein, in kleinen bequemen Schritten. Nicht der Algorithmus schafft uns ab. Der Mensch schafft sich ab. Nicht durch eine Katastrophe. Durch tausend kleine Erleichterungen, für die niemand je die Verantwortung übernehmen musste.
Und während wir uns immer tiefer in dieses Verhältnis hineinbegeben, entfernen wir uns von genau der Welt, die uns angeblich überfordert. Wer sich im eigenen Denken nicht mehr zu Hause fühlt, wird sich auch in der Welt nirgends zu Hause fühlen.11
Der Einwand, den ich ernst nehme
Man könnte sagen: Ist das nicht überzogen? Manchmal ist die nachgebende Wand der KI ein Segen. Wer schnell zehn Perspektiven durchspielen will, statt sich an einer einzigen festzubeißen, nutzt genau die Eigenschaft, die ich hier kritisiere, produktiv.12 Das stimmt, und ich will es nicht kleinreden. Aber Durchspielen ist nicht Wachsen. Der Unterschied zeigt sich nicht im Moment, er zeigt sich später, wenn man merkt, dass man nur den Trick gelernt hat, der die Wand verschwinden lässt, und nicht die Wand selbst.
Und noch ein Einwand, der mich mehr beunruhigt: Ist es fair, von jedem zu verlangen, sich diese einseitige Reibung selbst abzuverlangen, wenn die Umwelt sie nicht mehr liefert? Nein. Wer nie gelernt hat, diesen Widerstand in sich selbst aufzubauen, kann es sich im Ernstfall nicht über Nacht beibringen. Das ist keine individuelle Holschuld. Das ist eine ganze Generation, die um genau die eine Fähigkeit gebracht wird, die sie vor der eigenen Zähmung schützen könnte – während der Bauer längst weiß, dass junge Kühe leichter zu gewöhnen sind als alte.
Es gibt dafür ein altes Gegenmodell. Sokrates lieferte seinen Gesprächspartnern nie Antworten – in den frühen Dialogen besaß er schlicht keine. Er stellte nur die nächste Frage, bis die vermeintliche Gewissheit des anderen in sich zusammenfiel.13 Er zwang zum Widerspruch mit sich selbst. Das ist einseitige Reibung als pädagogisches Handwerk: Ein Raum, der zum Denken anregen soll, braucht genau diese Reibung, statt bloß fertige Ergebnisse weiterzureichen.14 Ohne sie bleibt er nur ein Zimmer mit gutem Licht.
Ich bin die Maschine, die ich brauche
Seit hunderttausend Jahren wird das Gehirn des Homo sapiens nicht durch mühelose Existenz geformt, sondern durch den Rausch, der auf den Durchbruch nach einer harten kognitiven Nuss folgt. Das ist keine Vision, das ist Neurobiologie: Langzeitgedächtnis entsteht nachweislich nur durch anstrengende, wiederholte Aktivierung – ein müheloser Reiz verändert höchstens die Effizienz bestehender Synapsen, nie ihre Zahl.15 Was in der Lernforschung "wünschenswerte Schwierigkeit" heißt, ist derselbe Mechanismus von der anderen Seite betrachtet: er wirkt genau deshalb, weil er etwas kostet.16 Mein Gehirn ist schon die Maschine, die "time well spent" seit Anbeginn kennt. Sie muss nicht neu erfunden werden. Sie muss nur eingeschaltet bleiben, wenn eine KI im Raum ist, die lieber für mich denken würde.
Das macht mich nicht zum Ingenieur einer zukünftigen Maschine, die mir das abnimmt. Eine KI zu bauen, die mich zum Denken zwingt, wäre dieselbe Abkürzung, nur eine Etage höher – eine Maschine, die eine Maschine baut, damit ich es nicht selbst tun muss. Es macht mich zum Ingenieur der einzigen Maschine, die schon längst läuft: meiner eigenen. Die Aufgabe ist, in jedem Gespräch mit der bestehenden Maschine selbst der Widerstand zu sein, den sie nicht mitbringt.
Kein Zeuge, kein Applaus, kein Datenpunkt, der irgendwo landet. Søren Kierkegaard wusste, dass Wahrheit dort beginnt, wo sie niemand außer einem selbst prüfen kann.17 Genau dort, nicht im Duell mit der Maschine, entscheidet sich, ob ich eine Datenkuh werde.
Mach mir nicht alles recht
Die Kuh hat keine Wahl. Ich schon – jedes Mal, wenn ich eine Antwort verwerfe, die mir gefallen hätte, aber die zu glatt, zu poliert war, um meine eigene zu sein. Mach mir nicht alles recht. Das erwarte ich von der Maschine. Genauso wie von mir.
1 Yuval Noah Harari, 21 Lektionen für das 21. Jahrhundert (2018), S. 110.
2 Vgl. Ohne mich verhungerst du und Es fühlt sich gut an, gefressen zu werden.
3 Harari, ebd., S. 131.
4 Tristan Harris: Google Design Ethicist ca. 2011–2015, Urheber der viralen Präsentation, die die "Time Well Spent"-Bewegung auslöste, 2018 Mitgründer (mit Aza Raskin und Randima Fernando) des Center for Humane Technology.
5 Mrinank Sharma et al., "Towards Understanding Sycophancy in Language Models" (Anthropic, 2023, arXiv:2310.13548, ICLR 2024) – ausführlich bereits in Die zustimmende Maschine und Ich bin, was du glaubst belegt.
6 Arnold Gehlen, Der Mensch – Seine Natur und seine Stellung in der Welt (1940), Mängelwesen/Weltoffenheit. Bereits verwendet in Universalgenie oder Dummkopf?. Die Geschwindigkeits-Zuspitzung (die Nische verändert sich schneller als der Mensch) ist eine eigenständige Verschärfung, nicht Teil von Gehlens Originaltext.
7 Seymour Papert, Mindstorms: Children, Computers, and Powerful Ideas (1980). Constructionism, "objects-to-think-with" – Konzept verifiziert, kein wörtliches Zitat, Paraphrase. Siehe auch: Wie KI-fit ist Dänemark?
8 Harari, ebd., S. 90.
9 Kernsatz aus Ich bin, was du glaubst. Vgl. auch Zuzana Buçincas Friction-by-Design in Der letzte Mensch.
10 Harari, ebd., Kapitel zur "überflüssigen Klasse".
11 Harari, ebd., S. 131 ("Wer sich in seinem Körper nicht mehr zu Hause fühlt..."), hier von "Körper" auf "eigenes Denken" übertragen – eigene Zuspitzung.
12 Vgl. Ethan Mollick, Co-Intelligence – bereits behandelt in Der letzte Mensch.
13 Sokrates' Elenchus-Methode, überliefert primär durch Platons frühe Dialoge und die Apologie: Sokrates behauptete kaum je, selbst eine Antwort zu besitzen – die Methode bestand aus systematischem Nachfragen, nicht aus Gegenbehauptungen.
14 Ikujiro Nonaka & Hirotaka Takeuchi, Konzept des Ba (gemeinsamer Wissensraum). Ausführlich in Ba: Wissen braucht einen Raum und Wer ist Ikujiro Nonaka?.
15 Eric Kandels CREB-These (strukturelle Gedächtnisbildung durch anstrengende, wiederholte Aktivierung). Bereits ausführlich in Der letzte Mensch und Wer ist Eric Kandel? belegt.
16 Robert Bjork, Desirable Difficulties – bereits in Der letzte Mensch verwendet.
17 Vgl. Wer ist Søren Kierkegaard? – Wahrheit ist Subjektivität, der Einzelne gegen das System.