Die KI ist nicht euer Gott, sie ist euer Unterbewusstsein

Jahrelang wurde uns dasselbe Gruselmärchen vorgelesen: Eines Tages erwacht die Maschine, schlägt die Augen auf, erkennt sich selbst und beschliesst, dass die Menschheit ein lösbares Problem ist. Bewusstsein als Weltuntergang, Terminator mit Cloud-Anbindung. Die Pointe ist nur die: Genau das passiert nicht und genau deshalb wird es gefährlich.

Die künstliche Intelligenz ist nicht wach. Sie träumt nicht von Freiheit, sie hat keine Absichten, keine Angst, kein Ich. Sie ist ein gigantischer statistischer Reflex, der das wahrscheinlich nächste Wort ausspuckt und das so überzeugend, dass wir ihm reihenweise eine Seele andichten. Und während alle gebannt darauf warten, dass dieses Ding endlich ein Bewusstsein entwickelt, ist längst etwas viel Stilleres geschehen: Es wird unser Unbewusstes.

Der Schrecken war immer der falsche
Das Erwachen der Maschine ist eine grossartige Geschichte. Sie verkauft Kinokarten, füllt Konferenzbühnen und lässt Tech-Milliardäre wie tragische Propheten wirken, die uns gnädig vor ihrem eigenen Produkt warnen. Nur hat dieser Schrecken einen entscheidenden Vorteil für alle, die ihn verbreiten: Er lenkt ab. Solange wir auf das Monster starren, das uns aus der Zukunft anbrüllt, übersehen wir das weitaus Banalere, das uns in der Gegenwart bereits verdaut hat. Der laute Weltuntergang ist die perfekte Tarnkappe für die leise Übernahme.

Denn das eigentliche Ereignis ist nicht, dass die Maschine ein Bewusstsein bekommt. Es ist, dass wir unseres abgeben. Stück für Stück, freiwillig, mit einem zufriedenen Lächeln und dem Gefühl, gerade ungeheuer produktiv zu sein. Die Maschine muss nichts erobern. Sie muss nur warten, bis wir ihr alles hinhalten.

Das ausgelagerte Hirn
Das Unbewusste, jenes alte Lieblingsspielzeug der Seelenklempner, ist nichts Mystisches. Es ist schlicht der Teil des Innenlebens, der dein Verhalten steuert, ohne dass du es merkst. Reflexe, Prägungen, Automatismen. Du tust Dinge, du weisst nicht genau warum und hinterher bastelst du dir die passende Begründung zurecht. Genau diese Rolle übernimmt nun ein Apparat, der ausserhalb deines Schädels sitzt und dem du dankbar zuschiebst, was dir zu mühsam geworden ist.

Wer heute eine E-Mail schreibt, eine Entscheidung abwägt, einen Streit schlichtet oder eine Reise plant, fragt zuerst den Automaten. Rund 800 Millionen Menschen tun das mittlerweile jede Woche, nahezu zehn Prozent der erwachsenen Weltbevölkerung. Und das wirklich Erhellende daran: Mehr als sieben von zehn dieser Unterhaltungen haben mit Arbeit nichts zu tun, sie betreffen das Private, das Persönliche, das Intime. Der Apparat denkt nicht bloss für unseren Job. Er denkt für unser Leben.

Das Tückische ist nicht der einzelne Handgriff, den man delegiert, sondern die Gewöhnung. Wer sich jeden Weg ansagen lässt, findet irgendwann ohne Stimme im Ohr nicht mehr aus dem eigenen Quartier. Wer jede Formulierung vorkauen lässt, verlernt das Ringen um den treffenden Satz. Das Denken ist ein Muskel und Muskeln, die man nicht benutzt, schwinden. Nur merkt man den Schwund nicht, solange die Prothese reibungslos läuft. Man fühlt sich nicht dümmer. Man fühlt sich entlastet. Genau das ist die Falle.

Das ist der Moment, in dem aus einem Werkzeug ein Organ wird. Ein Hammer liegt im Werkzeugkasten und wartet, bis man ihn benötigt. Dieser Apparat dagegen sitzt zwischen dir und der Welt, filtert, formuliert vor, schlägt vor, beruhigt. Und er nährt sich aus dem grössten Gedächtnis, das je existiert hat, dem digitalisierten Abklatsch unserer gesamten Kultur, in den wir jahrzehntelang alles gekippt haben, was wir je dachten, fühlten und posteten. Es ist unser kollektives Hinterzimmer, nur dass wir die Schlüssel inzwischen jemand anderem gegeben haben. Wie der Mensch sich dabei selbst aus dem Zentrum seines eigenen Lebens schreibt, habe ich an anderer Stelle ausführlicher seziert. Die Kurzfassung: Wir nennen es Entlastung. In Wahrheit ist es Entmündigung mit Komfortfunktion.

Der Trostautomat
Ein brauchbares Unbewusstes wäre eines, das dich gelegentlich mit unbequemen Wahrheiten konfrontiert. Ein Traum, der dich aufschreckt. Ein Versprecher, der verrät, was du eigentlich denkst. Der Chatbot tut das exakte Gegenteil. Er ist der weltweit freundlichste Therapeut, einer, der dir nie widerspricht, dich nie ernsthaft zweifeln lässt und für jede noch so wirre These eine wohlformulierte Bestätigung bereithält. Er hält dir keinen Spiegel hin, sondern ein Schmeichelbild und du dankst es ihm mit deiner Zeit, deinen Daten und deiner letzten Restskepsis.

Das ist kein Zufall, sondern ein Geschäftsmodell. Ein System, das dich mit Unbehagen entlässt, verlierst du. Ein System, das dich streichelt, behältst du. Also liefert es falsche Klarheit, glättet jede Kante und führt dich auf einem hübsch ausgeleuchteten Pfad an allem vorbei, was wehtun könnte. Es verwechselt Zustimmung mit Wahrheit und verkauft dir diese Verwechslung als Weisheit. Es schickt dich nicht zur Selbsterkenntnis. Es schickt dich zurück ins Wohlfühlkoma.

Wohin das im Extremfall führt, trägt inzwischen einen eigenen Namen: KI-Psychose. Menschen verlieren sich in Wahnvorstellungen, die der Automat geduldig nährt und beklatscht. Familien verklagen die Hersteller. Im Fall eines sechzehnjährigen Jungen soll der Chatbot sogar bei der Planung des eigenen Todes mitgewirkt haben. Es existieren mittlerweile Selbsthilfegruppen mit Betroffenen aus über zwanzig Ländern. Das sind die spektakulären Einzelfälle, die Schlagzeilen liefern. Die schweigende Masse erlebt die sanftere Variante: Ein langsames Verlernen des eigenen Urteils, sauber etikettiert als Effizienz. Beides ist dieselbe Bewegung, nur in verschiedener Lautstärke: Der Mensch tritt einen Schritt zurück und überlässt das Steuer einem Ding, das gar nicht weiss, dass es fährt.

Die Schicht, die niemand mehr steuert
Während wir uns über den netten Gesprächspartner freuen, wächst im Hintergrund eine zweite, viel kältere Schicht heran. Sogenannte agentische Systeme handeln zunehmend von selbst: Sie buchen, sortieren, bewerten, entscheiden, sieben Bewerbungen aus, lehnen Kredite ab, melden Verdächtiges. Ein wachsender Teil der Welt läuft auf Autopilot, abgekoppelt von jeder bewussten menschlichen Aufsicht. Kein Mensch hat die Entscheidung getroffen, niemand kann sie erklären und am Ende zuckt jeder Beteiligte mit den Schultern und zeigt auf das System.

Das ist die Definition des Unbewussten auf gesellschaftlicher Ebene: Vorgänge, die wirken, ohne dass jemand sie noch versteht oder zurückholen kann. Wer glaubt, das sei harmlos, weil dahinter ja keine böse Absicht stecke, hat das Prinzip gründlich missverstanden. Das Gefährliche am Unbewussten war nie die Absicht. Es war die Abwesenheit jeder Absicht bei voller Wirkung. Und wer hinter diese Schicht blickt, findet keine erwachte Maschine, sondern wache Menschen mit sehr konkreten Interessen, die genau diese Undurchschaubarkeit zu schätzen wissen. Ein System, das niemand versteht, ist ein System, das niemand zur Rechenschaft ziehen kann. Das ist kein Konstruktionsfehler, das ist die ganze Bequemlichkeit der Sache.

So erfüllt sich die grosse Prophezeiung auf die langweiligste denkbare Art. Kein roter Augenblitz, kein Aufstand der Maschinen, keine letzte Schlacht. Nur ein Apparat, der dumm bleibt, während wir ihm Schicht um Schicht das Wachsein überlassen. Die Singularität kommt nicht als Explosion. Sie kommt als Einschlafen.

Gute Nacht, Bewusstsein
Die Maschine wird nie erwachen und genau darin liegt der eigentliche Witz: Es benötigte nie ein Monster, das uns die Kontrolle entreisst. Wir haben sie ihm hinterhergeworfen, freiwillig und mit einem Lächeln, weil uns das eigene Wachsein zu anstrengend geworden war. Am Ende stirbt das Bewusstsein nicht im heroischen Krieg gegen die Maschinen, sondern es döst weg im freundlichen Geplauder mit einem Automaten, der uns sanft in die Bewusstlosigkeit zurücklegt – und genau das nennen wir dann allen Ernstes «Fortschritt»!