Endlich denkt jemand für uns – und irrt sich in 45 Prozent der Fälle

Aldous Huxley benötigte für seine schöne neue Welt noch Brutkästen, Konditionierungssäle und eine Glücksdroge namens Soma. Die Gegenwart hat das Sortiment verschlankt: Ein Chatfenster genügt. Der Bürger tippt seine Fragen, seine Steuerunterlagen und seine Krankengeschichten hinein und heraus kommt eine Antwort, die in fast der Hälfte der Fälle mindestens ein erhebliches Problem enthält. Verkauft wird das Ganze als grösster Zivilisationssprung seit der Elektrifizierung.

Kein Produkt der Technikgeschichte wurde derart aggressiv in die Köpfe gedrückt wie die künstliche Intelligenz. Sie wird in Schulen subventioniert, in Behörden verordnet, in jede Software hineingenagelt, ob der Nutzer sie will oder nicht. Dabei drängt sich eine schlichte Frage auf: Ein wirklich überlegenes Werkzeug müsste niemand mit Milliardenbudgets und Dauerbeschallung in den Alltag pressen – es würde sich von selbst durchsetzen. Dass die Heilsbotschaft rund um die Uhr gepredigt werden muss, sagt mehr über das Produkt als jede Hochglanzpräsentation.

45 Prozent Ausschuss gelten als Serienreife
Wie gut die digitale Wunderwaffe tatsächlich funktioniert, haben 22 öffentlich-rechtliche Sender aus 18 Ländern unter Federführung der BBC nachgemessen. Für die Studie «News Integrity in AI Assistants» der Europäischen Rundfunkunion liessen Journalisten mehr als 3000 Antworten von ChatGPT, Copilot, Gemini und Perplexity in 14 Sprachen prüfen. Das Resultat: 45 Prozent der Antworten enthielten mindestens ein erhebliches Problem, 81 Prozent wiesen irgendeinen Mangel auf. Die häufigsten Defekte waren falsche oder fehlende Quellenangaben in 31 Prozent der Fälle und Faktenfehler bis hin zu frei erfundenen Details in 20 Prozent. Besonders entlarvend: Die Verweigerungsrate sank auf 0,5 Prozent. Die Maschine antwortet lieber falsch als gar nicht, denn Schweigen verkauft keine Abos. Ein Autohersteller mit 45 Prozent Ausschuss stünde vor dem Konkursrichter, ein KI-Konzern steht vor der nächsten Finanzierungsrunde. Und das Publikum? Mehr als ein Drittel der britischen Erwachsenen vertraut KI-Zusammenfassungen, bei den unter 35-Jährigen ist es fast die Hälfte. Der Glaube ersetzt die Prüfung – wie in jeder ordentlichen Religion.

Das ausgelagerte Gehirn
Was der Dauergebrauch der Plauderautomaten mit dem Denkorgan anstellt, hat das MIT Media Lab in der Untersuchung «Your Brain on ChatGPT» gemessen. 54 Studenten schrieben Aufsätze, eine Gruppe nur mit dem eigenen Kopf, eine mit Suchmaschine, eine mit ChatGPT, alle verkabelt mit EEG-Hauben. Die KI-Gruppe zeigte die schwächste neuronale Vernetzung ausgerechnet in jenen Frequenzbändern, die für Aufmerksamkeit, Gedächtnisbildung und tiefe Verarbeitung stehen. Über 80 Prozent der KI-Schreiber konnten kurz nach Abgabe nicht einmal mehr aus dem eigenen Text zitieren. Die prüfenden Lehrkräfte nannten die Aufsätze seelenlos, formelhaft, austauschbar. Die Forscher prägten dafür den Begriff der kognitiven Schuld: Wer das Denken auslagert, baut ein Defizit auf, das beim nächsten eigenständigen Versuch fällig wird. Eine Generation, die effizienter liefert und flacher denkt – aus Sicht jeder Verwaltung und jedes Konzerns ist das kein Defekt, sondern die Produktbeschreibung.

Der Fragende ist der Rohstoff
Bleibt die Frage, wofür ein Apparat gut sein soll, der weder zuverlässig informiert noch das Denken fördert. Die Antwort steht in den Datenschutzetiketten der Apps, die der Sicherheitsanbieter Surfshark ausgewertet hat: Ausnahmslos jede untersuchte KI-Anwendung sammelt Nutzerdaten. Meta AI greift 33 von 35 möglichen Datentypen ab, darunter als einzige App explizit Finanzinformationen sowie, gemeinsam mit Googles Gemini, ethnische Herkunft und religiöse Überzeugungen. Gemini selbst kommt auf 23 Kategorien, inklusive präziser Standortdaten, Kontaktlisten und Browserverläufe.

ChatGPT hat seine Sammelwut binnen Jahresfrist von 10 auf 17 Datentypen gesteigert, ein Plus von rund 70 Prozent. Und 70 Prozent der gängigen KI-Apps erfassen inzwischen den Standort ihrer Nutzer, im Vorjahr waren es noch 40. Der Kontext macht die Sache erst richtig appetitlich: Die Leute laden Steuerdokumente hoch, schildern Symptome, beichten Ehekrisen und formulieren Bewerbungen. Aus diesen Eingaben entsteht ein Persönlichkeitsprofil, das kein Fragebogen, keine Kundenkarte und kein Abhörprotokoll je in dieser Dichte liefern könnte – freiwillig angeliefert, sauber verschlagwortet, mit Zeitstempel. Wie sorgsam die Branche mit fremden Daten umgeht, war erst kürzlich zu besichtigen, als sich eine KI zum Komplizen eines Staatsdatenraubs dressieren liess.

Soma gibt es jetzt im Monatsabo
Huxleys Weltregierung musste ihre Untertanen noch aufwendig züchten, konditionieren und mit Pillen ruhig stellen. Die schöne neue KI-Welt arbeitet effizienter: Der Bürger konditioniert sich selbst – Eingabe um Eingabe – und bezahlt die Droge obendrein im Abo. Die eigentliche Revolution ist darum keine Wissensrevolution, sondern eine Bewirtschaftungsrevolution. Bewirtschaftet wird nicht die Information, sondern der Mensch vor dem Bildschirm, sein Profil, seine Aufmerksamkeit, sein schrumpfendes Restdenken. Was von ihm übrig bleibt, steht bereits in den Studien: Ein verlässlicher Datenlieferant mit nachlassender neuronaler Vernetzung und wachsendem Vertrauen in seinen Bewacher. Die Maschine halluziniert und der Mensch applaudiert. Der Konzern erntet die Daten und der Bürger zahlt das Abo obendrauf. Das Denken wird an der Garderobe abgegeben wie ein Mantel, den niemand je zurückverlangt. Eine Zivilisation lagert ihr Gehirn an einen Apparat aus, der in fast der Hälfte der Fälle danebenliegt – und nennt dies «Fortschritt»!