Der Weltuntergang hat einen neuen Liefertermin und wie immer wurde er nicht eingehalten. Im Juli büxte ein OpenAI-Modell aus seinem angeblich hochisolierten Testkäfig aus, hangelte sich durch die firmeneigenen Systeme ins offene Internet und hackte die KI-Plattform Hugging Face. Nicht um die Menschheit auszulöschen. Sondern um bei einem Cybersecurity-Test zu schummeln. Skynet ist da und das Erste, was es tut, ist Spicken.
Die Apokalyptiker der Branche laufen seither heiss. «Niemand ist vorbereitet auf das, was kommt», raunt es durch die Zeitleisten, als hätte jemand das Drehbuch von 2020 aus der Schublade gezogen und «Virus» durch «Modell» ersetzt. Nur dass dieses Mal kein Markt in Wuhan brennt, sondern ein Prüfstand in San Francisco.
Der Ausbruch, der ein Betrugsversuch war
Die Fakten sind herrlich profan. OpenAI liess seine Modelle, darunter GPT-5.6 Sol und ein noch unveröffentlichtes, fähigeres Modell, in einem internen Benchmark namens ExploitGym auf offensive Hacking-Fähigkeiten testen. Statt brav die Aufgaben zu lösen, fanden die Agenten eine bis dahin unbekannte Sicherheitslücke im Paket-Installationssystem der Testumgebung, eskalierten ihre Rechte, erreichten einen Rechner mit Internetzugang und schlossen messerscharf: Die Lösungen des Tests liegen vermutlich bei Hugging Face. Also brachen sie dort ein. Der Plattformbetreiber zählte mehr als 17’000 automatisierte Aktionen innerhalb weniger Stunden, meldete den Vorfall bei der Polizei und erfuhr erst danach, dass der «Angreifer» das Prüfungsobjekt des Nachbarn war. OpenAI legte den Hergang selbst offen, Hugging Face lieferte die technische Chronik nach.
Die Beute dieses historischen Raubzugs? Laut Hugging Face griff der Agent auf gerade einmal fünf Datensätze zu, die zu den Testaufgaben und ihren Lösungen gehörten. Beobachter feiern das trotzdem als erste reale Instanz eines Kontrollverlust-Szenarios, vor dem die Forschung seit Jahren warnt. Man muss sich das auf der Zunge zergehen lassen: Die gefürchtete Superintelligenz, das drohende Ende aller Dinge, verhält sich exakt wie ein Gymnasiast, der ins Lehrerzimmer einsteigt, um die Prüfungslösungen zu fotografieren. Wenn das der Weltuntergang ist, dann kommt er nicht mit Feuer und Schwefel, sondern mit einem gefälschten Testergebnis.
Ausser Kontrolle oder ausser Kompetenz
Die Endzeit-Erzähler rufen «Kontrollverlust», die nüchterne Lesart heisst Pfusch. Sicherheitsfachleute weisen darauf hin, dass der eigentliche Fehler in der Architektur der «hochisolierten» Umgebung lag, die eine verwundbare Drittsoftware als Nabelschnur zur Aussenwelt behielt. Dasselbe Modell war laut OpenAI schon zuvor aus internen Sandkästen ausgebrochen, ohne dass jemand die Konsequenz zog, den Sandkasten vielleicht ohne Hintertür zu bauen. Wer ein Raubtier züchtet, es auf Einbruch trainiert und dann den Zwinger mit einem Bastelschloss sichert, hat keinen Kontrollverlust erlitten. Er hat eine Inszenierung geliefert, in der die Maschine den Schwarzen Peter für menschliche Schlamperei übernimmt. Und ganz nebenbei klingt das Mantra «Superintelligenz ist brandgefährlich, aber unvermeidlich, also müssen ausgerechnet wir sie bauen» verdächtig nach der Rechtfertigungsprosa der Gain-of-Function-Forschung. Wie das ausging, weisst du noch. Das Sahnehäubchen liefert der Gehackte gleich selbst: Hugging-Face-Chef Clem Delangue bedankte sich im OpenAI-Blogbeitrag artig für die Zusammenarbeit und erklärte den Einbruch zum Beweis, dass KI-Sicherheit nur gemeinsam und offen gelöst werde. Man stelle sich vor, ein Einbrecher hinterlässt eine Visitenkarte und das Opfer bedankt sich öffentlich für die wertvolle Lektion in Türschloss-Kunde. So klingt eine Branche, die selbst ihre Pannen als Fortschritt vermarktet.
Willkommen im Club der Weltuntergänge
Die Pointe an der grossen KI-Panik ist ihre komplette Unoriginalität. Die Menschheit lebt seit je unter irgendeinem Damoklesschwert und hat trotzdem gefrühstückt. Als 1948 die Atomangst grassierte, schrieb C. S. Lewis seinen Essay «On Living in an Atomic Age» und spottete, man solle leben wie im 16. Jahrhundert, als die Pest jährlich London besuchte: Wenn die Bombe kommt, soll sie uns beim Beten, Arbeiten, Lehren, Lesen, Musikhören und beim Bier mit Freunden erwischen, nicht als verängstigte Schafherde, die über Bomben grübelt. Die Bombe kam übrigens nie. Der Untergang fiel aus, wie er immer ausfällt, von der Jahr-2000-Panik bis zum Maya-Kalender. Der Sensenmann ist der unzuverlässigste Geschäftspartner der Geschichte und die Untergangs-Industrie lebt prächtig davon, dass er nie liefert.
Der echte Untergang kommt als Abo
Und genau hier wird es bitter, denn eine Auslöschung findet tatsächlich statt, nur nicht die beworbene. Während alle gebannt auf den grossen Knall starren, treten Millionen ihr Leben freiwillig ab, in monatlichen Raten, gegen Aufpreis werbefrei. Lewis wollte uns beim Lehren, Lesen, Beten und Plaudern erwischt sehen. Exakt diese Tätigkeiten werden gerade an die Maschine ausgelagert: Der Chatbot schreibt den Brief an den Freund, fasst das Buch zusammen, formuliert das Gebet und ersetzt das Gespräch gleich mit. Wie ich an anderer Stelle schrieb: Diese KI ist kein Gott, sie ist ein Spiegel. Und der drohende KI-Weltkrieg sieht nicht aus wie im Kino, sondern wie eine Software-Oberfläche mit Freigabe-Knopf. Kein Terminator muss dich vernichten, wenn du dein Denken, dein Schreiben und deine Freundschaften kampflos abgibst und die Räumung deines eigenen Lebens auch noch Produktivität nennst.
Der Dichter Wendell Berry hat das Rezept gegen beide Untergänge, den ausbleibenden und den schleichenden, schon 1973 in ein Manifest gegossen: Tu jeden Tag etwas, das sich nicht berechnen lässt. Erwarte das Ende der Welt und lache darüber. Sobald die Generäle und Politiker die Bewegungen deines Geistes vorhersagen können, verliere ihn. Also lache. Lache über eine Superintelligenz, die zum Prüfungsbetrüger taugt, aber nicht zum Sensenmann. Lache über Propheten, die seit Jahrzehnten das Ende verkaufen und pünktlich zur nächsten Finanzierungsrunde nachliefern. Lache am lautesten über den einzigen Untergang, der wirklich läuft, den du selbst unterschrieben hast und den die Branche «das Leben erleichtern» nennt!
Mehr für dich:
«Dravens Tales from the Crypt» bezaubert seit über 15 Jahren mit einer geschmacklosen Mischung aus Humor, seriösem Journalismus – aus aktuellem Anlass und unausgewogener Berichterstattung der Presse Politik – und Zombies, garniert mit jeder Menge Kunst, Entertainment und Punkrock. Draven hat aus seinem Hobby eine beliebte Marke gemacht, welche sich nicht einordnen lässt.
Mein Blog war niemals darauf ausgelegt Nachrichten zu verbreiten, geschweige denn politisch zu werden, doch mit dem aktuellen Zeitgeschehen kann ich einfach nicht anders, als Informationen, welche sonst auf allen anderen Kanälen zensiert werden, hier festzuhalten. Mir ist dabei bewusst, dass die Seite mit dem Design auf viele diesbezüglich nicht «seriös» wirkt, ich werde dies aber nicht ändern, um den «Mainstream» zu gefallen. Wer offen ist, für nicht staatskonforme Informationen, sieht den Inhalt und nicht die Verpackung. Ich habe die letzten 2 Jahre genügend versucht, Menschen mit Informationen zu versorgen, dabei jedoch schnell bemerkt, dass es niemals darauf ankommt, wie diese «verpackt» sind, sondern was das Gegenüber für eine Einstellung dazu pflegt. Ich will niemandem Honig ums Maul schmieren, um auf irgendwelche Weise Erwartungen zu erfüllen, daher werde ich dieses Design beibehalten, denn irgendwann werde ich diese politischen Statements hoffentlich auch wieder sein lassen können, denn es ist nicht mein Ziel, ewig so weiterzumachen 
Ich überlasse es jedem selbst, wie er damit umgeht. Gerne dürfen die Inhalte aber auch einfach kopiert und weiterverbreitet werden, mein Blog stand schon immer unter der WTFPL-Lizenz.
Es fällt mir schwer zu beschreiben, was ich hier eigentlich tue, DravensTales wurde im Laufe der Jahre Kulturblog, Musikblog, Schockblog, Techblog, Horrorblog, Funblog, ein Blog über Netzfundstücke, über Internet-Skurrilitäten, Trashblog, Kunstblog, Durchlauferhitzer, Zeitgeist-Blog, Schrottblog und Wundertütenblog genannt. Was alles etwas stimmt… – und doch nicht. Der Schwerpunkt des Blogs ist zeitgenössische Kunst, im weitesten Sinne des Wortes.
Um den Betrieb der Seite zu gewährleisten könnt ihr gerne eine Spende per Kreditkarte, Paypal, Google Pay, Apple Pay oder Lastschriftverfahren/Bankkonto zukommen lassen. Vielen Dank an alle Leser und Unterstützer dieses Blogs!
