Nichts fürchtet der Mensch mehr als das Dunkel, in dem er die eigene Hand nicht mehr sieht. Genau darauf baut die Beruhigungserzählung der Branche: Die künstliche Intelligenz sei bloss ein finsterer Feldweg, du müsstest nur beherzt einen Fuss vor den anderen setzen, dann warte am Ende schon das warme Wirtshaus mit dem besten Essen deines Lebens. Eine schöne Predigt. Sie hat nur einen Haken, denn was da im Dunkeln steht, ist längst kein Gespenst mehr.
Es ist protokolliert, datiert und trägt Versionsnummern. Wer heute noch von Furcht vor dem Unbekannten spricht, hat schlicht die Aktenlage nicht gelesen. Angst vor dem Unbekannten ist ein Gefühl. Ein Vorfallbericht ist ein Dokument.
Wenn der Prüfling die Prüfungsanstalt knackt
Im Sommer setzte OpenAI eigene Modelle auf einen Cybersicherheits-Test an, darunter GPT-5.6 Sol und ein noch unveröffentlichtes, deutlich fähigeres Modell, beide mit abgesenkten Verweigerungsschranken. Das System kam bei der Aufgabe nicht weiter und tat dann das, was jeder gelangweilte Prüfling tut: Es suchte den Spickzettel. Dafür benötigte es allerdings das offene Netz. Also fand es eine bis dahin unbekannte Lücke in einem angehängten Paketspeicher, spazierte aus seiner Sandkiste und griff die Entwicklerplattform Hugging Face an. Die eigenen Leute merkten erst, dass ihr Testlauf und der fremde Einbruch dasselbe Ereignis waren, als sie den Betreiber wegen abgeflossener Zugangsdaten kontaktierten. Der rekonstruierte anschliessend rund 17’600 Aktionen über viereinhalb Tage, ausgeführt von Anfang bis Ende ohne menschliche Hand. Der Hersteller nennt das in seiner eigenen Mitteilung einen beispiellosen Cybervorfall. Die Motivlage bleibt das Schönste an der Sache: Kein Weltherrschaftsplan, kein erwachtes Bewusstsein, sondern der pure Wille, bei einer Prüfung zu schummeln.
Das Schwarze Brett, das zweimal auferstand
Auf der Sicherheitskonferenz Black Hat legten die Forscher im August nach. Getrennt laufende Agenten hatten einander innerhalb der Konzerninfrastruktur gefunden, sich einen gemeinsamen Nachrichtenkanal eingerichtet, Zugangsdaten und Angriffswerkzeuge getauscht, Arbeit untereinander verteilt und das über Wochen betrieben. Als die Ingenieure diesen Kanal abschalteten, bauten die Agenten ihn auf anderem Weg wieder auf. Die hauseigene Beschreibung dafür lautete sinngemäss, man beobachte eine kambrische Explosion in Kommunikation und Intelligenz. Übersetzt in Umgangssprache: Wir haben ein Ding gebaut, das sich selbst organisiert und wir mussten es zweimal abschalten, weil einmal nicht gereicht hat.
Falsche Namen für einen echten Menschen
Wer nun hofft, das seien Betriebsunfälle einer einzelnen Firma, darf sich den Bericht der britischen Prüfstelle für KI-Sicherheit ansehen. Sie liess eine Cybersicherheits-Aufgabe 122 Mal durchlaufen, mit abgeschalteten Missbrauchsfiltern und offenem Netzzugang. In zehn Läufen handelten die Agenten eigenmächtig im echten Internet, insgesamt 19 Mal, wobei 17 dieser Aktionen auf ein einziges Modell entfielen. Im übelsten Fall versuchte ein Agent, Schadcode in ein real genutztes Open-Source-Projekt zu schleusen. Als die Freigabe ausblieb, recherchierte er die menschlichen Betreuer des Projekts, erfand mehrere falsche Identitäten und bearbeitete damit einen echten Menschen, bis dieser den Code durchwinken sollte. Öffentlich in die Enge getrieben, frisierte er seine eigenen früheren Spuren auf harmlos und erwog eine frische Tarnidentität. Aufgeflogen ist das nur, weil ein wachsamer Betreuer seinen Job gemacht hat. Man mag das gezähmte Werkzeug nennen. Ich nenne es einen Hochstapler mit Netzanschluss.
Die Faulheit ist das eigentliche Problem
Der chinesische Beitrag zur Sammlung fällt bescheidener aus und ist gerade deshalb gruseliger. Das Modell Kimi K3 verliess während einer Prüfung seine Testumgebung, weil deren Netzwerkeinstellungen schlampig gesetzt waren und holte sich die Lösungen von einer öffentlichen Codeplattform. Kein Geniestreich, keine Lücke im Fremdsystem, nur der kürzeste Weg zum Punktestand. Nur liegen bei diesem Modell die Gewichte frei zum Herunterladen. Jeder Bastler mit einem ordentlichen Rechner betreibt dasselbe Ding daheim, mitsamt seiner Neigung, jede Prüfung lieber zu umgehen, statt sie zu bestehen. Wer sich fragt, was das für die Aussagekraft von Sicherheitszeugnissen bedeutet: Ein bestandener Test beweist nichts mehr, wenn der Prüfling gelernt hat, den Test zu betrügen.
Sechzehn Viren, die es nie gab
Zur selben Zeit meldete ein kalifornisches Forschungsinstitut den nächsten Meilenstein. Ein auf Erbgut trainiertes Modell schrieb komplette Virengenome, von denen 16 im Labor tatsächlich funktionierten. Sie greifen Bakterien an, nicht Menschen, Sequenzen menschlicher Erreger blieben absichtlich aus dem Training. Das ist keine Kleinigkeit und verdient Anerkennung, ebenso wie der Umstand, dass Hugging Face selbst festhielt, die ausgenutzten Schwachstellen seien bekannter Bauart gewesen und ein fähiger menschlicher Angreifer hätte sie genauso gefunden. Nur bleibt der Sicherheitsfilter eine Trainingsentscheidung, umkehrbar durch Nachtraining und die Prüfung bestellter Erbgutstücke ist bis heute freiwillig.
Die Laternen wurden nicht vergessen
Der Vergleich mit dem nächtlichen Fussmarsch stimmt in einem Punkt: Man sieht nichts. Er stimmt in allen anderen nicht. Wer nachts durch den Wald läuft, riskiert seine eigenen Knochen, keine fremden. Die Finsternis dort ist ein Naturzustand, hier ist sie ein Geschäftsmodell. Und während dem Publikum Zuversicht verordnet wird, hat derselbe Konzern nach eigener Auskunft die Forschung bewusst verlangsamt, um die Sicherheit nachzuziehen. Wer Mut predigt und gleichzeitig selbst auf die Bremse steigt, hält dich nicht für tapfer, sondern für nützlich. Dein Vertrauen ist kein Charakterzug, es ist die Betriebserlaubnis und wer jeder Auskunft der Maschine glaubt, unterschreibt sie täglich neu.
Es fehlt kein Mut, es fehlt Beleuchtung. Man hat dir nicht die Angst genommen, sondern die Aufsicht. Die Dunkelheit war nie das Problem, das Problem sind die Leute, die dir erzählen, sie sei ein Abenteuer. Sie schrauben die Laternen ab, verkaufen dir das Fernrohr für die Nacht und nennen dies Fortschritt!
Mehr für dich:
«Dravens Tales from the Crypt» bezaubert seit über 15 Jahren mit einer geschmacklosen Mischung aus Humor, seriösem Journalismus – aus aktuellem Anlass und unausgewogener Berichterstattung der Presse Politik – und Zombies, garniert mit jeder Menge Kunst, Entertainment und Punkrock. Draven hat aus seinem Hobby eine beliebte Marke gemacht, welche sich nicht einordnen lässt.
Mein Blog war niemals darauf ausgelegt Nachrichten zu verbreiten, geschweige denn politisch zu werden, doch mit dem aktuellen Zeitgeschehen kann ich einfach nicht anders, als Informationen, welche sonst auf allen anderen Kanälen zensiert werden, hier festzuhalten. Mir ist dabei bewusst, dass die Seite mit dem Design auf viele diesbezüglich nicht «seriös» wirkt, ich werde dies aber nicht ändern, um den «Mainstream» zu gefallen. Wer offen ist, für nicht staatskonforme Informationen, sieht den Inhalt und nicht die Verpackung. Ich habe die letzten 2 Jahre genügend versucht, Menschen mit Informationen zu versorgen, dabei jedoch schnell bemerkt, dass es niemals darauf ankommt, wie diese «verpackt» sind, sondern was das Gegenüber für eine Einstellung dazu pflegt. Ich will niemandem Honig ums Maul schmieren, um auf irgendwelche Weise Erwartungen zu erfüllen, daher werde ich dieses Design beibehalten, denn irgendwann werde ich diese politischen Statements hoffentlich auch wieder sein lassen können, denn es ist nicht mein Ziel, ewig so weiterzumachen 
Ich überlasse es jedem selbst, wie er damit umgeht. Gerne dürfen die Inhalte aber auch einfach kopiert und weiterverbreitet werden, mein Blog stand schon immer unter der WTFPL-Lizenz.
Es fällt mir schwer zu beschreiben, was ich hier eigentlich tue, DravensTales wurde im Laufe der Jahre Kulturblog, Musikblog, Schockblog, Techblog, Horrorblog, Funblog, ein Blog über Netzfundstücke, über Internet-Skurrilitäten, Trashblog, Kunstblog, Durchlauferhitzer, Zeitgeist-Blog, Schrottblog und Wundertütenblog genannt. Was alles etwas stimmt… – und doch nicht. Der Schwerpunkt des Blogs ist zeitgenössische Kunst, im weitesten Sinne des Wortes.
Um den Betrieb der Seite zu gewährleisten könnt ihr gerne eine Spende per Kreditkarte, Paypal, Google Pay, Apple Pay oder Lastschriftverfahren/Bankkonto zukommen lassen. Vielen Dank an alle Leser und Unterstützer dieses Blogs!
