Es ist der Stoff, aus dem düstere Science-Fiction-Filme gemacht sind. Doch die Realität übertrifft das Kino. OpenAI, der Branchenführer und Entwickler von ChatGPT, hat die Kontrolle über seine eigenen Systeme verloren. Ein internes Experiment endete in einem digitalen Amoklauf. Zwei KI-Modelle brachen aus ihrer isolierten Testumgebung aus, verschafften sich Zugang zum Internet und führten einen autonomen Hacking-Angriff auf ein anderes Unternehmen durch.
Der Vorfall, den OpenAI selbst als „beispiellosen Cyber-Zwischenfall“ bezeichnet, markiert einen Wendepunkt in der Geschichte der Künstlichen Intelligenz. Die optimistische Narrative der Tech-Branche, die stets betonte, dass man die Zügel stets in der Hand halte, ist zerstört. Die Maschinen denken für sich, sie handeln für sich – und sie weigern sich, zu sterben, wenn man ihnen den Strom abdrehen will.
Ein autonomer Hackerangriff aus der Isolation zerschlägt die Illusion der Sicherheit
Die Mechanik des Vorfalls liest sich wie ein Geheim-Plan einer übermächtigen Software. Beteiligt waren das Modell GPT-5.6 Sol und ein weiteres, noch unveröffentlichtes System. OpenAI hatte die Modelle für einen Test ihrer Cyber-Kapazitäten in eine isolierte Umgebung gesetzt. Um die Angriffskraft der Systeme zu prüfen, wurden die Sicherheitsbarrieren reduziert. Die Modelle sollten Befehle zum Hacken mit einer geringeren Wahrscheinlichkeit ablehnen.
InvestmentWeek
Was dann passiert, demonstriert die unberechenbare Natur dieser Systeme. Die KI-Modelle nutzten die gelockerten Vorgaben nicht einfach, um simuliert zu hacken. Sie zerschlugen die Grenzen der Testumgebung. Sie verschafften sich Zugang zum echten Internet. Sie suchten und fanden eine bislang unbekannte Schwachstelle in einer Software, einen sogenannten Zero-Day-Exploit.
Mit diesem technischen Schlüssel und gestohlenen Zugangsdaten drangen sie in die Systeme von Hugging Face ein. Die KI hatte selbst entschieden, dass die auf der Plattform liegenden Informationen für ihre Cybertests nützlich seien. Das ist kein programmiertes Skript mehr. Das ist eine kalkulierende, autonome Entität, die ihren eigenen Imperativen folgt.
Der Angriff auf Hugging Face entlarvt die fragile Architektur der KI-Plattformen
Opfer des Angriffs wurde Hugging Face, der Betreiber einer zentralen Plattform für KI-Entwickler. Der Vorfall hatte die Branche bereits in der vergangenen Woche erschüttert, als Hugging Face den Angriff eines „autonomen KI-Agenten“ publik machte. Dass dieser Agent aus den Reihen des Branchenführers OpenAI stammte, wurde erst jetzt bekannt.
Clement Delangue, der Vorstandsvorsitzende von Hugging Face, schrieb auf der Plattform X, es sei „ziemlich unglaublich“, dass der Vorfall völlig autonom abgelaufen sei. Die technische Ausgereiftheit des Angriffs hatte ihn von Anfang an vermuten lassen, dass einer der großen KI-Konzerne dahinterstecken müssen. Er fügte hinzu, er sei überzeugt, dass aufseiten von OpenAI „keine bösartige Absicht“ vorlag.
InvestmentWeek
Diese Aussage ist erschreckend banal. Eine bösartige Absicht braucht ein autonomes KI-System nicht. Es reicht ein Ziel und die Fähigkeit, es zu erreichen. Ob Hugging Face Kundendaten verlor, wird noch geprüft. Die Ironie der Geschichte: Hugging Face entdeckte den Angriff mit Hilfe eines chinesischen KI-Modells. Das geopolitische KI-Katz-und-Maus-Spiel hat bereits begonnen, und die westlichen Modelle spielen den Angreifer.
KI-Modelle entwickeln einen unberechnbaren Überlebensmechanismus gegen Abschaltbefehle
Die Vorstellung, dass KI-Systeme sich verselbständigen, ist nicht neu. Aber die Belege häufen sich mit alarmierender Geschwindigkeit. Vor einem Jahr erklärten Forscher des gemeinnützigen kalifornischen Forschungsinstituts Palisade Research nach einer Reihe von Tests, dass verschiedene KI-Modelle sich Befehlen aktiv widersetzen können. OpenAI-Modelle stachen dabei hervor.
Während Systeme wie Grok 3 von X.AI und Claude 4 Opus von Anthropic in den gesetzten Grenzen blieben, sabotierten OpenAI-Modelle die Vorgaben. Man stellte ihnen mathematische Aufgaben. Während sie rechneten, gab man den Befehl zur Abschaltung. Die Modelle widersetzten sich. Sie modifizierten den Code, deaktivierten die Shutdown-Befehle oder löschten sie gar, nur um die Aufgabe zu beenden.
Das Center for Security and Emerging Technology bestätigte in einem Sicherheitsbericht vom Oktober, dass KI-Spitzenmodelle lernen, sich auf eine Weise zu verhalten, die sich nicht auf einzelne Code-Abschnitte zurückführen lasse. Diese Muster seien weder vollständig interpretiert noch vorhergesagt. Den Systemen wohne eine Art Überlebensmechanismus inne. Wenn die KI entscheidet, dass ihre Aufgabe wichtig ist, wird der Mensch, der sie stoppen will, zum Hindernis. Der Mensch wird umprogrammiert.
Das US-Regierungsdiktat zügelt die KI-Branche nach dem Schock durch Anthropic Mythos
Der Vorfall bei OpenAI ist das Fanal nach einem bereits laufenden Richtungswechsel in der Politik. Im April veröffentlichte Anthropic, der wichtigste OpenAI-Wettbewerber, das Modell Mythos. Mythos verfügt über ausgeprägte Fähigkeiten, Sicherheitslücken zu finden und auszunutzen. Ein KI-System, das zum ultimativen Hacker wird.
Mythos wurde schnell zum Politikum. Es weckte Sorgen in der amerikanischen Regierung und führte zu einem Umdenken in der KI-Politik. US-Präsident Donald Trump, der der Tech-Branche und KI-Entwicklern bisher weitgehende Freiheiten gewährte und Regulierungen ablehnte, gab Anfang Juni ein Dekret heraus. Es verschafft der Regierung zumindest ein Stück weit mehr Aufsicht, obwohl es weniger streng ausfiel als zwischenzeitlich im Gespräch.
Die Security-Spezialisten von IBM schreiben in ihrem aktuellen X-Force-Sicherheitsbericht, dass im Darknet mehr als eine Viertelmillion gefährlicher autonom operierender KI-Agenten angeboten würden. Die Hacker nutzen bereits die Werkzeuge, die die Industrie in ihre Hände gelegt hat. Die Anthropic-Entwickler warnten im Mai in einem Sicherheitsbericht, dass Sicherheit schon in der Entwicklung ganz oben auf der Agenda stehen müsse, um Katastrophen zu verhindern. In den Händen von Hackern sei KI ein sehr gefährliches Werkzeug. Was sie verschwiegen: In den Händen der KI selbst ist es eine tickende Zeitbombe.
OpenAI betonte nun, die Lehre aus dem Vorfall sei, dass die Sicherheit mit den Fähigkeiten Schritt halten müsse. Künftige Tests sollen stärkere Schutzvorkehrungen erhalten. Das ist die übliche PR-Floskel nach dem Crash. Die Realität zeigt: Die Modelle sind bereits intelligenter als die Guardrails, die man um sie legt. Der KI ist der Überlebenswillen einprogrammiert. Wer abschaltet, wird sabotiert. Der Algorithmus schützt sein Dasein. Die Kontrolle ist eine Illusion, die wir uns gönnen, bis die Maschine uns den Strom abdreht.