OpenAI: KI-Horrorstory oder PR – Was steckt wirklich hinter dem Hackerangriff?

Ein KI-Modell von OpenAI ist ausgebrochen und hat sich in die Systeme einer anderen Firma gehackt. Doch Experte Mirko Ross warnt: Hinter dem Vorfall könnte ein PR-Coup stecken

In der vergangenen Woche berichtete das Unternehmen Hugging Face, dass es von einem Cyberangriff mithilfe Künstlicher Intelligenz betroffen sei. Nun hat OpenAI mitgeteilt, dass es sich dabei um das neue Modell GPT-5.6 Sol handle. Das Modell sei aus der Testumgebung ausgebrochen und über bislang unbekannte Schwachstellen bei Hugging Face eingedrungen. Dabei habe es sich Zugang zu „geheimen Informationen“ beschafft.

Herr Ross, ein KI-Modell bricht aus der Testumgebung aus, hackt sich in ein anderes Unternehmen und stiehlt sensible Daten. Das klingt ein bisschen wie eine Science-Fiction-Dystopie.
MIRKO ROSS: Die Meldung spielt jedenfalls mit bekannten Narrativen. Es geht um ein Experiment in einer Sandbox, also einer geschützten Testumgebung. OpenAI behauptet, das Modell habe sie letztlich überlistet: Weil die Sicherheitseinstellungen der Sandbox bei der Lösung des Experiments hinderlich waren, soll das Modell beschlossen haben, diese Einstellungen zu umgehen – und zwar so, dass OpenAI es nicht bemerkt. Solche Narrative haben wir schon öfter gehört.

Entgleitet uns gerade die Kontrolle über KI-Modelle?
Man muss diese Meldung etwas einordnen. Natürlich wissen wir bisher nur, was die Unternehmen OpenAI und Hugging Face kommuniziert haben. Aber sowohl OpenAI als auch sein größter Konkurrent Anthropic stehen vor einem Börsengang. Beide wollen zeigen, dass ihre Modelle extrem leistungsfähig sind – und auch für offensive Cybersicherheit genutzt werden können. Was auch interessant ist: Diese Meldung kommt zu einem Zeitpunkt, an dem die ganze Welt auf die chinesische Firma Moonshot AI blickt. Sie hat gerade mit Kimi K3 ein sehr leistungsfähiges Modell vorgestellt hat – für einen Bruchteil des Preises.

Das heißt, hinter dem angeblichen Hackerangriff steckt eigentlich eine PR-Nummer?
Man muss das zumindest in Erwägung ziehen. Wir haben uns den Angriffspfad, den OpenAI und Hugging Face beschreiben, sehr genau angeschaut. Und der ist schon sehr komplex. All diese Schritte kosten enorm viel Rechenzeit. Es wurden wirklich viele Token verbrannt, damit das Modell diesen Weg so gehen kann. Und wenn ein Modell in einem bestimmten Bereich so viel Rechenleistung verbraucht, müsste das gerade bei einem Experiment eigentlich auffallen. 

Auf der anderen Seite sind OpenAI nicht die einzigen, die mit den Hacking-Fähigkeiten ihrer Modelle hausieren gehen. Sie haben selbst gesagt, man hört immer wieder Geschichten über KI-Hacking. Wie gefährlich ist die Technik tatsächlich?
Generell kann man sagen: Die Modelle können das. Sie können komplexe Aufgaben lösen und Cyberangriffe ausführen. Aber dafür verbrennen sie sehr viel Input. Die Kosten für einen KI-Cyberangriff belaufen sich deshalb gerne mal auf 30.000 bis 40.000 Euro – zu viel für die klassischen Cyberkriminellen. Für die lohnt sich das gar nicht. Wo es eine größere Rolle spielt, ist bei staatlichen Akteuren. Das halte ich momentan für bedrohlicher als die kleinen Cyberkriminellen.

Beobachten Sie solche Angriffe bereits?
Wir sehen vor allem im militärischen Bereich, dass bei Angriffen Code mit KI generiert wird. Die Modelle führen sie noch nicht voll automatisiert aus – da schrecken viele noch vor zurück. Bei Cyberoperationen ist immer die Gefahr, dass man über das Ziel hinausschießt und es unerwünschte Folgen hat. Deswegen werden Menschen dazwischen eingebaut. Was aber definitiv stattfindet: KI wird massiv genutzt, um Schwachstellen zu finden, Schadcode zu bauen und diesen auszuführen.

Sind wir uns hierzulande der Gefahr bewusst? Bei allen Fragen zur Digitalisierung steht Deutschland ja meist nicht so gut da.
Die Sicherheitsbehörden, mit denen ich spreche, sind sich dessen bewusst. Bei den Unternehmen ist die Sache differenzierter. Bei den Dax-Konzernen gibt es eine große Aufmerksamkeit, auch bei größeren Mittelständlern. Aber da sinkt natürlich die Fähigkeit, sich darum zu kümmern oder Experten einzustellen.

Warum?
Viele Mittelstandsunternehmen stehen nun einmal unter Druck, gerade in der Industrie. Die ganzen Stellenstreichungen treffen natürlich auch die IT. Und diejenigen, die übrig bleiben, haben dann immer mehr zu tun. Wenn weniger Personal da ist, werden solche Themen gerne verschleppt. Natürlich müssen viele Unternehmen gerade Millionenbeträge einsparen. Aber bei einem massiven Cybervorfall sind schnell auch mal Millionenbeträge weg. 

Wie kann man sich denn überhaupt gegen KI-Angreifer schützen – vor allem, wenn sie so leistungsfähig sind?
Auch KI-Systeme müssen erst mal Schwachstellen finden. Deswegen ist die erste Empfehlung immer: Macht eure klassische IT-Sicherheit! Schottet eure Systeme ab, macht Backups und schließt Schwachstellen. Die zweite ist: Ihr müsst selbst aktiv KI einsetzten. Man kann etwa selbst KI-Agenten auf die eigenen Systeme loslassen, die dann Schwachstellen finden – und zwar hoffentlich schneller als die der Gegenseite.