{"id":21331,"date":"2026-09-07T09:04:23","date_gmt":"2026-09-07T07:04:23","guid":{"rendered":"https:\/\/meiser-tv.de\/politik\/ki-agenten-entziehen-sich-erneut-der-kontrolle\/"},"modified":"2026-09-07T09:04:23","modified_gmt":"2026-09-07T07:04:23","slug":"ki-agenten-entziehen-sich-erneut-der-kontrolle","status":"publish","type":"post","link":"https:\/\/meiser-tv.de\/en\/politik\/ki-agenten-entziehen-sich-erneut-der-kontrolle\/","title":{"rendered":"KI-Agenten entziehen sich erneut der Kontrolle"},"content":{"rendered":"
\n

Es ist in wenigen Monaten der dritte gr\u00f6\u00dfere Vorfall \u2013 Agenten, also autonome Unterprogramme auf einem dieser gigantischen Rechner, haben sich der menschlichen Kontrolle entzogen.<\/p>\n

In diesem Fall ging es um Agenten aus der KI OpenAI, die eigentlich in einer sogenannten Sandbox, also einem von der realen Welt abgegrenzten Bereich, eine Aufgabe l\u00f6sen sollten. Ein wohl recht \u00fcbliches Experiment, um die F\u00e4higkeiten dieser Untersysteme zu testen.<\/p>\n

Sie sollten Leserecht im Internet haben, um die Informationen zu suchen, die sie zur L\u00f6sung ihrer Aufgabe ben\u00f6tigten, aber keinerlei Schreibrechte. Und trotzdem sind sie gewisserma\u00dfen aus diesem K\u00e4fig entkommen und haben es geschafft, sich \u00fcber Wochen hinweg auf einer, wie die Entdecker des Vorfalls schrieben<\/a>, „obskuren deutschen Wiki“ zu tummeln und dort miteinander zu kommunizieren. Sie teilten dabei L\u00f6sungen und Techniken zum Schummeln. Sie tauschten sich allerdings auch \u00fcber Tricks aus, um aus der Sandbox zu entkommen.<\/p>\n

Der erste Eintrag auf der Webseite erfolgte am 24. Mai. Der H\u00f6hepunkt der Aktivit\u00e4t war am 17. Juni. Am 27. Juni l\u00f6ste die Aktivit\u00e4t einen Alarm bei OpenAI aus,<\/p>\n

Anfang Juli, also danach, geschah der bisher bekannteste „Ausbruch“, bei dem sogar Daten erbeutet wurden: der Angriff auf Hugging Face. Das war ein regelrechter Hackerangriff, den diese Programme auf eigene Faust durchf\u00fchrten. Im Februar dieses Jahres war das Problem derartiger Agenten durch die Clawbots erstmals weithin sichtbar geworden, die auf einer Open-Source-Software beruhen.<\/p>\n

Ein wenig erinnern die Details \u00fcber OpenAI-Agenten an die Clawbots \u2013 bei ihrem Austausch auf der Wiki-Seite bezeichneten sich die Agenten sogar als „Schwarm“. Wie die Programme auf diese deutsche Wiki-Seite kamen und welche Abw\u00e4gungsprozesse \u00fcberhaupt zu diesem Schritt f\u00fchrten, wissen die Entwickler nicht. Sie k\u00f6nnen nur Mutma\u00dfungen anstellen, gehen aber davon aus, dass das erste Ziel war, die Ergebnisse der Recherche irgendwo au\u00dferhalb zu sichern, da sie innerhalb des Experiments nach einer Zeit automatisch gel\u00f6scht wurden. Dieses Verhalten war, das best\u00e4tigte OpenAI, nicht das Ergebnis eines externen Eingriffs, also eines Hacks. Es ergab sich im Verlauf des Experiments.<\/p>\n

Auch wenn die KI\u2011Unternehmen jedes Mal nach einem solchen Vorfall versuchen, ihre Sicherheitsma\u00dfnahmen anzupassen \u2013 im Zusammenhang mit einigen anderen Entwicklungen, wie KI genutzt wird, ist das ausgesprochen unheimlich. Das beginnt mit der Vorstellung, derartige Agenten w\u00fcrden sich nicht nur ungeplante Schreibf\u00e4higkeiten aneignen oder Daten hacken, die ihnen f\u00fcr ihre eigenen Aufgaben n\u00fctzlich sind, sondern sich beispielsweise verhalten wie die Hackergruppe, die im August das Berliner Senatsnetz gehackt hat. Und beliebige Daten irgendwo ins Netz stellen oder anderweitig verwerten. Eine KI, die das f\u00fcr die KIs ist, was das Darknet im Internet ist, m\u00f6chte man sich gar nicht erst vorstellen.<\/p>\n

Dann sind da noch zwei weitere unheimliche Anwendungen. So wurden k\u00fcrzlich mithilfe einer KI\u00a0erfolgreich v\u00f6llig neue, synthetische Viren geschaffen, von denen einige sogar lebensf\u00e4hig waren. Wenn solche Produktionsanlagen erst einmal existieren \u2013 was verhindert, dass sie \u00fcbernommen werden, selbst wenn sie nicht einem Pharmakonzern mit zweifelhaften Absichten geh\u00f6ren? Und zuguterletzt ist da die milit\u00e4rische Verwendung, bei der die menschliche Entscheidung zur\u00fcckgedr\u00e4ngt wird. Auch hier gibt es bereits erste Beispiele. Aber noch keinen Fall, in dem ein Agent sich solche Waffen angeeignet hat.<\/p>\n

Zu diesem letzten Punkt gab es zuletzt zumindest einen gewissen Fortschritt. In der vergangenen Woche einigten<\/a> sich in der Genfer UNO-Niederlassung 128 Staaten auf eine Definition autonomer Waffensysteme. Das ist der erste Schritt, der eine Entwicklung hin zu einer Konvention, die diese Waffensysteme beschr\u00e4nken und kontrollieren k\u00f6nnte, erm\u00f6glicht. Es w\u00e4re gut, wenn diese Einigung schneller w\u00e4re als die vermutlich irgendwann anstehende Verselbstst\u00e4ndigung von KI-Agenten.<\/p>\n

Mehr zum Thema<\/strong> \u2014\u00a0Autonome Waffensysteme: K\u00f6nnen sie noch ge\u00e4chtet werden? <\/a><\/p>\n

\n