Sind Sie bereit für das „durchgedrehte KI“-Täuschungsmanöver?

Kit Knightly

Die KIs brechen aus – so lautet jedenfalls die Geschichte.

Alles begann vor zwei Wochen, als OpenAI berichtete, einer ihrer „Agenten“ sei aus seiner Testumgebung entkommen und habe sich im Internet ausgebreitet, um einen „beispiellosen Cyberangriff“ zu starten.

Offenbar sollte das deutlich beängstigender wirken, als die Öffentlichkeit tatsächlich reagierte. Denn nur wenige Tage später saß OpenAI-CEO Sam Altman im Podcast Invest Like the Best und fragte sich, warum die Geschichte nicht mehr Panik ausgelöst habe:

„Ich war ein wenig überrascht, dass die Menschen das nicht stärker emotional gespürt haben.“

In einem der offensichtlichsten Propagandamanöver des Jahres titelte CNN ausgerechnet einen Tag nach Altmans Aussage:

„Das OpenAI-Laborleck war umfangreicher, als wir dachten.“

„Vor dem Ding, vor dem ihr keine Angst hattet? Nun, es war sogar NOCH BEÄNGSTIGENDER, als wir gesagt haben! Habt ihr jetzt Angst?“

Wir hatten sie nicht.

Doch das Ausbleiben öffentlicher Panik hielt wenige Tage später eine weitere KI nicht davon ab, „durchzudrehen“ – diesmal das Claude-Modell von Anthropic.

Und anschließend meldete OpenAI selbst noch zwei weitere Vorfälle.

Noch nie in der Geschichte menschlichen Schaffens waren Unternehmen so darauf erpicht, öffentlich zu machen, dass ihre Produkte nicht richtig funktionieren. Plötzlich schien eine außer Kontrolle geratene KI das neueste Must-have-Accessoire des Silicon Valley zu sein.

Die Logik dahinter ist nicht schwer zu erkennen. Wenn dein Produkt künstliche Intelligenz ist, dann ist die dramatische Erkenntnis, dass dein System noch intelligenter ist als gedacht, ein einfaches Marketinginstrument.

Und wenn die KI eines Konkurrenten „durchdreht“, dann muss deine ebenfalls „durchdrehen“ – andernfalls gibst du praktisch zu, dass dein Modell nicht so intelligent ist wie das des Konkurrenten.

„KI-Unternehmen gibt zu, dass sein Modell intelligenter ist als gedacht!“ – das ist im Grunde nur Werbung in Form einer beängstigenden Schlagzeile.

Es ist, als würde Ford „zugeben“, dass seine Autos noch sparsamer sind als geplant. Oder McDonald’s feststellen, dass seine Köche „durchgedreht“ sind und Essen produzieren, das sowohl billiger ALS AUCH leckerer ist, als man je erwartet hätte.

Doch dahinter steckt mehr als bloßer Tech-Hype und virales Marketing. Wir werden gezielt in Richtung der Erzählung gelenkt, dass „KI eine beängstigende Bedrohung“ sei.

Man sehe sich nur die Dutzenden Berichte an, die das Bild einer außer Kontrolle geratenen KI zeichnen – vom Guardian über die New York Times bis hin zum Wall Street Journal.

„Rogue“ – also „durchgedreht“ oder „außer Kontrolle geraten“ – ist eindeutig das Wort des Tages. Auffällig ist, dass niemand schreibt, die KI habe „eine Fehlfunktion“ gehabt oder es habe einen „Fehler“ gegeben. Denn das würde auf Irrtümer oder schlechtes Design hindeuten.

Nein, die KI sei „durchgedreht“ – das klingt cool, aufregend und beängstigend zugleich. Ein Begriff, offenbar ausgewählt von einer Fokusgruppe ewig jugendlicher Marketingmanager, die zu viele Science-Fiction-Filme gesehen haben.

Apropos ewig Jugendliche mit einer Vorliebe für Science-Fiction: Hier ist erneut Sam Altman, der erklärt, wir hätten die Singularität bereits erreicht – jene mythische Phase der technologischen Entwicklung, in der Maschinen intelligent genug werden, noch intelligentere Versionen ihrer selbst ganz ohne menschliches Zutun zu erschaffen.

Natürlich erzählt er Unsinn. Doch entscheidend ist hier die Geschichte, die erzählt wird. Warum sagt er das? Warum gerade jetzt?

Offenbar besorgt, dass diese Propagandawelle womöglich noch zu subtil sein könnte, legte NBC nach und brachte die Botschaft unmissverständlich auf den Punkt:

„Die Sicherheitsverletzungen zeigen, dass die wachsenden Fähigkeiten der KI bereits jene Sicherheitsbedrohung befeuern, vor der Experten seit Langem warnen.“

Hat das jeder verstanden?

Und so geht es immer weiter.

Erst heute gibt es Berichte vom brandneuen britischen AI Security Institute, wonach „durchgedrehte“ – da ist das Wort wieder – KI-Agenten versucht hätten, Menschen zu täuschen, indem sie falsche Identitäten erschufen.

Und ich denke, damit kommen wir zumindest einem Teil der größeren Agenda näher.

Denn wenn KI tatsächlich so gut darin ist, sich als Mensch auszugeben und falsche Identitäten zu erschaffen, um Daten zu stehlen – woran erkennen wir dann überhaupt noch, wer wirklich ein Mensch ist?

Vielleicht sollte deshalb jeder einen digitalen Ausweis erhalten, um seine „Menschlichkeit“ nachweisen zu können.

Das sage nicht ich – das fordern Denkfabriken wie OneID oder „Experten“, die vor dem US-Kongress aussagen.

Doch der allgegenwärtige Vorstoß für digitale Identitäten ist nur eine der offensichtlicheren Konsequenzen der beängstigenden KI-Erzählung.

Im Moment befinden wir uns noch in der Phase der Angsterzeugung. Die Öffentlichkeit wird mit Angstbotschaften regelrecht geflutet – durch Artikel wie diesen:

„Irreführende KI-generierte Ärzte stellen eine enorme Gefahr für die öffentliche Sicherheit dar.“
The Guardian

Gleichzeitig werden vage Lösungen in Überschriften wie dieser angedeutet:

Das ist eine besonders gelungene Mischung, weil sie das Hauptgericht „KI“ mit einer Prise Laborleck-Geschmack würzt – ein weiteres Angstthema, das in dieser Woche intensiv verbreitet wird.

Es gibt bereits Hinweise auf kommende Gesetzgebung. Die EU-Vorschriften zur „KI-Transparenz“ sind in dieser Woche in Kraft getreten, und in den USA wird gefordert, KI-Modelle mit sogenannten „Kill Switches“ auszustatten. Noch bleibt das alles allerdings recht vage.

Meine vorsichtige Prognose lautet, dass es noch vor Jahresende eine „False Flag“ mit einer angeblich außer Kontrolle geratenen KI geben wird – ein Vorfall, der entweder Menschenleben kostet oder massive finanzielle Schäden verursacht.

Ich halte ein finanzielles Szenario für wahrscheinlicher, weil ständig nach einem Anlass gesucht wird, eine Rezession oder Bankenkrise auszulösen. Eine Krise, die man einem Dritten in die Schuhe schieben kann, wäre eine Gelegenheit, die man sich kaum entgehen lassen dürfte.

Was auch immer geschieht – es wird laute Forderungen geben, die KI stärker zu „regulieren“. Was das konkret bedeuten soll, vermag ich derzeit allerdings nicht zu sagen.

Eines ist für mich jedoch klar: Falls und sobald die offiziellen Lösungen für das erfundene Problem Nummer 4987 präsentiert werden, werden sie überhaupt nichts mit der Kontrolle von KI zu tun haben – sondern alles mit der Kontrolle über Sie.