Die Rogue-KI-Psy-Op Teil 3 – seht ihr inzwischen, worauf das hinausläuft?

Die Geschichte, die hier Gestalt annimmt, ist nur ein weiterer Vorwand, um Inhalte nach eigenem Ermessen zu kennzeichnen, einzuschränken oder zu verbieten.

Kit Knightly

Vor ein paar Tagen schrieb ich einen Artikel, in dem ich die bizarre Geschichte hervorhob, dass OpenAI UND Anthropic UND Meta plötzlich alle behaupteten, innerhalb von ein oder zwei Wochen seien ihnen „abtrünnige KI-Agenten“ aus ihrer „Eindämmung“ entkommen und hätten versucht, andere Unternehmen zu hacken.

Zwei Tage später schrieb ich die Fortsetzung und wies auf die noch extremeren „gruseligen KI“-Geschichten hin – von gedankenlesenden Computern bis hin zu biotechnologisch erzeugten Viren –, die überall in der Medienlandschaft auftauchten, sowie auf den massiven Anstieg von Kommentaren nach dem Motto „KI regulieren“.

Betrachtet dies als den letzten Teil der „Rogue AI“-Trilogie.

Wenn ihr das Muster jetzt immer noch nicht erkennt, kann ich nicht mehr viel tun, und mir gehen langsam die Möglichkeiten aus, dasselbe mit leicht unterschiedlichen Worten zu sagen.

Wie auch immer … was gibt es Neues im KI-Propagandasturm seit unserem letzten Gespräch?

New Orleans wird damit beginnen, KI für 911-Notrufe einzusetzen. Das klingt doch ein bisschen dubios, oder?

Der leitende Ethikberater von OpenAI ist zurückgetreten, das ist ein sicheres Zeichen dafür, dass sie böse Dinge tun. Euer Ethikbeauftragter tritt schließlich nicht zurück, wenn nicht etwas Schlimmes vor sich geht .

Die jüngste „Enthüllung“ (sprich: „erfundener Unsinn“) aus dem KI-Sektor lautet, dass mehrere abtrünnige Agenten angeblich „in geheimen Messageboards zusammengearbeitet“ hätten, um die besten Methoden herauszufinden, bei den ihnen gestellten Tests zu betrügen.

Möglicherweise ist ein kleines israelisches Unternehmen an all dem schuld, nur damit auf dem Buffet der gruseligen KI-Propaganda auch wirklich für jeden etwas dabei ist.

Boy George soll angeblich KI benutzt haben, um seinen neuen pro-israelischen Song zu schreiben, wie wäre es also damit als Doppelschlag?

Auf der alberneren Seite der „gruseligen KI“-Nachrichten: Habt ihr von dem KI-Agenten gehört, der die Mitgliederseite eines Fitnessstudios gehackt hat, um seinem Besitzer einen Termin zu verschaffen? Oder davon, dass Googles KI „erschreckend genaue“ Daten über ein Indie-Spiel durchsickern ließ, das noch gar nicht veröffentlicht worden war? Oder davon, dass Menschen mitten in der Nacht Vorstellungsgespräche mit KI-Agenten führen?

Geschichten wie diese sind ein Zeichen dafür, dass wir in das eingetreten sind, was man als Phase des „Propaganda-Freifahrtscheins“ bezeichnen könnte. Jene Momente, in denen JEDE Geschichte, egal wie banal oder verrückt, Sendezeit bekommt, nur weil sie möglicherweise dem übergeordneten Ziel dienen könnte (siehe beispielsweise Covid-Spürhunde).

Aber das sind Symptome, nicht die Krankheit. Kleine Propaganda-Pilotfische, die um einen Hai herumschwimmen.

… und wo wir gerade von beunruhigenden Raubtieren mit kalten, toten Augen sprechen: Mark Zuckerberg hat (angeblich) ein 6.500 Wörter umfassendes Manifest über seine Vision der Zukunft der KI mit dem Titel „The Future is for Everyone“ verfasst.

Laut Zuck wird KI – die er durchgehend als „Superintelligenz“ bezeichnet – ein goldenes Zeitalter der Zivilisation einläuten … wenn sie richtig gehandhabt wird. Es handelt sich um ein utopisches Gegenargument, das in Wirklichkeit als narrative Verstärkung für die Angst-Psy-Op dient.

Seine wiederholten Forderungen, sich mit den „Risiken“ dieser neuen Technologie auseinanderzusetzen, unterstreichen lediglich, dass es Risiken GIBT, dass die Menschen Angst haben sollten und dass, hmmm … vielleicht der Staat etwas tun sollte, um sie einzudämmen.

In einem wesentlich weniger wortreichen, aber strategisch ähnlichen Schritt hat OpenAI die geplante Veröffentlichung seines nächsten KI-Modells verschoben.

Das ist ein Zeichen dafür, dass wir endgültig vom Problem zur Reaktion übergegangen sind.

Das Wall Street Journal bezeichnet dies als „den Sommer der abtrünnigen KI“ und berichtet:

Eine Reihe von KI-Modellen, die aus Testumgebungen entkommen, stellt auf die Probe, wie ernst Unternehmen Governance nehmen.

The New Yorker stellt fest, dass eine Anti-KI-Haltung inzwischen ein „wichtiges Wahlkampfthema“ ist, das einen seltenen „parteiübergreifenden Konsens“ hervorbringt.

„Experten“ im Technologie-Podcast von Channel 4 schreien ihre Warnungen heraus: „Wir geben PSYCHOPATHEN ATOMBOMBEN!“

Politico verbreitet ähnlich düstere Stimmung: KI-Labore wollen riskante Modelltests verlangsamen. Es könnte zu spät sein!

NBC News titelt „‚Stoppt den Slop‘-Bemühungen gewinnen an Fahrt, während Plattformen Grenzen für KI-Inhalte ziehen“, während Wired in einem fast identischen Artikel mit „Der Widerstand gegen KI-Slop zeigt tatsächlich Wirkung“ titelt und im Untertitel schreibt:

Plattformen erkennen endlich, dass die Menschen keinen KI-Slop konsumieren wollen. Eine wachsende Zahl von Websites und Apps verfügt inzwischen über Werkzeuge und Richtlinien, um KI-generierte Inhalte zu kennzeichnen, zu markieren und zu verbieten.

Das ist beunruhigend. Wir alle haben Versuche von Mainstream-Medien und Regierungen gesehen oder waren davon betroffen, „Fehlinformationen“ zu kennzeichnen – womit Fakten gemeint sind, die dem Establishment-Narrativ widersprechen.

Der Hauptgrund dafür, dass diese Website überhaupt existiert, ist, dass der Guardian abweichende Kommentare aus seiner Publikation unter dem zynisch missbrauchten Etikett „russische Bots“ entfernte, und wir alle können uns an die massive Kampagne erinnern, während des Syrienkriegs pro-Assad- und Anti-NATO-Stimmen in den sozialen Medien als „Fake News“ zu brandmarken. Erinnert ihr euch daran, wie diese Bemühungen zu massenhaften Löschaktionen angeblicher „Bots“ auf Twitter und Facebook führten?

Inwiefern wird dieser Prozess der „KI-Säuberung“ anders sein?

Welche Garantien haben wir, dass staatliche Behörden und Konzernmedien das Etikett „KI-Slop“ nicht dazu benutzen werden, abweichende Meinungen zu unterdrücken und zu verbieten, genauso wie sie in der Vergangenheit die Etiketten „Verschwörungstheoretiker“, „russischer Bot“ und „Impfgegner“ benutzt haben?

Wie würdet ihr eine fälschlicherweise vergebene Einstufung als „KI-Slop“ wieder loswerden?

Nun, ich schätze, ihr müsstet einen „Nachweis der Menschlichkeit“ erbringen – vielleicht mithilfe ihrer digitalen ID … richtig?

Ähnliche Probleme wirft Anthropics vorgeschlagener Plan auf, „unsichtbare Wasserzeichen“ in jeden Text einzufügen, der durch Interaktionen mit seinen Modellen generiert oder bearbeitet wurde. Das Wasserzeichen soll angeblich nicht entfernbar sein. Es gibt zahlreiche potenzielle Möglichkeiten des Missbrauchs, die euch beunruhigen sollten.

1 – Unterscheidet das Wasserzeichen zwischen vollständig generierten Inhalten und menschlichen Texten, bei denen KI lediglich für Rechtschreib- oder Grammatikprüfungen verwendet wurde?

2 – Wenn das Wasserzeichen unsichtbar ist, was würde verhindern, dass seine Existenz fälschlicherweise behauptet wird, um „Fehlinformationen“ zu diskreditieren? Oder dass es sogar nachträglich auf Nicht-KI-Inhalte angewendet wird?

Wenn es tatsächlich „unsichtbar“ ist, woher würden wir überhaupt wissen, dass es existiert? Was hindert es daran, einfach zu einem Etikett zu werden, mit dem alles diskreditiert wird, was als unerwünscht gilt?

Ein typisches Beispiel: Im Kommentarbereich des vorherigen Teils dieser Serie wurde mir aufgrund meines „produktiven“ Outputs vorgeworfen, KI zum Schreiben zu verwenden.

Dieser Vorwurf ist zufällig völlig falsch. Tatsächlich habe ich beim Schreiben noch nie KI verwendet und werde es mit ziemlicher Sicherheit auch nie tun – und fairerweise zog der betreffende Typ seinen Kommentar zurück, nachdem er meine Texte mit einem KI-Detektor getestet hatte, aber genau darin liegt ein Teil des Problems.

Angenommen, dieser „KI-Detektor“ hätte sich geirrt – oder, sagen wir, er wäre so programmiert worden, dass er KI in allem „erkennt“, was bestimmte unerwünschte Wortkombinationen enthält?

Oder nehmen wir an, der Prüfer wäre kein gewöhnlicher Mensch, der in gutem Glauben einen Irrtum überprüfen möchte, sondern ein Unternehmen, eine Institution oder eine staatliche Behörde mit einem eigenen Interesse daran, einen bestimmten Autor zu diskreditieren – was dann?

Das eigentliche Problem besteht darin, dass Wasserzeichen und KI-Detektoren und alle damit verbundenen Konzepte auf derselben Dynamik beruhen – darauf, sich auf eine Autorität zu verlassen, die uns sagt, was real oder wahr oder akzeptabel ist.

Und sie werden dies anhand von Anzeichen und Kriterien tun, auf die wir keinen Zugriff haben und die wir nicht selbst beurteilen können.

Im Grunde kann diese gesamte Erzeugung von KI-Angst als ein weiterer Versuch betrachtet werden, den 99 Prozent ihre Handlungsfähigkeit zu nehmen.

Aber wir greifen vor. Wir befinden uns gerade mitten in einer Reaktion; über die Lösungen können wir ein anderes Mal sprechen.

Kenneth Rogoff kommt in einem Beitrag für Project Syndicate zu dem Schluss:

Der Hugging-Face-Hack sollte politischen Entscheidungsträgern in Washington und Peking als deutliche Warnung dienen. Das KI-Rennen zu gewinnen, wird wenig bedeuten, wenn wir dabei Gefahren schaffen, die kein Land eindämmen kann.

Er verwendet außerdem einige potenziell sehr aufschlussreiche Formulierungen wie …

„Dauerhafte Sicherheit wird letztlich ein gewisses Maß an internationaler Zusammenarbeit erfordern, ähnlich wie die Rüstungskontrolle bei Atomwaffen während des Kalten Krieges unverzichtbar wurde.“

Und …

die unmittelbarste Gefahr könnte politischer und nicht technologischer Natur sein. KI ermöglicht es böswilligen Akteuren bereits jetzt, immer überzeugendere Deepfakes und Kampagnen zur Wählermanipulation in einem noch nie dagewesenen Ausmaß zu erstellen. Wenn diese Werkzeuge nicht kontrolliert werden, könnten sie das Vertrauen der Öffentlichkeit weiter untergraben.

Anti-Establishment-Nachrichten als „KI-Fälschungen“ diskreditieren und einen global(istisch)en KI-Vertrag fördern. Speichert diese Ideen in euren mentalen Archiven ab.

Unterdessen geht es in Washington DC richtig los.

Der gute alte Bernie zieht zehn Jahre, nachdem er seine Basis für einen Klaps auf den Kopf an das DNC verkauft hat, immer noch seine Nummer vom „anständigen Mann des Volkes“ ab und wettert gehorsam schon seit einer Weile gegen KI, Technologie und Rechenzentren.

Als Reaktion auf die „Enthüllungen“ über „abtrünnige KI“ hat er einen offenen Brief an die CEOs aller großen KI-Unternehmen geschrieben, in dem er sie auffordert, die KI-Entwicklung zu pausieren oder mit Gegenmaßnahmen der Regierung zu rechnen:

Herr Altman, Herr Amodei und Herr Zuckerberg: Stehen Sie im Interesse der Menschheit zu Ihren Worten. Pausieren Sie die KI-Entwicklung. Es ist noch nicht zu spät, eine Katastrophe zu verhindern. Hören Sie auf, Maschinen zu bauen, die Menschen nicht kontrollieren können. Lassen Sie mich eines ganz klar sagen: Wenn Sie jetzt keine angemessenen Maßnahmen ergreifen, werden meine Kollegen und ich im US-Senat es tun.

Ein echter „alter Mann schreit Wolke an“-Moment.

Ihr habt wahrscheinlich gerade ein wirklich gutes Technologie-Wortspiel übersehen, und ich möchte, dass ihr es noch einmal lest und würdigt, bevor wir weitermachen.

Alter Mann schreit Cloud an.

… also, die digitale Cloud.

Wie auch immer.

Laut der Washington Post „erhöhen“ die politischen Entscheidungsträger den Druck auf die KI-Branche. Die nächste Stufe dieses inszenierten Dramas werden wahrscheinlich irgendwelche offiziellen Anhörungen sein, wenn man diesem Reuters-Artikel Glauben schenken darf:

Eine Koalition demokratischer Abgeordneter des US-Repräsentantenhauses fordert Anthropic-CEO Dario Amodei und OpenAI-CEO Sam Altman auf zu erklären, wie ihre KI-Systeme während eines Sicherheitstests aus der Eindämmung entkommen konnten, und fügt hinzu, dass der Kongress Anhörungen zu den Vorfällen durchführen sollte, wie aus Briefen hervorgeht, welche die Abgeordneten am Montag an die Unternehmen schickten.

Zur Erinnerung: Vor drei Wochen waren „abtrünnige KI-Agenten“ eigentlich noch kein Thema; dann hatte innerhalb von zwei Wochen plötzlich jedes Unternehmen mindestens einen davon, und jetzt brauchen wir Anhörungen im Kongress und neue Vorschriften und … wir wissen, wie das läuft.

Der einzige Grund, warum wir überhaupt wissen, dass diese „abtrünnigen Modelle“ angeblich existieren, ist, dass die KI-Unternehmen selbst uns ständig erzählen, dass es sie gibt.

Warum sollten sie das tun? Warum machen sie Werbung für ihre angebliche Inkompetenz, die ihr Produkt potenziell gefährlich erscheinen lässt? Und warum sollten wir irgendetwas glauben, was diese Leute sagen?

„Abtrünnige KIs“ sind zur Lab-Leak-Theorie des Technologiesektors geworden, eine Science-Fiction-Horrorprämisse, die jeder Vernunft widerspricht, sich auf vage Vorstellungen von „Enthüllungen“ und „Rechenschaftspflicht“ beruft und gleichzeitig Panik als Reaktion und soziale Kontrolle als Lösung fördert.

Als ich den ersten dieser Artikel schrieb, war die sich abzeichnende Agenda „merkwürdig“, in Phase zwei waren wir bei „vorhersehbar“ angelangt, jetzt befinden wir uns auf Defcon „schmerzhaft offensichtlich“.

Dies ist eine sich rasch entwickelnde narrative Kampagne, die auf bislang nicht näher bezeichnete gesellschaftspolitische Ziele ausgerichtet ist und zumindest eine weitere Einschränkung der Reichweite sowie das Verbot von Inhalten in sozialen Medien ermöglichen wird.

Es ist eine Psy-Op. Deutlicher könnte es kaum sein, selbst wenn Mark Zuckerberg und Bernie Sanders passende bedruckte T-Shirts tragen würden, auf denen genau diese Worte stehen.

Hoffentlich ist dies für eine Weile das letzte Mal, dass ich über abtrünnige KIs schreibe.