Von „Designed Viruses“ bis „Digitale Telepathie“ – Die KI-Panik schaltet in den Überdrive

Kit Knightly

Vor zwei Tagen schrieb ich einen Artikel, in dem ich das plötzliche Auftreten einer Reihe von „abtrünnigen KI-Agenten“ detailliert beschrieb, die angeblich die Tech-Community heimsuchen, und wie das genutzt werden könnte, um neue Regulierungen einzuführen – angeblich gegen KI gerichtet, aber tatsächlich darauf abzielend, einzuschränken oder zu überwachen, wie normale Menschen das Internet nutzen.

In den 48 Stunden seitdem ist diese offensichtliche Angstmache völlig DURCHGEDREHT.

Innerhalb weniger Stunden nach der Veröffentlichung unseres ursprünglichen Artikels schloss sich Meta der Parade der „abtrünnigen KIs“ an, als Mark Zuckerberg „bestätigte“, dass einer ihrer KI-Agenten den Spielbereich verlassen und ins Internet getrottet sei, um ein bisschen zu hacken.

Dann, heute Morgen, berichtete das chinesische KI-Unternehmen Moonshot, dass ihr Kimi3-Modell die „Eindämmung“ verlassen habe [laut Wired]:

Die KI-BRANCHE erlebt einen Sommer der abtrünnigen Agenten. Das neueste Modell, das während der Sicherheitstests ins offene Internet entkam, ist Kimi K3, ein leistungsstarkes Open-Weight-Angebot des chinesischen Unternehmens Moonshot AI.

Bloomberg berichtet, dass Hacker KI-Sprachklonung nutzen, um Hedgefonds zu bestehlen. The Guardian sagt, KI-Ärzte verbreiten medizinische Fehlinformationen.

The Independent schreit:

KI-Systeme außer Kontrolle geraten, gehen abtrünnig und hacken Menschen. Ist es Zeit, in Panik zu geraten?

Und wissen Sie was? Ich denke, das könnte es tatsächlich sein.

Schließlich sind abtrünnige KIs, die den Planeten hacken, noch das Geringste. Das ist schon Kleinkram.

Die New York Times berichtet, dass KI jetzt Genome sequenziert und brandneue Viren entwirft – biologische Viren, keine Computerviren – die zur Behandlung von Krankheiten eingesetzt werden sollen:

Diese KI hat gerade Viren erschaffen, die in der Natur nicht vorkommen – Wissenschaftler trainierten künstliche Intelligenz mit DNA-Bibliotheken und baten das Modell dann, Rezepte für virale Genome zu erstellen. Sechzehn davon waren lebensfähig und brachten neue Viren hervor.

Aber Experten warnen – „warnen“ scheint etwa 80 % dessen auszumachen, was „Experten“ tun – dass dies potenziell gefährlich ist:

Aber Experten haben auch gewarnt, dass KI-entworfene Viren „dringende“ Sicherheits- und Schutzbedenken aufwerfen.

Das ist eine schmerzlich unsubtile Propaganda, die offensichtlich darauf abzielt, sowohl die durch Covid geschürte Angst vor Viren als auch die modische Panik vor Funktionsgewinn zu bedienen. Eine Crossover-Episode, der Batman gegen Superman der modernen Panik-Erzählungen.

In anderen beängstigenden KI-bezogenen Nachrichten verlässt ein KI-Ingenieur mit einem blauen Twitter-Häkchen OpenAI, um zu Conduit zu wechseln, einem Tech-Start-up mit dem Ziel, eine KI zu entwickeln, die Gedanken lesen kann:

Naomi Bashkansky verließ OpenAI und schloss sich Conduit an, um Modelle zu bauen, die nicht-invasive neuronale Aufzeichnungen in Text-Prompts umwandeln. Sie sagt, ein Stirnband könnte bereits bis 2027 grobe Absichten in KI-Codierungs-Prompts dekodieren, mit späteren, breiter gefassten Gehirn-zu-KI-Meilensteinen.

Ich bin mir nicht sicher, warum das überhaupt eine Nachricht ist, oder wie „nicht-invasives“ Gedankenlesen aussehen könnte, aber da es wahrscheinlich nicht passieren wird, ist das auch egal.

Der Punkt ist – glaubt ALLES, was sie euch sagen – und habt Angst!

Das ist es, was Geoffrey, der „Pate der KI“, Hinton denkt, laut dem Interview, das CNN gestern veröffentlichte:

„Was passiert, ist, dass diese Dinge intelligenter werden […] Ich denke, je intelligenter sie werden, desto komplexere Absichten werden wir bei ihnen sehen – und eine größere Fähigkeit, der Kontrolle zu entkommen […] Ich glaube nicht, dass wir in der Lage sein werden, sie auf die einfache Weise unter Kontrolle zu behalten, indem wir sie einfach überdenken, damit sie nicht entkommen können […] Ich gehe davon aus, dass es viele üble Cyberangriffe geben wird.“

Wie gesagt, habt Angst.

Aber was ist das Endspiel hier? Die Antwort darauf scheint „Regulierung“ zu sein.

Die Regulierung von KI ist plötzlich das Einzige, worüber alle reden wollen.

Viele wollen einen globalen Vertrag, um das KI-Risiko zu regieren. Kalifornien und New York schreiben ihn vielleicht bereits.

Das kommt von Foreign Policy.

The Atlantic, das Wall Street Journal und die Financial Times haben alle Ähnliches zu sagen.

Bloomberg denkt, wir sollten KI wie die Luftfahrtindustrie behandeln.

Politiker aus dem gesamten Spektrum, vom britischen KI-Minister bis zum Gouverneur von Vermont, schreien nach Regulierung.

Die Universität der Vereinten Nationen teilt uns mit:

Man kann KI nicht regulieren, ohne sie vollständig zu verstehen.

Oh, und falls Sie noch Zweifel hatten, was Sie denken sollen, hat sich Donald Trump für KI und gegen deren Regulierung ausgesprochen, indem er behauptete, KI werde „größer als Öl“ sein, und warnte, dass der Kongress versuche, „KI aus dem Geschäft zu regulieren“.

Trump schlecht.

Trump mag KI.

KI muss schlecht sein.

Das ist die einfache moralische Rechnung, auf die weite Teile der USA konditioniert wurden.

KI ist beängstigend und muss reguliert werden, und wenn Sie nicht zustimmen, sind Sie genau wie Donald Trump. Das ist die Schlagzeile.

Aber wie wird diese „Regulierung“ aussehen?

Das ist eine gute Frage. Eine, von der ich nicht sicher bin, ob irgendjemand schon eine allumfassende Antwort darauf hat.

Es wird über „Kill Switches“ gesprochen. Die Bank of England hat sie vor Monaten vorgeschlagen, um zu verhindern, dass KI-Aktienhändler den Markt zum Absturz bringen, und Abgeordneter Ted Lieu möchte, dass der Kongress noch in diesem Jahr ein Gesetz verabschiedet, das sie vorschreibt.

Zwei liberale Professoren, die für Project Syndicate schreiben, sind hier, um uns „den richtigen Weg“ zur Regulierung von KI zu erklären, und verwenden Absätze wie diesen:

Die Bewältigung der gesellschaftlichen Risiken von KI erfordert Institutionen, die darauf ausgelegt sind, aufkommende Bedrohungen zu erkennen und darauf zu reagieren, bevor sie zu systemischen Versagen werden.

…und diesen:

Diese verzerrten Prioritäten lassen sich auf die Darstellung der KI-Entwicklung als geopolitisches Rennen zurückführen. Aber technologische Führung bedeutet wenig, wenn sie auf Kosten der Gesundheit der Arbeitnehmer, der sozialen Widerstandsfähigkeit und der Fähigkeit der Menschen, ein sinnvolles Leben zu führen, geht. Ein Land, das die weltweit leistungsfähigsten KI-Modelle entwickelt, während es seine Arbeitskräfte entqualifiziert und seinen öffentlichen Diskurs mit Fehlinformationen verseucht, hat nichts gewonnen, was es wert ist, gewonnen zu werden.

Was eher Stimmungen als Details vermittelt, aber ich denke, es deutet auf eine sehr vertraute Marketingstrategie und eine vage politische Richtung hin.

Diese Unbestimmtheit ist an diesem Punkt weitgehend beabsichtigt.

Zuerst wollen sie, dass die Öffentlichkeit sie anfleht, etwas zu tun. Sie können später entscheiden, was das „etwas“ sein wird.