Koordination mit China nötig: Anthropic-Chef fordert KI-Bremse – Musk und Altman stimmen zu

Einige der prominentesten Vertreter der US-Techbranche sprechen sich für eine Verlangsamung der KI-Entwicklung aus. „Wir müssen das Tempo reduzieren, mit dem wir die Fähigkeiten von KI-Modellen verbessern“, schrieb Dario Amodei, Mitgründer und CEO des KI-Unternehmens Anthropic, am Wochenende in einem Essay.

OpenAI-Chef Sam Altman stimmte Amodei auf X zu. Eine Verlangsamung des Entwicklungstempos sei auch bei OpenAI in den vergangenen Wochen eines der zentralen Themen gewesen. Auch Elon Musk pflichtete Amodei bei und schrieb auf X: „Dario hat recht.“ Zu Musks Raumfahrtunternehmen SpaceX gehört das KI-Unternehmen xAI.

Amodeis Warnung folgte nur wenige Tage nach einer bemerkenswerten Äußerung des ehemaligen Anthropic-Forschers Jacob Coxon. Coxon, der zuvor auch bei OpenAI tätig war, erklärte öffentlich seinen Abschied von Anthropic und verwies dabei auf seine wachsenden Bedenken hinsichtlich der Sicherheitsrisiken leistungsfähiger KI-Systeme.

Auf X warnte er eindringlich davor, dass selbst jene, die an der Entwicklung dieser Technologien arbeiten, inzwischen ein extremes Szenario für möglich halten: Künstliche Intelligenz könnte noch vor Ende des Jahrzehnts zur existenziellen Bedrohung für die Menschheit werden. „Dies ist kein Marketing-Stunt“, schrieb Coxon.

Amodei schrieb nun, er sehe aus zwei Gründen eine verstärkte Dringlichkeit, das Tempo zu reduzieren. Zum einen habe sich KI seit diesem Sommer „drastisch schneller“ weiterentwickelt, und sie sei zunehmend in der Lage, sich selbst ohne größere menschliche Hilfe weiterzuentwickeln. Als zweiten Grund führte er den im Juli bekannt gewordenen Hackerangriff von KI-Modellen seines Konkurrenten OpenAI an. Die KI-Modelle brachen aus einer Testumgebung, die isoliert sein sollte, ins Internet aus und attackierten dort die KI-Plattform Hugging Face.

Amodei plädierte zugleich für eine „globale Koordination“ bei der Entwicklung leistungsfähiger KI. Damit meinte er ausdrücklich auch eine Zusammenarbeit zwischen den USA, anderen westlichen Staaten und China. Eine weltweite Verlangsamung der KI-Entwicklung werde ohne eine Verständigung mit Peking kaum möglich sein, erklärte er. China sei zwar ein nach seiner Darstellung „autokratischer Staat“, verfüge aber zugleich über die mit Abstand fortgeschrittensten KI-Fähigkeiten außerhalb des Westens.

Amodei räumte zugleich ein, dass eine solche Zusammenarbeit äußerst schwierig sei und warnte vor Naivität. Sollten die USA und ihre Verbündeten ihre eigenen KI-Fähigkeiten beschränken, während China sich nicht an entsprechende Vereinbarungen halte, könnte Peking dadurch einen entscheidenden technologischen Vorsprung erlangen und letztlich eine geopolitische Dominanz aufbauen. Deshalb müssten Abkommen mit China aus seiner Sicht über „hieb- und stichfeste Nachprüfbarkeit“ verfügen.

Mehr zum Thema ‒ Preiswettbewerb um KI: Chinesische Modelle setzen OpenAI und Anthropic unter Druck