KI-Forscher kündigt bei Anthropic: Diese Warnung vor Superintelligenz erreicht auf X bereits Millionen

„Sie spielen mit unserem Leben“: KI-Forscher kündigt und warnt vor einer außer Kontrolle geratenen Superintelligenz

Jacob Coxon hat seinen Job bei Anthropic aufgegeben und erhebt schwere Vorwürfe gegen die beiden führenden KI-Unternehmen Anthropic und OpenAI. Sein Abschiedspost verbreitet sich millionenfach. Der Forscher warnt, dass die Unternehmen trotz existenzieller Risiken auf selbstverbessernde Superintelligenz zusteuern – und fordert ein Ende des unkontrollierten Wettrennens.

Ein Forscher, der selbst an der Entwicklung leistungsfähiger KI-Systeme beteiligt war, schlägt Alarm. Jacob Coxon gab am 8. September seinen Rücktritt bei Anthropic bekannt. In den vergangenen drei Jahren habe er an der Vortrainingsforschung bei OpenAI und Anthropic gearbeitet. Nun zieht er eine vernichtende Bilanz: „Keines der Unternehmen handelt verantwortungsvoll. Sie rasen geradewegs auf selbstverbessernde Superintelligenz zu und setzen unser Leben aufs Spiel.“

I resigned from Anthropic today. I spent the last three years doing pretraining research at both OpenAI and Anthropic. Neither company is acting responsibly. They are racing straight to self-improving superintelligence and gambling with our lives. More thoughts below.

— Jacob Coxon (@hilbertspaess) September 9, 2026

Sein Beitrag auf X wurde nach den vom Nutzer dokumentierten Zahlen bereits mehr als 15 Millionen Mal angezeigt. Auch das Wall Street Journal berichtet über Coxons Rücktritt und seine Sorge, dass der Wettbewerb zwischen den KI-Laboren zu Systemen führen könnte, die sich der menschlichen Kontrolle entziehen.

„Das ist kein Marketing-Trick“

Coxon warnt davor, die Leistungsfähigkeit künftiger KI-Systeme zu unterschätzen. Diese könnten seiner Einschätzung nach bald übermenschliche Fähigkeiten erreichen, komplexe Computersysteme angreifen, ganze Forschungsgebiete revolutionieren und reale Macht sowie Ressourcen erlangen.

Besonders schwer wiegt seine Behauptung über die Stimmung innerhalb der Branche. Menschen, die solche Systeme entwickeln, glaubten ernsthaft, dass KI bis zum Ende des Jahrzehnts die Menschheit auslöschen könnte. „Das ist kein Marketing-Trick“, schreibt Coxon. Führungskräfte und leitende Forscher würden ihre öffentlichen Aussagen häufig vorsichtiger formulieren, während sie privat deutlich größere Ängste äußerten.

Diese Aussagen sind persönliche Einschätzungen und Schilderungen des Forschers. Sie belegen nicht, dass eine solche Katastrophe bevorsteht. Sie zeigen jedoch, wie ernst zumindest Teile der Branche die möglichen Folgen ihrer eigenen Technologie nehmen.

Das Wettrennen als Sicherheitsproblem

Coxon beschreibt einen Mechanismus, der über einzelne Unternehmen hinausgeht. Bei OpenAI hätten viele die zivilisatorischen Risiken seiner Ansicht nach nicht ausreichend verinnerlicht. Bei Anthropic seien sie besser verstanden, doch das Unternehmen sehe sich in einem Wettlauf gefangen: Wenn es selbst nicht als Erstes leistungsfähige KI entwickle, könnten andere, möglicherweise weniger verantwortungsvolle Akteure, diesen Schritt tun.

Genau diese Logik hält Coxon für gefährlich. Die Entscheidung, in das „Endspiel“ der KI-Entwicklung einzutreten, sei ein hybrischer Einsatz, der nicht aus dem internen Chat eines Privatunternehmens heraus gestartet werden dürfe. Er fordert außergewöhnlich hohe Sicherheitsstandards und eine ernsthafte Prüfung, ob es nicht weniger riskante Entwicklungswege gibt.

Der Forscher spricht sich deshalb für eine stärkere Koordination zwischen den führenden Laboren aus. Als mögliches Instrument nennt er sogar ein vorübergehendes Verbot, die Fähigkeiten der Modelle weiter zu steigern. Er räumt ein, dass solche Maßnahmen kostspielig wären, hält sie angesichts der möglichen Risiken aber für notwendig.

Wer entscheidet über ein Risiko für die gesamte Menschheit?

Coxons Rücktritt wirft eine grundlegende politische Frage auf: Dürfen einige wenige private Unternehmen im Wettbewerb darüber entscheiden, wie schnell eine Technologie entwickelt wird, deren Folgen sie nach eigener Einschätzung möglicherweise nicht mehr kontrollieren können?

Die Unternehmen verweisen auf Sicherheitsforschung, interne Prüfungen und die möglichen Vorteile leistungsfähiger KI. Doch Coxons Kritik richtet sich gerade gegen die Annahme, dass diese Maßnahmen ausreichen, solange der wirtschaftliche und strategische Wettlauf weitergeht.

Sein Appell an andere Forscher ist entsprechend deutlich: Sie sollten sich fragen, ob sie bereit seien, immer leistungsfähigere Systeme zu trainieren, ohne deren Funktionsweise ausreichend zu verstehen – oder ob sie diesen Moment nutzen wollten, um andere Bedingungen einzufordern.

Der Rücktritt beweist nicht, dass Superintelligenz unmittelbar bevorsteht. Er macht jedoch einen Widerspruch sichtbar, der zunehmend schwerer zu übergehen ist: Die Unternehmen, die vor den größten Risiken warnen, treiben zugleich die Entwicklung immer leistungsfähigerer Systeme voran. Coxon will an diesem Wettlauf nicht länger teilnehmen.