{"id":21729,"date":"2026-09-09T09:04:45","date_gmt":"2026-09-09T07:04:45","guid":{"rendered":"https:\/\/meiser-tv.de\/uncategorized\/ki-forscher-kuendigt-bei-anthropic-diese-warnung-vor-superintelligenz-erreicht-auf-x-bereits-millionen\/"},"modified":"2026-09-09T09:04:45","modified_gmt":"2026-09-09T07:04:45","slug":"ki-forscher-kuendigt-bei-anthropic-diese-warnung-vor-superintelligenz-erreicht-auf-x-bereits-millionen","status":"publish","type":"post","link":"https:\/\/meiser-tv.de\/en\/uncategorized\/ki-forscher-kuendigt-bei-anthropic-diese-warnung-vor-superintelligenz-erreicht-auf-x-bereits-millionen\/","title":{"rendered":"KI-Forscher k\u00fcndigt bei Anthropic: Diese Warnung vor Superintelligenz erreicht auf X bereits Millionen"},"content":{"rendered":"<div>\n<p class=\"wp-block-paragraph\"><strong>\u201eSie spielen mit unserem Leben\u201c: KI-Forscher k\u00fcndigt und warnt vor einer au\u00dfer Kontrolle geratenen Superintelligenz<\/strong><\/p>\n<p class=\"wp-block-paragraph\"><strong>Jacob Coxon hat seinen Job bei Anthropic aufgegeben und erhebt schwere Vorw\u00fcrfe gegen die beiden f\u00fchrenden KI-Unternehmen Anthropic und OpenAI. Sein Abschiedspost verbreitet sich millionenfach. Der Forscher warnt, dass die Unternehmen trotz existenzieller Risiken auf selbstverbessernde Superintelligenz zusteuern \u2013 und fordert ein Ende des unkontrollierten Wettrennens.<\/strong><\/p>\n<p class=\"wp-block-paragraph\">Ein Forscher, der selbst an der Entwicklung leistungsf\u00e4higer KI-Systeme beteiligt war, schl\u00e4gt Alarm. Jacob Coxon gab am 8. September seinen R\u00fccktritt bei Anthropic bekannt. In den vergangenen drei Jahren habe er an der Vortrainingsforschung bei OpenAI und Anthropic gearbeitet. Nun zieht er eine vernichtende Bilanz: \u201eKeines der Unternehmen handelt verantwortungsvoll. Sie rasen geradewegs auf selbstverbessernde Superintelligenz zu und setzen unser Leben aufs Spiel.\u201c<\/p>\n<blockquote class=\"twitter-tweet\">\n<p lang=\"en\" dir=\"ltr\">I resigned from Anthropic today. I spent the last three years doing pretraining research at both OpenAI and Anthropic. Neither company is acting responsibly. They are racing straight to self-improving superintelligence and gambling with our lives. More thoughts below.<\/p>\n<p>\u2014 Jacob Coxon (@hilbertspaess) <a target=\"_blank\" rel=\"noopener noreferrer\" href=\"https:\/\/x.com\/hilbertspaess\/status\/2097476196791709843?ref_src=twsrc%5Etfw\">September 9, 2026<\/a><\/p><\/blockquote>\n<p> <script async src=\"https:\/\/platform.x.com\/widgets.js\" charset=\"utf-8\"><\/script><\/p>\n<p class=\"wp-block-paragraph\">Sein <a href=\"https:\/\/x.com\/hilbertspaess\/status\/2097476196791709843\" target=\"_blank\" rel=\"noopener\">Beitrag auf X<\/a> wurde nach den vom Nutzer dokumentierten Zahlen bereits mehr als 15 Millionen Mal angezeigt. Auch das <em>Wall Street Journal<\/em> <a href=\"https:\/\/www.wsj.com\/tech\/ai\/anthropic-researcher-quits-over-out-of-control-ai-fears-707b7628\" data-type=\"link\" data-id=\"https:\/\/www.wsj.com\/tech\/ai\/anthropic-researcher-quits-over-out-of-control-ai-fears-707b7628\" target=\"_blank\" rel=\"noopener\">berichtet<\/a> \u00fcber Coxons R\u00fccktritt und seine Sorge, dass der Wettbewerb zwischen den KI-Laboren zu Systemen f\u00fchren k\u00f6nnte, die sich der menschlichen Kontrolle entziehen. <\/p>\n<h2 class=\"wp-block-heading\">\u201eDas ist kein Marketing-Trick\u201c<\/h2>\n<p class=\"wp-block-paragraph\">Coxon warnt davor, die Leistungsf\u00e4higkeit k\u00fcnftiger KI-Systeme zu untersch\u00e4tzen. Diese k\u00f6nnten seiner Einsch\u00e4tzung nach bald \u00fcbermenschliche F\u00e4higkeiten erreichen, komplexe Computersysteme angreifen, ganze Forschungsgebiete revolutionieren und reale Macht sowie Ressourcen erlangen.<\/p>\n<p class=\"wp-block-paragraph\">Besonders schwer wiegt seine Behauptung \u00fcber die Stimmung innerhalb der Branche. Menschen, die solche Systeme entwickeln, glaubten ernsthaft, dass KI bis zum Ende des Jahrzehnts die Menschheit ausl\u00f6schen k\u00f6nnte. \u201eDas ist kein Marketing-Trick\u201c, schreibt Coxon. F\u00fchrungskr\u00e4fte und leitende Forscher w\u00fcrden ihre \u00f6ffentlichen Aussagen h\u00e4ufig vorsichtiger formulieren, w\u00e4hrend sie privat deutlich gr\u00f6\u00dfere \u00c4ngste \u00e4u\u00dferten.<\/p>\n<p class=\"wp-block-paragraph\">Diese Aussagen sind pers\u00f6nliche Einsch\u00e4tzungen und Schilderungen des Forschers. Sie belegen nicht, dass eine solche Katastrophe bevorsteht. Sie zeigen jedoch, wie ernst zumindest Teile der Branche die m\u00f6glichen Folgen ihrer eigenen Technologie nehmen.<\/p>\n<h2 class=\"wp-block-heading\">Das Wettrennen als Sicherheitsproblem<\/h2>\n<p class=\"wp-block-paragraph\">Coxon beschreibt einen Mechanismus, der \u00fcber einzelne Unternehmen hinausgeht. Bei OpenAI h\u00e4tten viele die zivilisatorischen Risiken seiner Ansicht nach nicht ausreichend verinnerlicht. Bei Anthropic seien sie besser verstanden, doch das Unternehmen sehe sich in einem Wettlauf gefangen: Wenn es selbst nicht als Erstes leistungsf\u00e4hige KI entwickle, k\u00f6nnten andere, m\u00f6glicherweise weniger verantwortungsvolle Akteure, diesen Schritt tun.<\/p>\n<p class=\"wp-block-paragraph\">Genau diese Logik h\u00e4lt Coxon f\u00fcr gef\u00e4hrlich. Die Entscheidung, in das \u201eEndspiel\u201c der KI-Entwicklung einzutreten, sei ein hybrischer Einsatz, der nicht aus dem internen Chat eines Privatunternehmens heraus gestartet werden d\u00fcrfe. Er fordert au\u00dfergew\u00f6hnlich hohe Sicherheitsstandards und eine ernsthafte Pr\u00fcfung, ob es nicht weniger riskante Entwicklungswege gibt.<\/p>\n<p class=\"wp-block-paragraph\">Der Forscher spricht sich deshalb f\u00fcr eine st\u00e4rkere Koordination zwischen den f\u00fchrenden Laboren aus. Als m\u00f6gliches Instrument nennt er sogar ein vor\u00fcbergehendes Verbot, die F\u00e4higkeiten der Modelle weiter zu steigern. Er r\u00e4umt ein, dass solche Ma\u00dfnahmen kostspielig w\u00e4ren, h\u00e4lt sie angesichts der m\u00f6glichen Risiken aber f\u00fcr notwendig.<\/p>\n<h2 class=\"wp-block-heading\">Wer entscheidet \u00fcber ein Risiko f\u00fcr die gesamte Menschheit?<\/h2>\n<p class=\"wp-block-paragraph\">Coxons R\u00fccktritt wirft eine grundlegende politische Frage auf: D\u00fcrfen einige wenige private Unternehmen im Wettbewerb dar\u00fcber entscheiden, wie schnell eine Technologie entwickelt wird, deren Folgen sie nach eigener Einsch\u00e4tzung m\u00f6glicherweise nicht mehr kontrollieren k\u00f6nnen?<\/p>\n<p class=\"wp-block-paragraph\">Die Unternehmen verweisen auf Sicherheitsforschung, interne Pr\u00fcfungen und die m\u00f6glichen Vorteile leistungsf\u00e4higer KI. Doch Coxons Kritik richtet sich gerade gegen die Annahme, dass diese Ma\u00dfnahmen ausreichen, solange der wirtschaftliche und strategische Wettlauf weitergeht.<\/p>\n<p class=\"wp-block-paragraph\">Sein Appell an andere Forscher ist entsprechend deutlich: Sie sollten sich fragen, ob sie bereit seien, immer leistungsf\u00e4higere Systeme zu trainieren, ohne deren Funktionsweise ausreichend zu verstehen \u2013 oder ob sie diesen Moment nutzen wollten, um andere Bedingungen einzufordern.<\/p>\n<p class=\"wp-block-paragraph\"><strong>Der R\u00fccktritt beweist nicht, dass Superintelligenz unmittelbar bevorsteht. Er macht jedoch einen Widerspruch sichtbar, der zunehmend schwerer zu \u00fcbergehen ist: Die Unternehmen, die vor den gr\u00f6\u00dften Risiken warnen, treiben zugleich die Entwicklung immer leistungsf\u00e4higerer Systeme voran. Coxon will an diesem Wettlauf nicht l\u00e4nger teilnehmen.<\/strong><\/p>\n<\/div>","protected":false},"excerpt":{"rendered":"<p>\u201eSie spielen mit unserem Leben\u201c: KI-Forscher k\u00fcndigt und warnt vor einer au\u00dfer Kontrolle geratenen Superintelligenz Jacob Coxon hat seinen Job bei Anthropic aufgegeben und erhebt schwere Vorw\u00fcrfe gegen die beiden f\u00fchrenden KI-Unternehmen Anthropic und OpenAI. Sein Abschiedspost verbreitet sich millionenfach. Der Forscher warnt, dass die Unternehmen trotz existenzieller Risiken auf selbstverbessernde Superintelligenz zusteuern \u2013 und [&hellip;]<\/p>\n","protected":false},"author":1,"featured_media":4846,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"_gspb_post_css":"","_uag_custom_page_level_css":"","fifu_image_url":"","fifu_image_alt":"","footnotes":""},"categories":[1],"tags":[],"class_list":["post-21729","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-uncategorized"],"blocksy_meta":{"styles_descriptor":{"styles":{"desktop":"","tablet":"","mobile":""},"google_fonts":[],"version":8}},"uagb_featured_image_src":{"full":["https:\/\/mleexelnfod5.i.optimole.com\/w:auto\/h:auto\/q:mauto\/f:best\/https:\/\/i2.wp.com\/meiser-tv.de\/wp-content\/uploads\/2026\/05\/RSS-Hintergrund.jpg?w=1920&fit=1920,1080&ssl=1",1920,1080,true],"thumbnail":["https:\/\/mleexelnfod5.i.optimole.com\/w:auto\/h:auto\/q:mauto\/f:best\/https:\/\/i2.wp.com\/meiser-tv.de\/wp-content\/uploads\/2026\/05\/RSS-Hintergrund.jpg?w=150&resize=150,150&ssl=1",150,150,true],"medium":["https:\/\/mleexelnfod5.i.optimole.com\/w:auto\/h:auto\/q:mauto\/f:best\/https:\/\/i2.wp.com\/meiser-tv.de\/wp-content\/uploads\/2026\/05\/RSS-Hintergrund.jpg?w=300&fit=300,300&ssl=1",300,300,true],"medium_large":["https:\/\/mleexelnfod5.i.optimole.com\/w:auto\/h:auto\/q:mauto\/f:best\/https:\/\/i2.wp.com\/meiser-tv.de\/wp-content\/uploads\/2026\/05\/RSS-Hintergrund.jpg?w=768&resize=768,0&ssl=1",768,0,true],"large":["https:\/\/mleexelnfod5.i.optimole.com\/w:auto\/h:auto\/q:mauto\/f:best\/https:\/\/i2.wp.com\/meiser-tv.de\/wp-content\/uploads\/2026\/05\/RSS-Hintergrund.jpg?w=1024&fit=1024,1024&ssl=1",1024,1024,true],"1536x1536":["https:\/\/mleexelnfod5.i.optimole.com\/w:auto\/h:auto\/q:mauto\/f:best\/https:\/\/i2.wp.com\/meiser-tv.de\/wp-content\/uploads\/2026\/05\/RSS-Hintergrund.jpg?w=1536&fit=1536,1536&ssl=1",1536,1536,true],"2048x2048":["https:\/\/mleexelnfod5.i.optimole.com\/w:auto\/h:auto\/q:mauto\/f:best\/https:\/\/i2.wp.com\/meiser-tv.de\/wp-content\/uploads\/2026\/05\/RSS-Hintergrund.jpg?w=2048&fit=2048,2048&ssl=1",2048,2048,true],"trp-custom-language-flag":["https:\/\/mleexelnfod5.i.optimole.com\/w:auto\/h:auto\/q:mauto\/f:best\/https:\/\/i2.wp.com\/meiser-tv.de\/wp-content\/uploads\/2026\/05\/RSS-Hintergrund.jpg?w=18&fit=18,12&ssl=1",18,12,true]},"uagb_author_info":{"display_name":"admin","author_link":"https:\/\/meiser-tv.de\/en\/author\/admin\/"},"uagb_comment_info":0,"uagb_excerpt":"\u201eSie spielen mit unserem Leben\u201c: KI-Forscher k\u00fcndigt und warnt vor einer au\u00dfer Kontrolle geratenen Superintelligenz Jacob Coxon hat seinen Job bei Anthropic aufgegeben und erhebt schwere Vorw\u00fcrfe gegen die beiden f\u00fchrenden KI-Unternehmen Anthropic und OpenAI. Sein Abschiedspost verbreitet sich millionenfach. Der Forscher warnt, dass die Unternehmen trotz existenzieller Risiken auf selbstverbessernde Superintelligenz zusteuern \u2013 und&hellip;","_links":{"self":[{"href":"https:\/\/meiser-tv.de\/en\/wp-json\/wp\/v2\/posts\/21729","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/meiser-tv.de\/en\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/meiser-tv.de\/en\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/meiser-tv.de\/en\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/meiser-tv.de\/en\/wp-json\/wp\/v2\/comments?post=21729"}],"version-history":[{"count":0,"href":"https:\/\/meiser-tv.de\/en\/wp-json\/wp\/v2\/posts\/21729\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/meiser-tv.de\/en\/wp-json\/wp\/v2\/media\/4846"}],"wp:attachment":[{"href":"https:\/\/meiser-tv.de\/en\/wp-json\/wp\/v2\/media?parent=21729"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/meiser-tv.de\/en\/wp-json\/wp\/v2\/categories?post=21729"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/meiser-tv.de\/en\/wp-json\/wp\/v2\/tags?post=21729"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}