{"id":22368,"date":"2026-09-13T12:03:20","date_gmt":"2026-09-13T10:03:20","guid":{"rendered":"https:\/\/meiser-tv.de\/wirtschaft\/untergangszenarien-ki-chefs-wollen-entwicklungstempo-drosseln-38245864-html\/"},"modified":"2026-09-13T12:03:20","modified_gmt":"2026-09-13T10:03:20","slug":"untergangszenarien-ki-chefs-wollen-entwicklungstempo-drosseln-38245864-html","status":"publish","type":"post","link":"https:\/\/meiser-tv.de\/en\/wirtschaft\/untergangszenarien-ki-chefs-wollen-entwicklungstempo-drosseln-38245864-html\/","title":{"rendered":"Warnung vor Gefahren: KI-Chefs wollen Entwicklungstempo drosseln"},"content":{"rendered":"<div>\n<div>\n<div class=\"rtf-content-wrapper\">\n<p>Mitarbeiter von OpenAI und Anhropic haben eine Debatte \u00fcber einen m\u00f6glichen Kontrollverlust losgetreten &#8211; inklusive drastischer Untergangsszenarien. Nun knicken die Chefs der KI-Firmen ein und fordern ein weltweites Moratorium \u00a0<\/p>\n<\/div>\n<div class=\"rtf-content-wrapper\">\n<p>Angesichts wachsender Sorgen vor einem Missbrauch K\u00fcnstlicher Intelligenz (KI) hat der Entwickler Anthropic ein langsameres Tempo bei der Verbesserung der Modelle gefordert. Die Geschwindigkeit m\u00fcsse gedrosselt werden, schrieb Anthropic-Chef Dario\u00a0Amodei\u00a0auf der Plattform X. Der Fortschritt werde dennoch weiterhin schnell erscheinen. Die gewonnene Zeit m\u00fcsse aber klug genutzt werden.<\/p>\n<p>Die Sorge vor m\u00f6glichen Sch\u00e4den durch KI war in dieser Woche weiter gewachsen, nachdem der Anthropic-Forscher Jacob Coxon zur\u00fcckgetreten war. Zur Begr\u00fcndung hatte er gesagt, er sehe eine immer gr\u00f6\u00dfere Bedrohung durch KI und die M\u00f6glichkeit, dass diese bereits bis zum Ende des Jahrzehnts massenhaft t\u00f6ten k\u00f6nne. Auch die Vereinten Nationen (UN) hatten gewarnt, KI k\u00f6nne die Existenz der Menschheit gef\u00e4hrden.<\/p>\n<p>In der Branche hatten sich zuletzt Vorf\u00e4lle geh\u00e4uft, bei denen KI-Agenten von Entwicklern wie dem Anthropic-Rivalen OpenAI externe Systeme gehackt oder versucht haben, darauf zuzugreifen. Dies hat die Bedenken hinsichtlich der zunehmenden Leistungsf\u00e4higkeit der Modelle und eines m\u00f6glichen Kontrollverlusts verst\u00e4rkt.<\/p>\n<h2>OpenAI sagt B\u00f6rsengang f\u00fcr 2026 ab<\/h2>\n<p>Sam Altman, Chef des ChatGPT-Entwicklers OpenAI, zog am Wochenende nach und erkl\u00e4rte, sein Unternehmen werde 2026 nicht mehr an die B\u00f6rse gehen. Angesichts der aktuellen Sicherheitsbedenken w\u00e4re dies ein schlechter Zeitpunkt f\u00fcr einen B\u00f6rsengang, sagte Altman in einem am Samstag ver\u00f6ffentlichten Interview des Magazins &#8222;Fortune&#8220;. Das Unternehmen versp\u00fcre in dieser Hinsicht keinen Druck.\u00a0<\/p>\n<p>Auf die Frage, ob ein B\u00f6rsengang damit zugunsten von 2027 vom Tisch sei, sagte Altman, es werde nicht 2026 sein. Es gebe noch viel zu tun, um die Anforderungen an die Sicherheit zu erf\u00fcllen und herauszufinden, wie die Branche und Regierungen zusammenarbeiten k\u00f6nnten. Die Zeitung &#8222;New York Times&#8220; hatte bereits im Juni berichtet, OpenAI erw\u00e4ge, einen m\u00f6glichen B\u00f6rsengang mit einer Bewertung von einer Billion Dollar auf 2027 zu verschieben.<\/p>\n<p>Bei Anthropic haben Sicherheitsbedenken die B\u00f6rsenpl\u00e4ne aber noch nicht gebremst. Insidern zufolge will das Unternehmen fr\u00fchestens Mitte Oktober mit der Vermarktung seines B\u00f6rsengangs beginnen und diesen noch vor den US-Kongresswahlen im November abschlie\u00dfen.<\/p>\n<h2>US-Politiker verhandeln \u00fcber Gesetze<\/h2>\n<p>Die Probleme haben auch die Politik alarmiert. Die Nachrichtenagentur Reuters hatte am Freitag unter Berufung auf Insider berichtet, f\u00fchrende US-Senatoren verhandelten \u00fcber ein Gesetz, das gro\u00dfe Tech-Konzerne wie Google und OpenAI zu mehr Sicherheit bei der Entwicklung von KI-Anwendungen verpflichten soll. Der Entwurf sehe eine sogenannte Sorgfaltspflicht f\u00fcr KI-Entwickler vor. Zudem solle es der Regierung m\u00f6glich sein, die Ver\u00f6ffentlichung unsicherer KI-Modelle zu blockieren.<\/p>\n<p>Anthropic-Chef\u00a0Amodei\u00a0forderte auf X aber keinen Stopp des Trainings oder des technischen Fortschritts. Vielmehr m\u00fcssten Firmen ausreichend Zeit haben, um ihre Modelle abzusichern, was von externen Pr\u00fcfern best\u00e4tigt werden m\u00fcsse. Er schlug unter anderem den Einsatz permanenter, unabh\u00e4ngiger Kontrolleure in f\u00fchrenden KI-Firmen vor, die Zugang zu relevanten Werkzeugen und internen Risikobewertungen erhalten. Zudem sollten die Firmen freiwillig zusammenarbeiten, um Standards festzulegen.<\/p>\n<\/p>\n<p>Der Vorsto\u00df folgt auf einen am Donnerstag ver\u00f6ffentlichten Bericht von Anthropic zur Bedrohungslage. Darin legte das Unternehmen dar, wie verschiedene Akteure seine KI-Modelle der Claude-Familie f\u00fcr Aktivit\u00e4ten nutzten, die von der Waffenentwicklung \u00fcber Cyber-Operationen bis hin zu \u00dcberwachung und Betrug reichten.<\/p>\n<\/p>\n<p>Zuletzt hatte Reuters berichtet, au\u00dfer Kontrolle geratene OpenAI-Agenten h\u00e4tten eine deutsche Website gekapert. OpenAI-F\u00fchrungskr\u00e4fte h\u00e4tten das unter Verschluss gehalten, w\u00e4hrend sie mit den Folgen eines Hackerangriffs auf die Open-Source-Plattform Hugging Face im Juli zu k\u00e4mpfen gehabt h\u00e4tten.<\/p>\n<\/div>\n<\/div>\n<\/div>","protected":false},"excerpt":{"rendered":"<div>Mitarbeiter von OpenAI und Anhropic haben eine Debatte \u00fcber einen m\u00f6glichen Kontrollverlust losgetreten &#8211; inklusive drastischer Untergangsszenarien. Nun knicken die Chefs der KI-Firmen ein und fordern ein weltweites Moratorium \u00a0<\/div>","protected":false},"author":1,"featured_media":4846,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"_gspb_post_css":"","_uag_custom_page_level_css":"","fifu_image_url":"","fifu_image_alt":"","footnotes":""},"categories":[15],"tags":[],"class_list":["post-22368","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-wirtschaft"],"blocksy_meta":{"styles_descriptor":{"styles":{"desktop":"","tablet":"","mobile":""},"google_fonts":[],"version":8}},"uagb_featured_image_src":{"full":["https:\/\/mleexelnfod5.i.optimole.com\/w:auto\/h:auto\/q:mauto\/f:best\/https:\/\/i2.wp.com\/meiser-tv.de\/wp-content\/uploads\/2026\/05\/RSS-Hintergrund.jpg?w=1920&fit=1920,1080&ssl=1",1920,1080,true],"thumbnail":["https:\/\/mleexelnfod5.i.optimole.com\/w:auto\/h:auto\/q:mauto\/f:best\/https:\/\/i2.wp.com\/meiser-tv.de\/wp-content\/uploads\/2026\/05\/RSS-Hintergrund.jpg?w=150&resize=150,150&ssl=1",150,150,true],"medium":["https:\/\/mleexelnfod5.i.optimole.com\/w:auto\/h:auto\/q:mauto\/f:best\/https:\/\/i2.wp.com\/meiser-tv.de\/wp-content\/uploads\/2026\/05\/RSS-Hintergrund.jpg?w=300&fit=300,300&ssl=1",300,300,true],"medium_large":["https:\/\/mleexelnfod5.i.optimole.com\/w:auto\/h:auto\/q:mauto\/f:best\/https:\/\/i2.wp.com\/meiser-tv.de\/wp-content\/uploads\/2026\/05\/RSS-Hintergrund.jpg?w=768&resize=768,0&ssl=1",768,0,true],"large":["https:\/\/mleexelnfod5.i.optimole.com\/w:auto\/h:auto\/q:mauto\/f:best\/https:\/\/i2.wp.com\/meiser-tv.de\/wp-content\/uploads\/2026\/05\/RSS-Hintergrund.jpg?w=1024&fit=1024,1024&ssl=1",1024,1024,true],"1536x1536":["https:\/\/mleexelnfod5.i.optimole.com\/w:auto\/h:auto\/q:mauto\/f:best\/https:\/\/i2.wp.com\/meiser-tv.de\/wp-content\/uploads\/2026\/05\/RSS-Hintergrund.jpg?w=1536&fit=1536,1536&ssl=1",1536,1536,true],"2048x2048":["https:\/\/mleexelnfod5.i.optimole.com\/w:auto\/h:auto\/q:mauto\/f:best\/https:\/\/i2.wp.com\/meiser-tv.de\/wp-content\/uploads\/2026\/05\/RSS-Hintergrund.jpg?w=2048&fit=2048,2048&ssl=1",2048,2048,true],"trp-custom-language-flag":["https:\/\/mleexelnfod5.i.optimole.com\/w:auto\/h:auto\/q:mauto\/f:best\/https:\/\/i2.wp.com\/meiser-tv.de\/wp-content\/uploads\/2026\/05\/RSS-Hintergrund.jpg?w=18&fit=18,12&ssl=1",18,12,true]},"uagb_author_info":{"display_name":"admin","author_link":"https:\/\/meiser-tv.de\/en\/author\/admin\/"},"uagb_comment_info":0,"uagb_excerpt":"Mitarbeiter von OpenAI und Anhropic haben eine Debatte \u00fcber einen m\u00f6glichen Kontrollverlust losgetreten - inklusive drastischer Untergangsszenarien. Nun knicken die Chefs der KI-Firmen ein und fordern ein weltweites Moratorium \u00a0","_links":{"self":[{"href":"https:\/\/meiser-tv.de\/en\/wp-json\/wp\/v2\/posts\/22368","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/meiser-tv.de\/en\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/meiser-tv.de\/en\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/meiser-tv.de\/en\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/meiser-tv.de\/en\/wp-json\/wp\/v2\/comments?post=22368"}],"version-history":[{"count":0,"href":"https:\/\/meiser-tv.de\/en\/wp-json\/wp\/v2\/posts\/22368\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/meiser-tv.de\/en\/wp-json\/wp\/v2\/media\/4846"}],"wp:attachment":[{"href":"https:\/\/meiser-tv.de\/en\/wp-json\/wp\/v2\/media?parent=22368"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/meiser-tv.de\/en\/wp-json\/wp\/v2\/categories?post=22368"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/meiser-tv.de\/en\/wp-json\/wp\/v2\/tags?post=22368"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}