Künstliche Intelligenz: Anthropic darf umstrittene KI-Modelle im Ausland anbieten

Wie viel Freiheit darf Künstliche Intelligenz bekommen? Die US-Regierung erlaubt Anthropic wieder die Freigabe seiner modernsten KI-Modelle für Nutzer im Ausland. Allerdings bleibt der Zugang streng kontrolliert

Rund drei Wochen nach dem Verbot durch die US-Regierung darf das Start-up Anthropic seine fortschrittlichsten KI-Modelle wieder ausgewählten ausländischen Nutzern zur Verfügung stellen. Dies teilte Handelsminister Howard Lutnick dem Unternehmen am Dienstag (Ortszeit) in einem Schreiben mit, das die Nachrichtenagentur Reuters einsehen konnte.

Anthropic habe sich bereit erklärt, kontinuierlich mögliche Sicherheitsrisiken zu prüfen und zu beheben. Zudem erarbeite das Start-up in enger Kooperation mit der US-Regierung einen Mechanismus, um Behörden über missbräuchliche Aktivitäten zu informieren. Er behalte sich jedoch vor, die Beschränkungen wieder in Kraft zu setzen, „sollten sich die Umstände ändern oder Anthropic seinen Verpflichtungen nicht nachkommen“.

Die USA hatten das Unternehmen wegen möglicher Gefahren für die nationale Sicherheit angewiesen, die KI-Modelle „Fable 5“ und „Mythos 5“ für ausländische Nutzer abzuschalten. Die Regierung befürchtet, dass die Programme von militärischen Geheimdiensten Chinas, Russlands oder anderer Staaten missbraucht werden könnten. Zuvor war es Forschern gelungen, Sicherheitsvorkehrungen zu umgehen. Dadurch deckte die KI nicht nur Schwachstellen in IT-Systemen auf, sondern erstellte auch gleich den passenden Schadcode, um diese auszunutzen.

Sorge vor KI-Jailbreaks

Anthropic hat nach eigenen Angaben die Schutzmechanismen inzwischen verstärkt, um sogenannte Jailbreaks zu verhindern. Das Start-up warnte jedoch, es sei „wahrscheinlich unmöglich“, ein KI-Modell vollständig gegen Missbrauch zu schützen. Es bestehe die Gefahr, dass ein universeller Jailbreak entwickelt werde, der „ein ganzes Spektrum schädlicher Verhaltensweisen“ freischaltet. Man arbeite jedoch mit Unternehmen wie Microsoft oder Google zusammen, um Missbrauchsversuche zu erkennen und zu blockieren.

Dem Start-up zufolge erhielten ausländische Teilnehmer des Projekts „Glasswing“ ab dem 1. Juli wieder Zugriff auf die neuesten KI-Modelle. Da sich diese vor allem durch verbesserte Fähigkeiten beim Aufspüren von Software-Sicherheitslücken auszeichnen, hat Anthropic bislang auf eine allgemeine Veröffentlichung verzichtet. Stattdessen können ausgewählte Unternehmen und staatliche Institutionen vorab ihre kritischen IT-Systeme auf Schwachstellen prüfen.

Die US-Regierung erhöht den Druck auf die Entwickler Künstlicher Intelligenz (KI). So verschob der Anthropic-Rivale OpenAI die Veröffentlichung seines neuesten Modells GPT-5.6 auf Anordnung der Behörden. Stattdessen erhalten nur ausgewählte Nutzer Zugang. Die Beziehung zwischen Anthropic und der US-Regierung gilt als angespannt. Das Verteidigungsministerium hatte den KI-Entwickler vor einigen Monaten als Sicherheitsrisiko eingestuft, nachdem sich das Startup geweigert hatte, seine KI für bestimmte Anwendungsgebiete freizugeben.