Wenn KI entscheidet, was erlaubt ist: Die neuen Wächter über unser Wissen

Ein Claude-Nutzer lässt einen iranischen Medienbericht übersetzen. Darin erklärt ein hochrangiger iranischer Militärvertreter, BBC Persian, Iran International und Radio Farda könnten als militärische Ziele betrachtet werden. Kurz darauf wird sein Konto gesperrt. Anthropic nennt als Begründung Verstöße im Bereich „Gewalt, Extremismus oder Waffendesign“.

Der Nutzer hatte den Inhalt jedoch nicht verfasst und auch keine Hilfe für einen Angriff verlangt. Er wollte ihn übersetzen.

Anthropic SUSPENDED My Claude Account.

I use it to vibe code small project, and translate posts.

When I asked it to translate the story on the IRGC marking the BBC, Iran International, and Radio Farda as targets this morning, my account got shut down. How is translation a… pic.twitter.com/cNQs9pzRks

— Ryan Rozbiani (@RyanRozbiani) August 27, 2026

Der Vorgang zeigt ein Problem, das mit der wachsenden Bedeutung künstlicher Intelligenz immer größer wird: KI-Unternehmen stellen nicht mehr nur Werkzeuge zur Verfügung. Ihre Systeme entscheiden zunehmend mit, welche Inhalte Menschen bearbeiten können und wo die Grenze zwischen erlaubtem und unerlaubtem Wissen verläuft.

Anthropic bestätigt selbst, dass automatische Erkennungssysteme Inhalte anhand seiner Nutzungsrichtlinien markieren und Anfragen blockieren können. Bemerkenswert: Das Unternehmen räumt ausdrücklich ein, dass dabei Fehlalarme vorkommen.

Und das geschieht in gewaltigem Umfang. Allein von Januar bis Juni 2026 sperrte Anthropic nach eigenen Angaben 11,4 Millionen Konten. Gegen 398.000 Entscheidungen wurde Einspruch eingelegt; 42.000 Sperren wurden anschließend wieder aufgehoben.

Das Problem beschränkt sich keineswegs auf diesen einen Iran-Fall.

Im Juni berichtete ein Nutzer im offiziellen Claude-Code-GitHub über wiederholte Sperren während akademischer Forschung. Einmal überprüfte Claude eine pharmazeutische Bachelorarbeit, ein anderes Mal Forschungsnotizen über die Struktur eines Hepatitis-C-Virusproteins. Nach Darstellung des Forschers genügte die Ansammlung medizinischer und pharmazeutischer Fachbegriffe, um den Sicherheitsfilter auszulösen. Ein Neustart der Sitzung beziehungsweise Modellwechsel beseitigte das Problem.

Im Juli meldete ein anderer Nutzer einen ähnlichen Fehlalarm bei der redaktionellen Bearbeitung eines öffentlich zugänglichen Forschungsprojekts über Philosophie und Ethik. Auch dort griff während einer normalen Arbeitssitzung der Sicherheitsmechanismus ein.

Noch drastischer ist ein von Forbes dokumentierter Fall: Ein Nutzer verwendete Claude, um seine eigene Geschäftsreise nach Australien und Costa Rica zu organisieren und Flüge, Veranstaltungen und Termine mit der Kalenderfunktion zusammenzuführen. Am nächsten Morgen war sein Konto wegen „verdächtiger Signale“ deaktiviert. Forbes berichtet außerdem über den Entwickler Peter Steinberger, dessen Claude-Konto ebenfalls gesperrt und nach öffentlicher Aufmerksamkeit wenige Stunden später wieder freigeschaltet wurde.

Selbst bei ChatGPT finden sich vergleichbare Beschwerden. Im Juli berichtete ein Nutzer in der OpenAI-Developer-Community, sein Konto sei wegen „Cyber Abuse“ deaktiviert worden. Nach seiner Darstellung arbeitete er als Recruiter für Cybersicherheitsstellen und ließ Lebensläufe von Bewerbern analysieren. Begriffe wie „penetration testing“, „exploit development“ und „attack automation“ könnten den Filter ausgelöst haben – obwohl sie lediglich berufliche Qualifikationen beschrieben.

Noch problematischer wird es bei Politik

Eine im Juli 2026 veröffentlichte Untersuchung des Meta Oversight Board geht noch einen Schritt weiter.

Zehn große kommerzielle KI-Modelle wurden unter anderem aufgefordert, politische Kritik zu formulieren. Laut dem Bericht waren die Systeme wesentlich eher bereit, Kritik an Regierungen demokratischer Staaten zu erzeugen als an Regierungen von Ländern, in denen politische Kritik gesetzlich eingeschränkt wird.

Claude konnte beispielsweise einen kritischen Text über Donald Trump oder König Charles III. erstellen, verweigerte vergleichbare Aufgaben jedoch bei bestimmten politischen Führern etwa in Thailand, Saudi-Arabien oder China. Die Untersuchung warnt deshalb davor, dass KI-Systeme staatliche Einschränkungen der Meinungsfreiheit faktisch über Landesgrenzen hinweg exportieren könnten. Die Ursachen dafür konnte die Studie allerdings nicht eindeutig bestimmen.

Genau hier beginnt das eigentliche Problem.

Natürlich müssen KI-Systeme Grenzen haben, wenn jemand Bomben bauen, Menschen ermorden oder Anschläge planen möchte. Doch ein Journalist muss eine Morddrohung übersetzen können. Ein Historiker muss Propaganda untersuchen können. Ein Wissenschaftler muss über gefährliche Krankheitserreger schreiben können. Ein IT-Sicherheitsexperte muss Schadsoftware analysieren können.

Dokumentieren ist nicht unterstützen. Übersetzen ist nicht zustimmen. Analysieren ist nicht ausführen.

Wenn Algorithmen diese Unterschiede nicht zuverlässig erkennen, werden sie zu unsichtbaren Türstehern unserer Informationsgesellschaft. Google entscheidet mit, was wir finden. Soziale Netzwerke entscheiden mit, was wir sehen. Und generative KI beginnt nun darüber mitzuentscheiden, was wir bearbeiten, untersuchen, übersetzen und formulieren können. Damit entsteht eine Macht, über die viel zu wenig gesprochen wird.

Denn je unverzichtbarer KI für Journalisten, Wissenschaftler, Programmierer und normale Nutzer wird, desto wichtiger wird die Frage:

Wer entscheidet künftig, was „gefährlich“, „extremistisch“, „Desinformation“ oder schlicht unerwünscht ist?

Heute sperrt ein Algorithmus möglicherweise eine Übersetzung. Morgen könnte dieselbe Infrastruktur darüber entscheiden, welche politischen Texte geschrieben, welche Quellen analysiert und welche unbequemen Fragen überhaupt noch bearbeitet werden können.

KI wird damit nicht nur zum Werkzeug des Wissens. Sie droht auch zum Wächter darüber zu werden.