Anthropic baut den digitalen Überwachungsstaat: Aktivisten geraten ins Visier der KI

Was als Schutz von Mitarbeitern und Führungskräften verkauft werden kann, entwickelt sich offenbar zu etwas wesentlich Größerem: Der US-KI-Konzern Anthropic baut nach Recherchen des American Prospect eine eigene Sicherheits- und Intelligence-Struktur aus, die Aktivisten überwacht, Personen über längere Zeit verfolgt und mögliche Bedrohungen erkennen soll, bevor überhaupt etwas passiert.

Damit rückt ausgerechnet eines jener Unternehmen, die öffentlich vor den Gefahren künstlicher Intelligenz warnen, selbst in eine Rolle, die Fragen über die Grenzen privater Überwachung aufwirft.

Der Bericht stützt sich unter anderem auf Stellenanzeigen und Aussagen leitender Sicherheitsmitarbeiter von Anthropic. Demnach werden nicht nur Demonstrationen in der Nähe von Unternehmensstandorten beobachtet. Auch Protestbewegungen im Umfeld von Führungskräften geraten ins Visier.

Wie konkret diese Überwachung bereits funktioniert, zeigt ein von American Prospect ausgewertetes Interview mit Anthropic-Sicherheitsmanagern und dem Chef des Risikoanalyse-Unternehmens Samdesk.

Bei einer geplanten Demonstration erhielt Anthropic nach Angaben eines Sicherheitsmanagers rund eine Stunde im Voraus die Information, dass die Organisatoren den Zeitpunkt des Protests geändert hatten. Das Unternehmen konnte daraufhin die Route eines Managers ändern und ihn über einen anderen Eingang in ein Hotel bringen.

Was zunächst wie gewöhnlicher Personenschutz klingt, bekommt jedoch eine andere Dimension, wenn man die übrigen Aussagen betrachtet.

Anthropic erklärte gegenüber dem Wall Street Journal bereits im Juli, man verfolge auffälliges Verhalten über längere Zeit mittels eines „person-of-interest process“. Ziel sei es, Eskalationsmuster möglichst früh zu erkennen. Mehrere Personen, die später Gegenstand von Polizeimeldungen wurden, seien zuvor bereits von der Sicherheitsabteilung des Unternehmens beobachtet worden.

Noch deutlicher wird die Richtung in einer Stellenausschreibung für Anthropics Abteilung Global Safety, Intelligence, and Security (GSIS).

Gesucht wird ein Intelligence-Spezialist, der weltweit Bedrohungen identifizieren, bewerten, verfolgen und untersuchen soll. Bemerkenswert ist dabei, was Anthropic unter diesen möglichen Bedrohungen aufführt:

Neben Terrorismus, Kriminalität, geopolitischer Instabilität und Aktivitäten staatlicher Akteure steht ausdrücklich auch „Aktivismus“.

Damit wird eine Grenze berührt, die in einer freien Gesellschaft eigentlich unmissverständlich sein sollte: Politischer Protest ist zunächst keine Sicherheitsbedrohung. Menschen dürfen gegen Unternehmen, Rechenzentren, künstliche Intelligenz oder deren gesellschaftliche Folgen demonstrieren, ohne deshalb in dieselbe Analyse-Infrastruktur zu geraten, die sich mit Terrorismus und Kriminalität beschäftigt.

Noch problematischer ist die nächste Entwicklungsstufe.

Ein Anthropic-Sicherheitsmanager beschreibt als Ziel den Übergang von einer reaktiven Informationsbeschaffung hin zu einem proaktiven, vorhersagenden und präventiven Bedrohungsmanagement. Das American Prospect spricht deshalb von einem „Pre-Crime“-Ansatz.

Die Vorstellung dahinter ist brisant: Nicht erst eine begangene Tat löst Maßnahmen aus. Daten und Verhaltensmuster sollen vielmehr Hinweise darauf liefern, wer künftig gefährlich werden könnte.

Damit verschiebt sich die entscheidende Frage von „Was hat jemand getan?“ zu „Was könnte jemand möglicherweise tun?“ Genau hier liegt die Gefahr solcher Systeme.

Algorithmen, OSINT-Daten, soziale Netzwerke, Protestinformationen und interne Nutzerdaten können theoretisch zu immer umfassenderen Risikoprofilen zusammengeführt werden. Wer entscheidet dann, wann ein kritischer Bürger vom Demonstranten zum „auffälligen Akteur“ und schließlich zur „Person of Interest“ wird?

Dass diese Frage nicht theoretisch ist, zeigt ein weiterer im Bericht geschilderter Fall.

Anthropic meldete einen Claude-Nutzer bei der Polizei, nachdem dieser gegenüber der KI erklärt hatte, er habe ein halbautomatisches Gewehr gekauft und Firmenchef Dario Amodei „im Visier“. Eine solche Aussage ist zweifellos ernst zu nehmen. Bemerkenswert ist jedoch: Laut San Francisco Standard wollte Anthropic der Polizei anschließend die betreffenden Nachrichten unter Verweis auf interne Richtlinien nicht vorlegen.

Der Fall zeigt das grundsätzliche Machtproblem: Ein privates Unternehmen sammelt Informationen, bewertet das Verhalten eines Nutzers und kann daraus eine Gefahreneinschätzung ableiten, die staatliche Behörden auf den Plan ruft.

Vom KI-Unternehmen zur privaten Intelligence-Struktur

Noch größer wird die Tragweite, wenn KI-Unternehmen und ihre Rechenzentren künftig offiziell als kritische Infrastruktur behandelt werden. Genau dafür gibt es in den USA bereits politische Forderungen.

Würde diese Entwicklung weitergehen, könnten wirtschaftliche Interessen der KI-Konzerne zunehmend mit nationalen Sicherheitsinteressen verschmelzen. Proteste gegen gigantische Rechenzentren, deren Energie- und Wasserverbrauch oder gegen die gesellschaftlichen Folgen künstlicher Intelligenz könnten dann nicht mehr ausschließlich als politische Auseinandersetzung betrachtet werden, sondern zunehmend durch die Brille der „Sicherheit“.

Das bedeutet nicht, dass Anthropic heute friedliche Demonstranten als Terroristen behandelt. Dafür liefert die Recherche keinen Beweis. Aber die technische und organisatorische Infrastruktur, die eine solche Entwicklung ermöglichen würde, nimmt erkennbar Gestalt an: eigene Intelligence-Teams, OSINT-Recherchen, Überwachung von Protesten, „Persons of Interest“, prädiktive Gefahrenanalysen und Kontakte zu Polizeibehörden.

Besonders widersprüchlich ist dabei Anthropics öffentliche Selbstdarstellung.

Das Unternehmen hatte sich Anfang des Jahres noch dagegen gewehrt, dass seine KI vom US-Militär für massenhafte Überwachung im Inland eingesetzt werden könnte. Gleichzeitig baut Anthropic nun selbst eine Struktur auf, deren erklärtes Ziel darin besteht, potenzielle Gefahren frühzeitig zu identifizieren und Aktivismus ausdrücklich zu beobachten.

Vielleicht hat Anthropic-Chef Dario Amodei das eigentliche Problem selbst am treffendsten beschrieben. Die Bevölkerung, schrieb er kürzlich, vertraue Unternehmen, Regierungen und der Techbranche nicht und vermute ständig, dass diese einen neuen Weg entwickelten, sie auszunutzen.

Die nun bekannt gewordenen Überwachungsstrukturen dürften dieses Misstrauen kaum verringern.

Wer entscheidet mithilfe dieser Systeme, welcher Bürger künftig als Risiko gilt – noch bevor er überhaupt etwas getan hat?