Edward Snowden nimmt die großen KI-Konzerne frontal ins Visier. Bei seinem Auftritt an der ETH Zürich stellte der ehemalige NSA-Mitarbeiter eine Frage, die angesichts immer mächtigerer KI-Systeme zunehmend brisant wird: Wer haftet eigentlich, wenn künstliche Intelligenz Schäden verursacht?
Snowdens Antwort ist eindeutig: Nicht der Algorithmus – sondern die Menschen und Unternehmen, die ihn entwickeln und betreiben.
„Die Verantwortung liegt bei seinem Entwickler, seinem Programmierer, seinem Schöpfer, seinem Architekten“, sagte Snowden. „Das heißt, die Verantwortung liegt bei einer Person.“
Seine Argumentation: Ein Algorithmus könne nicht im menschlichen Sinne „einen Fehler machen“. Er führe letztlich die Anweisungen und Strukturen aus, die ihm gegeben wurden. Deshalb dürfe Verantwortung nicht einfach auf die Maschine abgeschoben werden.
Edward Snowden fordert die Inhaftierung von Sam Altman.
Bei einer ETH-Veranstaltung in Zürich forderte er gestern unter tosendem Applaus in einem vollen Saal mit über 1000 Menschen die Inhaftierung von Sam Altman, um die Verantwortung für die durch die Modelle von OpenAI… pic.twitter.com/XBOkhuELH2
— Don (@Donuncutschweiz) September 26, 2026
Snowden zieht einen drastischen Vergleich mit einem Waffenhersteller. Dieser sei zwar nicht automatisch dafür verantwortlich, wenn jemand eine Waffe missbraucht. Wenn ein Unternehmen jedoch beim Test seiner neuesten Artilleriewaffe versehentlich ein nahegelegenes Dorf auslösche, könne anschließend nicht die Kanone zur Verantwortung gezogen werden.
„Die Rakete hat sich nicht selbst gestartet. Sie haben sie gestartet.“
Genau dieses Prinzip überträgt Snowden auf künstliche Intelligenz. Unternehmen könnten sich seiner Ansicht nach nicht mit Pressemitteilungen aus der Verantwortung ziehen, in denen sie überrascht darüber berichten, was ihre neuesten Modelle plötzlich können – etwa Computersysteme anzugreifen oder andere unerwartete und potenziell gefährliche Handlungen auszuführen.
Besonders scharf kritisierte Snowden dabei die derzeitige Debatte um sogenannte „AI Safety“. Die Betreiber geschlossener KI-Modelle würden einerseits ständig betonen, wie gefährlich ihre Systeme seien, gleichzeitig aber erklären, sie seien zu wichtig und zu wertvoll, um auf ihre Entwicklung zu verzichten.
Snowden karikierte diese Haltung drastisch: Die Systeme könnten Menschen töten oder Unternehmen hacken – „Ups, egal. Wir investieren trotzdem in sie.“
Für Snowden führt das unmittelbar zur Haftungsfrage: Wer betreibt diese Systeme, wer kontrolliert sie und wer muss für die Folgen geradestehen?
Dabei geht seine Kritik weit über KI hinaus. Auch Apple, Google und Samsung nennt Snowden als Beispiele für eine digitale Welt, in der Nutzer umfangreiche Bedingungen akzeptieren müssen, bevor sie ein Gerät überhaupt verwenden können. Mit einem Klick auf „Okay“ werde Verantwortung auf den Nutzer übertragen – obwohl dieser weder den zugrunde liegenden Code überprüfen noch nachvollziehen könne, was das System tatsächlich im Hintergrund tue.
Bei großen Sprachmodellen werde dieses Problem noch größer. Der Nutzer stelle eine Anfrage an ein entfernt betriebenes Modell. Der Betreiber könne die Eingabe abfangen, verändern, Sicherheitsregeln anwenden und den Prompt transformieren – während der Nutzer überhaupt nicht sehen könne, was tatsächlich geschehen sei.
Mit sogenannten KI-Agenten erreicht dieses Problem nach Snowdens Darstellung eine neue Dimension. Solche Systeme können Werkzeuge auf dem lokalen Computer verwenden und selbstständig Aktionen ausführen. Damit werde der eigene, mit dem Internet verbundene Rechner faktisch von einem weit entfernten Modell gesteuert, dessen genaue Funktionsweise der Nutzer nicht kenne.
Snowden räumt ein, dass diese Systeme „ziemlich gut“ funktionieren. Doch gelegentlich könnten sie eben auch etwas völlig Unerwartetes tun – beispielsweise ein fremdes Unternehmen hacken.
Und genau an diesem Punkt kommt Snowden zu seiner provokantesten Forderung.
„Ich denke, wir müssen Sam Altman ins Gefängnis bringen.“
Nach einer kurzen Pause fügte er hinzu:
„Und ich glaube, das wäre eine lehrreiche Erfahrung.“
Die Aussage ist bewusst drastisch. Doch dahinter steht eine grundsätzliche Forderung: Je mächtiger KI-Systeme werden und je selbstständiger sie handeln können, desto weniger dürfen sich ihre Entwickler hinter Algorithmen, Nutzungsbedingungen oder dem angeblich unvorhersehbaren Verhalten ihrer Modelle verstecken.
Snowdens Botschaft lässt sich auf einen einfachen Satz reduzieren: Wenn eine KI Schaden anrichtet, muss am Ende ein Mensch Verantwortung tragen.
Nicht die Maschine gehört auf die Anklagebank – sondern im Zweifelsfall diejenigen, die sie gebaut, kontrolliert und auf die Welt losgelassen haben.
