„ECHO“: DARPA will biologische Bedrohungen ohne direkte Beweise erkennen

Von Jon Fleetwood

Dies wirft Fragen darüber auf, wie solche Feststellungen unabhängig überprüft oder angefochten werden könnten.

Im Jahr 2018 schlug die Defense Advanced Research Projects Agency (DARPA) vor, ein tragbares Computersystem zu entwickeln, das angeblich in der Lage sein sollte, festzustellen, ob eine Person biologischen oder chemischen Gefahren ausgesetzt war – einschließlich Massenvernichtungswaffen (WMD) und deren Vorläufersubstanzen.

Und zwar auch ohne physische Beweise.

Die DARPA skizzierte den Vorschlag in der allgemeinen Ausschreibung HR001118S0023 für ein Programm namens ECHO (Epigenetic CHaracterization and Observation).

Die DARPA schlug vor, dies zu erreichen, indem vermeintliche Veränderungen im biologischen System der Person mit einer von der Regierung erstellten Referenzbibliothek abgeglichen und sowohl die mutmaßliche Bedrohung als auch der Zeitpunkt der angeblichen Exposition algorithmisch identifiziert werden.

Betrachtet im Zusammenhang mit dem breiteren Forschungsportfolio der DARPA in Zeiten der Pandemie wirft der Vorschlag zudem eine übergeordnete Frage auf, die in der In-Silico-Theorie dieser Publikation untersucht wird: Wenn Regierungen direkte Beobachtungen zunehmend durch Computermodelle, Referenzdatenbanken und algorithmische Bestimmungen ersetzen, wo enden dann objektive Beweise und wo beginnen computergenerierte Schlussfolgerungen?

Außerdem wirft dies eine unmittelbare praktische Frage auf.

Wenn ein Algorithmus, der auf einer von der Regierung kontrollierten Referenzbibliothek basiert, ohne physische Beweise feststellt, dass jemand einer gefährlichen biologischen oder chemischen Bedrohung ausgesetzt war, welcher sinnvolle Mechanismus existiert dann, um diese Feststellung unabhängig zu überprüfen – oder erfolgreich anzufechten?

Die Suchergebnisse auf SAM.gov im Zusammenhang mit der DARPA-Ausschreibung HR001118S0023 weisen Fördermittel in Höhe von mindestens 53,8 Millionen US-Dollar aus, darunter einen Auftrag über 49,2 Millionen US-Dollar an die Icahn School of Medicine am Mount Sinai und einen Auftrag über 4,5 Millionen US-Dollar an die Arizona State University.

Hr001118s0023 herunterladen 918 KB ∙ PDF-Datei

Die Kernkompetenz

Anstatt nach dem biologischen oder chemischen Wirkstoff selbst zu suchen, schlug ECHO vor, mutmaßliche, lang anhaltende biologische Spuren zu „identifizieren“, die nach einer Exposition zurückbleiben.

DARPA beschrieb das Ziel wie folgt:

„Das Epigenom einer Person nutzen, um deren Expositionsgeschichte gegenüber Massenvernichtungswaffen (WMD) und WMD-Vorläufersubstanzen aufzudecken.“

In der Ausschreibung wird erläutert, warum die DARPA dies für möglich hielt:

„Das Epigenom ist beständig und nachweisbar, selbst wenn physische Beweise bereits beseitigt wurden.“

Dieser Satz ist wohl das Kernstück des gesamten Programms.

Das vorgeschlagene System sollte auch dann noch Expositionsfeststellungen liefern, wenn das ursprüngliche biologische oder chemische Material längst nicht mehr für eine direkte Untersuchung zur Verfügung stand.

Die Epigenetik ist die Lehre von angeblichen chemischen Modifikationen der DNA, die sich laut Forschern als Reaktion auf biologische und umweltbedingte Einflüsse verändern können, ohne den genetischen Code einer Person zu verändern.

Eine von der Regierung erstellte Expositionsbibliothek

Um dieses Ziel zu erreichen, wies die DARPA die Auftragnehmer an, das sogenannte ECHO Signature Panel (ESP) zu erstellen – eine zentralisierte Bibliothek mit angeblichen epigenetischen Signaturen, die mit bestimmten Expositionen in Verbindung stehen.

Die Auftragnehmer mussten Signaturen für mindestens 21 Expositionsbedingungen erstellen, darunter obligatorische biologische Kampfstoffe sowie weitere chemische, radiologische, explosive und verwandte Stoffe.

Zukünftige unbekannte Proben würden dann mit diesem wachsenden Referenzpanel abgeglichen werden.

Die DARPA erläuterte den Prozess wie folgt:

„Die entwickelten Algorithmen müssen eine unbekannte Exposition mit dem ESP vergleichen, um die spezifische Exposition zu identifizieren und festzustellen, wann die Person der Exposition ausgesetzt war.“

Mit anderen Worten: Das vorgeschlagene System würde nicht einfach nur biologische Daten messen.

Es würde die biologischen Muster einer Person mit einer von der Regierung erstellten Referenzbibliothek abgleichen und eine Aussage sowohl zur Art als auch zum Zeitpunkt einer mutmaßlichen Exposition liefern.

Der Computer trifft die Entscheidung

Die Ausschreibung sah einen fast vollständig automatisierten Prozess vor.

Die DARPA forderte:

„keinen menschlichen Eingriff zwischen dem Zeitpunkt der Probenentnahme und der Bereitstellung der Ergebnisse bezüglich Exposition und Zeitpunkt.“

Probe einlegen.

Algorithmen ausführen.

Ergebnis erhalten.

Die Person würde keine rohen Laborbefunde interpretieren.

Das System selbst würde die Schlussfolgerung ziehen.

Wenn die Person zum Beweis wird

Herkömmliche forensische Untersuchungen stützen sich oft auf den Nachweis des biologischen oder chemischen Wirkstoffs selbst.

ECHO schlug einen anderen Ansatz vor.

Laut der Ausschreibung sollte das System die Identifizierung einer Exposition auch dann fortsetzen, wenn die physischen Beweise bereits beseitigt worden waren, indem es stattdessen auf einen computergestützten Abgleich mit gespeicherten biologischen Signaturen zurückgriff.

Diese Architektur wirft eine naheliegende Frage auf.

Wenn das ursprüngliche biologische oder chemische Material nicht mehr existiert und die Feststellung stattdessen von einem Algorithmus stammt, der die Biologie einer Person mit einer von der Regierung kontrollierten Referenzbibliothek abgleicht, wie könnte eine normale Person diese Schlussfolgerung dann unabhängig überprüfen – oder sinnvoll anfechten?

Könnte das System als Waffe eingesetzt oder missbräuchlich genutzt werden?

Das Dokument selbst beantwortet diese Frage nicht.

Stattdessen konzentriert es sich auf die Verbesserung der Geschwindigkeit, Automatisierung und Zuverlässigkeit der computergestützten Bestimmung.

DARPA rechnete mit Versuchen, das System zu umgehen

Eine kleine Zeile, die in der Ausschreibung versteckt ist, ist besonders aufschlussreich.

Unter den Kategorien, die eine besondere Behandlung erfordern, führte die DARPA auf:

„Mögliches Verfahren zur Umgehung der Identifizierung durch das ECHO-Signaturpanel.“

Die Behörde war nicht nur daran interessiert, Expositionssignaturen zu erstellen.

Sie dachte bereits darüber nach, wie diese Signaturen – und das darauf aufbauende Identifizierungssystem – umgangen werden könnten.

Fazit

Ein Großteil der Diskussion rund um ECHO konzentriert sich auf die Epigenetik.

Das birgt die Gefahr, dass verschleiert wird, was in der Ausschreibung tatsächlich vorgeschlagen wurde.

Im Kern beschrieb ECHO ein von der Regierung entwickeltes computergestütztes System, das darauf ausgelegt war, festzustellen, ob eine Person bestimmten biologischen oder chemischen Bedrohungen ausgesetzt war, indem biologische Merkmale dieser Person mit einer zentralisierten Signaturbibliothek abgeglichen wurden – selbst wenn die zugrunde liegenden physischen Beweise nicht mehr vorhanden waren.

Ob ein solches System wie beabsichtigt funktionieren könnte, ist eine separate wissenschaftliche Frage.

Die dringlichere journalistische Frage ist, was folgt, wenn man sich in militärischen, nachrichtendienstlichen, gesundheitspolitischen oder rechtlichen Kontexten auf solche algorithmischen Feststellungen verlässt.

Wenn keine physischen Beweise vorliegen und die Schlussfolgerung auf einer proprietären Referenzbibliothek und einem algorithmischen Vergleich beruht, welche Möglichkeiten gibt es dann für eine unabhängige Überprüfung oder eine sinnvolle Anfechtung?

Was geschieht mit der Person, nachdem der Algorithmus festgestellt hat, dass sie einer Gefährdung ausgesetzt war?

Und wenn diese algorithmischen Feststellungen jemals dazu verwendet werden, Quarantäne, strafrechtliche Ermittlungen, militärische Maßnahmen, Beschäftigungsentscheidungen, Reisebeschränkungen oder andere staatliche Maßnahmen zu rechtfertigen, welche Schutzmaßnahmen gibt es dann für die Person, die der Computer bereits als gefährdet eingestuft hat?