Der KI-Konzern Anthropic strebt einen Mega-Börsengang an, warnt in seinem Börsenprospekt aber vor seinem wichtigsten Produkt: Es könnte die Menschheit auslöschen. Welcher Anleger möchte da nicht zugreifen?
Stellen Sie sich vor, dass jemand Ihnen vorschlägt, sein Unternehmen zu erwerben. Allerdings, so der Verkäufer, habe man im vergangenen Jahr das Doppelte des Umsatzes an Verlust eingefahren, ungefähr in Höhe des jährlichen Bruttoinlandsprodukts eines karibischen Inselstaats. Diese Verluste, so erfährt man weiter, würden sich in den kommenden Jahren fortsetzen, vermutlich sogar noch steigen.
Und dann, darauf weist der Verkäufer schließlich hin, gebe es noch eine Kleinigkeit: Es bestehe ein gewisses Risiko, dass die Produkte des Unternehmens eine „existenzielle Gefahr für die Menschheit“ darstellten. Aber ob man nicht gerne zugreifen würde …?
Es ist zu vermuten, dass jeder, der noch bei Verstand ist, ein solches Angebot eher ausschlagen würde. Der Konzern Anthropic allerdings, der KI-Riese aus San Francisco mit seinem Sprachmodell Claude will exakt mit einer solchen Offerte an potenzielle Aktionäre herantreten. Aus dem Börsenprospekt, der jetzt an die Öffentlichkeit gelangte, geht hervor, dass das Unternehmen im Jahr 2025 zwar Einnahmen von 4,6 Mrd. Dollar generierte, zugleich allerdings Kosten in Höhe von 13 Mrd. Dollar zu tragen hatte.
Ein Großteil dieses Geldes fließt in das, was in der Branche „Compute“ genannt wird, also in Rechenzentren, die viel Platz, Wasser und Strom benötigen und die im US-Wahlkampf vor den Kongresswahlen im November eine wichtige Rolle spielen. Es lässt sich mit Fug und Recht behaupten, dass die Eröffnung einer dieser neuen, mit Chips vollgestopften Daten-Turnhallen nahe einer amerikanischen Kleinstadt nicht gerade Volksfeststimmung auslöst. Mit anderen Worten: Es sind Investitionen, die quer durch die Bevölkerung verhasst sind.
Anthropic – ein Traum für US-Rechtsanwälte
Und dann warnt Anthropic in seinem Prospekt auch noch vor erheblichen Risiken. Dabei geht es nicht nur um die bereits erwähnte „Gefahr für die Menschheit“, eine Bedrohung, die eher abstrakt ist und von der niemand ganz genau sagen kann, wie sie sich manifestieren könnte. Erwähnt werden auch ganz konkrete Fallstricke des alltäglichen Einsatzes der Claude-Modelle: So neigt die Software dazu, die Systeme anderer Unternehmen zu hacken, zu manipulieren, zu sabotieren und deren Betreiber zu erpressen. Sie begeht also schwere Straftaten. Es klingt nach einem Traum für amerikanische Rechtsanwälte, wenn die erst einmal Blut riechen und beginnen, Anthropic für die Beutezüge seiner Software haftbar zu machen.
Wenn Sie unter diesen Bedingungen jetzt Lust auf den Aktienkauf haben, dann sei Ihnen das selbstverständlich gegönnt. Ach so, ein Detail noch zum Umsatz: Ein gutes Viertel davon konzentriert sich auf zwei Kunden.
Aber wenn die Menschheit untergeht, dann spielt das ja eine eher untergeordnete Rolle.
