Anthropic vs. Pentagon: KI-Firma weist das Ultimatum zurück

Im Streit zwischen Anthropic und dem US-Verteidigungsministerium hat der Chef der KI-Firma das gestellte Ultimatum zurückgewiesen und erklärt, dass die roten Linien nicht aufgegeben würden. Sein Unternehmen könne den Einsatz der eigenen KI für Massenüberwachung in den USA und für den Betrieb vollautonomer Waffensysteme nicht zulassen. KI-Systeme seien für vollautonome Waffen noch nicht zuverlässig genug, und Massenüberwachung widerspreche demokratischen Werten. Diese Ausnahmen seien auch bislang kein Hindernis beim Einsatz von KI durch das US-Militär gewesen, schreibt Dario Amodei. Zudem kritisiert er, dass seiner Firma die Einstufung als Risiko für die Lieferketten oder die Verpflichtung zur Bereitstellung der eigenen Technik per Kriegsgesetz angedroht worden sei. Beides widerspreche sich. Sollte das Pentagon die eigene KI entfernen wollen, werde man dabei helfen, verspricht er noch.

Widersprüchliche Drohungen

Mit dem Blogeintrag fordert Amodei das Pentagon nun auf, sich zu entscheiden. Das hatte der KI-Firma Anfang der Woche gedroht, die Bereitstellung einer Version der KI per Defense Production Act (DPA) zu erzwingen. Das Gesetz soll es der US-Regierung eigentlich ermöglichen, die Produktion kriegswichtiger Güter anzuordnen. Vorher hatte die US-Regierung schon gedroht, Anthropic als Sicherheitsrisiko einzustufen und damit andere Unternehmen vor die Wahl zu stellen, entweder mit dem US-Militär oder mit der KI-Firma Geschäfte zu machen. Amodei meint jetzt, dass sich das widerspreche: Entweder seine Firma sei ein Sicherheitsrisiko oder für die nationale Sicherheit unverzichtbar. Beides ändere aber nichts an der eigenen Einstellung.

Mit der öffentlichen Verteidigung der eigenen roten Linien bezieht Anthropic jetzt klar Stellung. Man sei bereit, die nationale Sicherheit der USA weiter zu verteidigen, die eigenen Bedingungen gebe man aber nicht auf. US-Verteidigungsminister Pete Hegseth muss jetzt erklären, ob er eine der Drohungen seines Ministeriums umsetzt. Das könnte leichter gesagt als getan sein, denn immer wieder wurde aus seinem Haus darauf hingewiesen, wie wertvoll die Claude-KI von Anthropic ist. Das KI-System kommt als einziges in den geheimen und abgeschirmten Netzen des Pentagon zum Einsatz. „Das Problem für diese Leute ist, dass sie so gut sind“, hat das US-Magazin Axios etwa einen Beamten zitiert. Die KI von Anthropic sei der Konkurrenz weit voraus und es dürfte schwer werden, sie wieder aus den Systemen zu entfernen, hieß es auch.

Lesen Sie auch

US-Verteidigungsminister Hegseth will Grok in die Pentagon-Systeme einbinden

(mho)