OpenAIs Pentagon-Vertrag stellt neue Fragen zu KI und Massenüberwachung

(SeaPRwire) –   Am Freitag, nur Stunden nachdem er die Konkurrentin Anthropic öffentlich unterstützt hatte – weil sie sich standhaft gegen die Forderungen des Pentagon gewehrt hatte – kündigte OpenAI-CEO Sam Altman an, dass sein Unternehmen eine eigene Vereinbarung mit dem Pentagon getroffen hatte. Dieser Schritt folgte kurz nach dem äußerst ungewöhnlichen Schritt der US-Regierung, Anthropic als „Versorgungsrisiko“ einzustufen.

Die Entscheidung von OpenAI stieß bei vielen KI-Forschern und Tech-Politik-Experten auf Kritik, obwohl OpenAI behauptete, in seiner Vereinbarung Grenzen für die Überwachung US-Bürger*innen und tödliche autonome Waffen festgelegt zu haben – Grenzen, die Anthropic in seinem Vertrag wollte, die das Pentagon aber abgelehnt hatte.

Einer der zentralen Streitpunkte war die Massenüberwachung im Inland. Experten warnen seit langem, dass fortgeschrittene KI in der Lage ist, verstreute, einzeln harmlose Daten – wie die Position einer Person, finanzielle Daten oder Suchverläufe – automatisch und in großem Maßstab zu einem umfassenden Bild des Lebens einer jeden Person zusammenzusetzen. Anthropic-CEO Dario Amodei sagte, dass Überwachung ernste und neue Risiken für die „grundlegenden Freiheiten“ der Menschen darstellt und dass „das Recht mit den rasant wachsenden Fähigkeiten der KI noch nicht Schritt gehalten hat“.

Aber obwohl OpenAI in einem Blogpost behauptete, mit dem Pentagon eine Vereinbarung getroffen zu haben, wonach seine Technologie nicht für Massenüberwachung im Inland oder direkte autonome Waffensysteme eingesetzt werden soll – die beiden strengen Grenzen, die Anthropic nicht fallen lassen wollte –, haben einige Rechts- und Politikexperten Fragen zu einer möglichen Lücke im Recht gestellt.

Teil des Streits dreht sich um die unklare Rechtmäßigkeit der großangelegten Analyse von Daten von Amerikanern, die nach geltenden US-Gesetzen rechtmäßig ist, auch wenn sie von Massenüberwachung nicht zu unterscheiden ist.

„Im Moment ist es nach US-Recht rechtmäßig, dass Behörden kommerziell verfügbare Informationen von Databrokern und anderen Dritten kaufen“, sagte Samir Jain, Vizepräsident für Politik beim Center for Democracy & Technology. „Wenn Sie enorme Mengen an Daten kaufen und KI die Analyse erlauben, könnten Sie dadurch effektiv eine Massenüberwachung von Amerikanern betreiben. Das ist derzeit nicht gesetzlich beschränkt oder verboten.“

OpenAI behauptet, dass seine „Rotlinien“ durch technische Systeme, die es plant zu bauen, sowie durch Klauseln in seinem Vertrag mit dem Pentagon durchgesetzt werden. Laut einem Blog des Unternehmens erlaubt der Vertrag dem Department of Defense, die KI „für alle rechtmäßigen Zwecke, konsistent mit geltendem Recht, operativen Anforderungen und etablierten Sicherheits- und Aufsichtsregeln“ einzusetzen, während es ausdrücklich unbeschränkte Überwachung der Privatinformationen von Amerikanern verbietet.

Das Problem ist, dass sich, was als „rechtmäßig“ gilt, ändern kann. Der Vertrag von OpenAI verweist auf bestehende Gesetze und Politiken des Department of Defense, aber diese Politiken könnten in Zukunft geändert werden. „Nichts davon, was sie veröffentlicht haben, würde verhindern, dass diese Politiken in Zukunft geändert werden“, sagte Jain.

Einige Kritiker argumentieren, dass bestehende Geheimdienstbefugnisse bereits Formen der Überwachung erlauben, die OpenAI verbieten will. Mike Masnick, Gründer von Techdirt, sagte, dass die Vereinbarung „absolut die Inlandsüberwachung erlaubt“ und verwies auf Executive Order 12333 – eine langjährige Befugnis, die Geheimdiensten erlaubt, Kommunikationen außerhalb der Vereinigten Staaten zu sammeln, was auch Daten von Amerikanern einschließen kann, wenn diese zufällig erfasst werden.

Ein Teil der Debatte dreht sich um bestimmte Abschnitte des US-Rechts, die verschiedene nationale Sicherheitsaktivitäten regeln. Die Handlungen des US-Militärs unterliegen im Allgemeinen Title 10 des US-Federal Code. Dazu gehört die Arbeit der Defense Intelligence Agency (DIA) und des U.S. Cyber Command, um Militäroperationen zu unterstützen. Ein Teil der Arbeit der DIA fällt jedoch unter einen anderen Abschnitt des US-Rechts – Title 50 des US-Code –, der im Allgemeinen verdeckte Geheimdienstaktivitäten und verdeckte Handlungen regelt. Die Arbeit der Central Intelligence Agency (CIA) und der National Security Agency (NSA) fällt im Allgemeinen ebenfalls unter Title 50. Einige der sensitivsten Title-50-Aktivitäten, insbesondere verdeckte Handlungen, werden weitgehend im Hintergrund durchgeführt und erfordern eine Präsidentschaftsentscheidung.

In einem am Wochenende veröffentlichten Blogpost teilte OpenAI eine detaillierte Darstellung seiner Vereinbarung mit dem Pentagon mit. Laut einem Social-Media-Post des bekannten OpenAI-Forschers Noam Brown sagte Katarina Mulligan, die Leiterin der nationalen Sicherheitspartnerchaften des Unternehmens, Brown, dass der Vertrag von OpenAI nicht die Title-50-Arbeit der Geheimdienste abdeckt – einer der Hauptgründe für die Besorgnis der Kritiker. Vertreter von OpenAI antworteten nicht sofort auf eine Anfrage nach Kommentaren von .

Aber Rechtswissenschaftler haben festgestellt, dass die Unterscheidung zwischen Title-10- und Title-50-Aktivitäten zunehmend unscharf wird. In der Praxis können die beiden sehr ähnlich aussehen, und beide können die Analyse von Daten über ausländische Akteure oder die Verfolgung von Mustern beinhalten. Aber diese Überschneidung schafft eine Grauzone für Unternehmen wie OpenAI: Ein Vertrag, der Title-50-Arbeit verbietet, verhindert nicht automatisch, dass Title-10-Behörden wie die DIA KI zur Analyse von kommerziell verfügbaren oder unklassifizierten Datensätzen einsetzen.

„Wenn sie sagen, dass ihr System nicht für Title-50-Aktivitäten verwendet werden kann, dann reduziert das den Anwendungsbereich des KI-Systems“, sagte Jain. „Aber das löst das Problem nicht.“