Am 29. September Ortszeit unterzeichnete US-Präsident Donald Trump im East Room des Weißen Hauses gemeinsam mit den Chefs von Google, Anthropic, Meta, OpenAI, xAI und Nvidia eine Vereinbarung zur künstlichen Intelligenz und veröffentlichte das Dokument anschließend auf Truth Social. Der vollständige Titel lautet „White House Superintelligence Accord: Joint Commitment on Frontier Superintelligence Responsibility“, der eigentliche Text umfasst nur eine Seite.
Vor Ort waren unter anderem Elon Musk, Mark Zuckerberg, Dario Amodei, Jensen Huang, Greg Brockman und Sundar Pichai; auch Microsoft-Chef Satya Nadella und AMD-Chefin Lisa Su nahmen teil. Pichai bestätigte anschließend in sozialen Medien, dass Google die Vereinbarung unterzeichnet habe.
Was auf der einen Seite steht
Die Vereinbarung verpflichtet die Unterzeichner zu vier Kontrollebenen. Die erste ist internes Monitoring, das während Training und Einsatz der Modelle fortlaufend Cyberangriffe, biologische und chemische Bedrohungen sowie unautorisierte Systemzugriffe erfasst. Die zweite ist ein eigenes internes Team, das prüft, ob diese Kontrollen wie vorgesehen funktionieren, und festgestellte Probleme bearbeitet. Die dritte ist eine unabhängige externe Prüf- oder Bewertungsstelle. Die vierte ist ein unabhängiger Ausschuss auf Vorstandsebene, der die ersten drei Ebenen überwacht.
Das Dokument bezeichnet sich selbst als „gemeinsame Verpflichtung“ und „Grundsatzerklärung“. Zur Verbindlichkeit sagte Trump:
„I think it's morally binding.“ (Ich denke, es ist moralisch bindend.)
Er bezeichnete das Papier zudem als „fast wie eine Verfassung“. Der Sprecher des Repräsentantenhauses, Mike Johnson, drückte es direkter aus: Die Vereinbarung sei für Unternehmen freiwillig, die Branche werde sich „selbst regulieren“. Am Ende des Dokuments heißt es, es könne künftig „notwendig werden“, diese Schritte in Gesetze oder Vorschriften zu überführen.
Am selben Tag unterzeichnete Trump eine Executive Order, wonach Bundesbehörden in offiziellen Dokumenten künftig den Begriff „Superintelligenz“ (Super Intelligence) anstelle von „künstlicher Intelligenz“ verwenden sollen; für die entsprechende Definition wurden 60 Tage angesetzt.
Kritik richtet sich auf das, was fehlt
Das britische Tech-Medium The Register kam nach einem Punkt-für-Punkt-Abgleich zu dem Schluss, dass das Dokument nicht definiert, was als „robuste“ Kontrolle gilt, keine Prüfintervalle festlegt und keinen Zeitplan für Bewertungen enthält. Der demokratische Senator Mark Warner forderte den Kongress auf, verpflichtende Tests, Bewertungen und Vorfallsmeldungen gesetzlich verbindlich zu machen, und warf dem Präsidenten vor, lediglich „einen Namen geändert zu haben und die Unternehmen sich selbst überwachen zu lassen“.
Das Weiße Haus hat bislang nicht erklärt, ob die Ergebnisse externer Prüfungen der Regierung vorgelegt oder öffentlich gemacht werden müssen.
Versuche von 2023 bis heute
Ordnet man die Vereinbarung in die Zeitlinie ein, zeigt sich: Die US-Regulierung von Grenzmodellen bewegt sich seit Jahren nahe der Linie der Freiwilligkeit.
Im Juli 2023 hatte die Biden-Regierung sieben Unternehmen – Amazon, Anthropic, Google, Inflection, Meta, Microsoft und OpenAI – zur Unterzeichnung freiwilliger Verpflichtungen bewegt, darunter Sicherheitstests vor der Veröffentlichung und Wasserzeichen für KI-generierte Inhalte. Auch damals gab es keine Sanktionen.
Im Mai dieses Jahres wollte Trump ursprünglich eine Executive Order unterzeichnen, die eine Prüfung großer Modelle vor der Markteinführung vorschrieb; Vertreter von OpenAI, Anthropic und Google waren bereits vor Ort, doch er stoppte den Schritt in letzter Minute selbst mit der Begründung, ihm gefielen „manche Aspekte davon“ nicht. Die am 2. Juni unterzeichnete Fassung sah stattdessen vor, dass Unternehmen ihre Modelle freiwillig 30 Tage vor der Veröffentlichung der Bundesregierung zum Testen vorlegen können.
Die Neuerung diesmal besteht darin, dass die Anforderung von „der Regierung vorlegen“ zu „intern Mechanismen aufbauen und dann Dritte prüfen lassen“ wechselt und der Vorstand mit einbezogen wird. Die sechs Unterzeichner decken die wichtigsten US-Anbieter von Closed-Source-Modellen sowie den größten Chiphersteller ab; Microsoft und AMD waren zwar vor Ort, tauchen aber nach aktuellem öffentlichen Kenntnisstand nicht auf der Unterzeichnerliste auf. Wie die vier Ebenen in der Praxis bei den einzelnen Unternehmen aussehen werden, lässt sich erst nach den ersten externen Prüfergebnissen beurteilen – einen Zeitpunkt dafür nennt die Vereinbarung nicht.
Quellen: CBS News, CocoLoop, The Register, vollständiger Vereinbarungstext bei Washington Examiner, Lianhe Zaobao, Social-Media-Erklärung von Sundar Pichai; maßgeblich für die Liste der Unterzeichner und die Klauseln zu den vier Kontrollebenen ist der Vereinbarungstext.