xAI, Google und Microsoft werden ihre Frontier-KI-Modelle vor der Veröffentlichung der Sicherheitsprüfung der US-Regierung vorlegen.
Am 5. Mai bestätigten die drei Unternehmen ihre Teilnahme an einem Verfahren von CAISI, dem Center for AI Standards and Innovation im US-Handelsministerium. Praktisch heißt das: Bevor ein Modell öffentlich ausgerollt wird, erhält die Regierung eine Version, um Risiken für die nationale Sicherheit zu testen.
Was CAISI prüft
CAISI ist im Handelsministerium angesiedelt. Der heutige Auftrag geht auf die Zusage der Trump-Regierung vom Juli 2025 zurück, beim AI vetting mit Technologieunternehmen zusammenzuarbeiten.
Der Kernauftrag ist klar: Frontier-KI-Modelle vor dem öffentlichen Einsatz bewerten und Risiken für die nationale Sicherheit identifizieren. Nach eigenen Angaben hat CAISI bereits mehr als 40 Bewertungen von Frontier-Modellen abgeschlossen. Im Fokus stehen Cyberangriffe, militärischer Missbrauch und andere gefährliche Fähigkeiten.
CAISI-Direktor Chris Fall beschreibt die Arbeit als Frage präziser Messwissenschaft: Unabhängige und strenge Messungen seien die Grundlage, um Frontier-KI und ihre Folgen für die nationale Sicherheit zu verstehen.
Das Verfahren ist dabei sehr konkret. Entwickler geben nicht nur die Produktversion mit aktivierten Schutzmechanismen ab. Sie sollen interne Modelle ohne Sicherheits-Guardrails bereitstellen, damit CAISI die tatsächliche Obergrenze der Fähigkeiten testen kann.
Wie die Liste gewachsen ist
Die Abfolge sieht nun so aus:
- 2024: OpenAI und Anthropic unterzeichneten zuerst freiwillige Vereinbarungen.
- Juli 2025: Die Trump-Regierung sagte Zusammenarbeit mit Tech-Unternehmen beim AI vetting zu.
- 5. Mai 2026: Microsoft, Google und xAI traten bei.
Microsoft erklärte, man werde mit Regierungswissenschaftlern zusammenarbeiten, um Modelle auf unerwartetes Verhalten zu testen. Diese Formulierung ist wichtig, weil sie Fähigkeiten meint, die im Training nicht sichtbar waren, aber nach dem Deployment auftauchen.
Bei xAI fällt der Schritt besonders auf. Elon Musk fordert seit Langem Regulierung für KI, während SpaceX-Unterlagen zugleich Compliance-Risiken von xAI nennen. Der Beitritt zu CAISI ist für xAI ein ungewöhnlich kooperativer Schritt.
Der eigentliche Auslöser war Mythos
Der Zeitpunkt ist kein Zufall. Anthropic veröffentlichte vor Kurzem Mythos, ein Cybersicherheitsmodell, das Berichten zufolge innerhalb von zwei Wochen eine 27 Jahre lang unentdeckte Schwachstelle in OpenBSD fand. Anschließend bildete Anthropic eine Allianz mit zwölf großen Unternehmen, demonstrierte das System vor Zentralbankern und löste eilige Treffen mit Jerome Powell, Scott Bessent und Wall-Street-Führungskräften aus.
Die Sorge innerhalb von CAISI lautet, dass Fähigkeiten wie die von Mythos bereits stark genug sind, um Hackerfähigkeiten zu verstärken. Wenn diese Schwelle erreicht ist, sollte kein führendes KI-Unternehmen ein Modell ohne Prüfung auf nationaler Ebene veröffentlichen.
Das ist der eigentliche Hintergrund für die Erweiterung von zwei auf fünf Unternehmen. CAISI kann sich nicht nur auf OpenAI und Anthropic konzentrieren, wenn Googles Gemini, xAIs Grok und Microsofts Phi-Reihe ebenfalls über relevanten Fähigkeitsschwellen liegen.
Das Pentagon verfolgt eine zweite Linie
Parallel läuft eine andere politische Spur. CAISI ist der Sicherheitskanal des Handelsministeriums; das Pentagon baut Beschaffungs- und Einsatzpartnerschaften auf.
Früher in dieser Woche schloss das Pentagon geheime Netzwerk-Deployment-Vereinbarungen mit acht KI-Unternehmen. Anthropic steht nicht auf der Liste, offenbar weil die strengen Guardrails des Unternehmens für militärische Nutzung bei einigen Anwendungsfällen nicht zusammenpassten.
Das Bild ist daher uneinheitlich:
- CAISI-Prüfliste: OpenAI, Anthropic, Microsoft, Google und xAI.
- Pentagon-Partnerliste: acht KI-Unternehmen, ohne Anthropic.
- Ein Bundesgericht wies vergangene Woche zudem Anthropics Eilantrag zu einer Sperre des Verteidigungsministeriums zurück.
Anthropic kooperiert mit CAISI, bleibt für den Verteidigungsbereich aber schwer einsetzbar. OpenAI und Google sind auf beiden Linien aktiv.
Ein Regulierungsrahmen nimmt Form an
Die USA haben noch kein umfassendes Bundesgesetz für KI. Doch einzelne Instrumente werden nacheinander aktiviert: FTC, SEC, DOJ, CAISI, Pentagon und Executive Orders des Weißen Hauses. Auf Ebene der Bundesstaaten ist New Yorks RAISE Act fertig, Kalifornien und Texas ziehen nach.
Die Bedeutung der erweiterten CAISI-Liste liegt darin, dass die Vorabprüfung von Modellen von einer freiwilligen Geste zweier Unternehmen zu einem De-facto-Standard für führende KI-Labore wird. Sollte das Weiße Haus den Prozess später per Executive Order verpflichtend machen, würde daraus eine Zugangsschwelle für den Markt.
Wird sich das Tempo neuer Modellstarts verlangsamen? Wahrscheinlich. Ein Modell wie GPT-5.5 könnte künftig nicht mehr in wenigen Wochen vom internen Test zum Launch gehen, wenn CAISI ein Prüffenster benötigt. Für die KI-Branche ist dieser Schritt womöglich wichtiger, als er wirkt: Bei diesem Tempo der Fähigkeiten ist fehlende Prüfung das eigentliche Risiko.
Quellen: Microsoft, CocoLoop, xAI and Google will share AI models with US govt for security reviews (zusammengefasste Agenturberichte, 2026-05-05); Pentagon strikes deals with 8 Big Tech companies after shunning Anthropic (CNN Business, 2026-05-01)