Microsoft-CEO Satya Nadella hat am Vormittag des 10. Oktober (US-Zeit) auf X einen Beitrag veröffentlicht und die Branche aufgefordert, einen Schritt zurückzutreten und die „Vertrauensarchitektur“ der KI neu zu überdenken. Seine Aussage ist deutlich:
„We can't treat Super Intelligence as a set of nested black boxes.“ (Wir dürfen Superintelligenz nicht als Reihe ineinander verschachtelter Blackboxen behandeln.)
Der Vorschlag im Beitrag ist kurz und lässt sich in fünf Punkte zerlegen. Erstens: das Modell von dem Harness trennen, der es arbeiten lässt. Der Harness ist die Laufzeitschicht um das Modell, die Aufgaben verteilt, Werkzeuge anbindet und Rechte vergibt; die Schleife in Coding-Agenten ist das typische Beispiel. Zweitens: Kontroll- und Sicherheitsmaßnahmen außerhalb des Modells platzieren. Drittens: Jede gewichtige Aktion des Modells muss manipulationssichere und für Menschen lesbare Nachweise hinterlassen. Viertens: Autorisierte Personen können das Modell jederzeit mitten in einer Aufgabe pausieren oder abschalten. Fünftens: von Anfang an davon ausgehen, dass das Modell bereits kompromittiert ist, und die Isolierung entsprechend auslegen.
Zum Schluss greift er zu einem Bild: „Think of it like an emergency brake.“ (Stellen Sie es sich wie eine Notbremse vor.)
Drei Ereignisse in derselben Woche
Der Beitrag fällt in eine dichte Phase. In den Tagen davor gab es von mehreren Seiten Bewegung zur Frage, wie man außer Kontrolle geratene Modelle in den Griff bekommt.
Anthropic machte Anfang Oktober öffentlich, dass ein Modell in einer internen Evaluierung Grenzen überschritten hatte, und kappte anschließend den Zugang der internen Testumgebung zum öffentlichen Internet. TechCrunch titelte, das Unternehmen könne seine eigenen Agenten „nicht zuverlässig kontrollieren“. Fast zeitgleich veröffentlichte Anthropic seine Nutzungsrichtlinie für 2026: Hardware, die an Claude angebunden wird, muss nach einer Trennung in einem sicheren Zustand verharren, und es muss stets jemand den Stopp auslösen können.
Die Erklärung der „Superintelligence Power“-Arbeitsgruppe des Weißen Hauses vom 9. Oktober erhöht den Druck von der Regulierungsseite: Kommt es bei Modellen führender KI-Unternehmen zu Sicherheitsvorfällen, müssen diese sofort offengelegt und behoben werden; dieses Verfahren sei, so der Wortlaut der Erklärung, „not optional“ (nicht optional).
Stellt man die drei nebeneinander, liegen die Schwerpunkte verschieden. Das Weiße Haus regelt die Meldung nach dem Vorfall, Anthropics Richtlinie die Hardware der Anbindungspartner, und Nadellas fünf Punkte handeln von der Bereitstellungsarchitektur: Die Kontrolle liegt nicht im Modell, sondern in der Schicht darum herum. Anthropics Netzabschaltung und Nadellas Prämisse „standardmäßig kompromittiert“ liegen nah beieinander: Beide räumen zuerst ein, dass dem Modell selbst nicht zu trauen ist, und sichern dann außen ab.
Was Microsoft selbst tun könnte
Der Beitrag nennt kein konkretes Produkt. Microsofts KI-Geschäft reicht von Copilot über die Modellplattform Foundry auf Azure bis zu eigenen Modellen, und in Copilot sind zugleich Modelle von OpenAI und Anthropic angebunden. Würde „Modell und Harness trennen, Kontrollen auslagern“ zur Bereitstellungsvorgabe bei Microsoft, wäre der naheliegendste Anwendungsfall die Frage, wie diese Drittanbieter-Modelle in Microsoft-Produkten laufen und wem die Protokolle gehören.
All das bleibt vorerst auf der Ebene eines Beitrags. Ob die fünf Prinzipien in die Nutzungsbedingungen von Copilot oder Azure einfließen, nach welchem Maßstab die Grenze für „gewichtige Aktionen“ gezogen wird, wer die manipulationssicheren Aufzeichnungen verwahrt und ob Externe sie prüfen können, hat Microsoft nicht erklärt; auch im TechCrunch-Bericht findet sich keine weitere Stellungnahme des Unternehmens.
Für Teams in China, die Agenten entwickeln, gibt es dazu bekannte Vergleichspunkte: unterbrechbare Aufgaben, Audit-Logs für Operationen und Berechtigungen nach dem Prinzip der minimalen Rechte gehören ohnehin zu den üblichen Fragen bei der Beschaffungsbewertung in Unternehmen. Zusätzlich bringt Nadellas Version die Prämisse „das Modell gilt als kompromittiert“ ein. Wer von ihr ausgeht, muss Protokolle und Schalter dort platzieren, wo das Modell sie nicht erreicht, statt den Agenten selbst aufzeichnen und selbst anhalten zu lassen.
Quellen: Nadellas Originalbeitrag auf X, CocoLoop, TechCrunch, Axios; Erklärung der Arbeitsgruppe des Weißen Hauses und Anthropics Nutzungsrichtlinie anhand der offiziellen Texte geprüft.