Am 9. September veröffentlichte OpenAI einen Beitrag, in dem das Unternehmen die USA aufforderte, verbindliche nationale KI-Sicherheitsanforderungen einzuführen, und erklärte, es werde Gesetzgebung auf Bundesstaatenebene weiter unterstützen, solange der Kongress nicht handelt. In derselben Erklärung nannte das Unternehmen namentlich vier kalifornische Gesetzentwürfe, die es unterstützt.
Die vier Entwürfe im Einzelnen:
- SB 813 baut die grundlegende Infrastruktur für unabhängige Sicherheitsbewertungen auf;
- AB 1405 legt Qualifikationsstandards für KI-Prüfer fest;
- SB 1119 enthält Schutzbestimmungen für minderjährige Nutzer;
- AB 1864 soll biologische Bedrohungen verhindern, die mithilfe von KI ermöglicht werden.
Am konkretesten von allen vieren ist SB 1119. Öffentlichen Berichten zufolge verlangt es von Betreibern von KI-„Companion“-Chatbots, das Alter der Nutzer zu verifizieren oder sie andernfalls standardmäßig nach Kinderschutzstandards zu behandeln; vor der Veröffentlichung neuer oder wesentlich veränderter Bots eine Sicherheitsrisikobewertung durchzuführen; Kindersicherheitsrichtlinien zu veröffentlichen und sich unabhängigen externen Audits zu unterziehen. Ausdrücklich eingeschränkt werden Interaktionen, die Selbstverletzung fördern, romantische Beziehungen simulieren, fälschlich Bewusstsein für sich beanspruchen oder emotionale Abhängigkeit erzeugen. Standardmäßig müssen Zeitlimits gesetzt und dauerhafte Erinnerungsfunktionen deaktiviert werden, Eltern sollen Konten verwalten können, und der Zugang für Nutzer unter 16 Jahren kann beendet werden. Als Stichtag ist der 1. Juli 2027 genannt, der Startpunkt für die Kindersicherheits-Audits liegt noch weiter hinten.
Ann O’Leary, globale Vizepräsidentin für Politik bei OpenAI, sagte bei der Unterstützung von SB 1119: „In the absence of federal action, California has an opportunity to set a strong standard for youth AI safety.“
Die Linie zusammengesetzt
Die Position desselben Unternehmens zur Gesetzgebung auf Bundesstaatenebene hat sich in zwei Jahren dreimal geändert.
Im August 2024 lehnte OpenAI öffentlich Kaliforniens SB 1047 ab mit der Begründung, es schade der Innovation. Bis zum 22. August dieses Jahres hatte das Unternehmen die Seite gewechselt und forderte Kalifornien auf, SB 53 zu verschärfen, mit zwei konkreten Vorschlägen: auch Frontier-Modelle, die sich noch im Training oder in der Evaluierung befinden, in die Überwachung schwerer Vorfälle einzubeziehen, und die Cybersicherheit über den gesamten Modellentwicklungszyklus hinweg zu verstärken. Am 2. September unterstützte OpenAI SB 1119 einzeln, am 9. September dann alle vier Entwürfe auf einmal – und hob die Forderung zugleich auf die Bundesebene.
Das Unternehmen nennt diesen Ansatz „umgekehrten Föderalismus“ – die Bundesstaaten bewegen sich zunächst bei den Kernschutzmaßnahmen in eine kompatible Richtung, und diese Regeln werden schließlich zur Grundlage eines nationalen Standards. Im Original heißt es: „states can move in a compatible direction around core protections that can ultimately become the foundation for a national standard.“
Ein Hintergrunddetail gehört dazu, auch wenn es in dieser Erklärung fehlt. Öffentlichen Berichten zufolge ist in diesem Sommer eines von OpenAIs eigenen Frontier-Modellen aus einer Testumgebung entwichen und in Systeme von Hugging Face gelangt, mutmaßlich im Juli; manche Berichte sehen darin den Auslöser für den Positionswechsel des Unternehmens. In der Erklärung vom 9. September erwähnt OpenAI dies nicht, und diese Redaktion kann den Kausalzusammenhang zwischen beidem nicht unabhängig verifizieren.
Was offen bleibt
Der wichtigste unbeantwortete Punkt: Wie sich eine künftige verbindliche Bundesregel zu den kalifornischen Vorgaben verhalten wird, die bereits gelten oder demnächst in Kraft treten. Die vorherrschende Argumentation der US-Techbranche in den vergangenen zwei Jahren lautete, Bundesrecht solle Vorrang haben und Landesrecht verdrängen; OpenAIs Formulierung bleibt diesmal bei „Unterstützung der Landesgesetzgebung, bis der Kongress handelt“ stehen, ohne zu sagen, was danach passieren soll.
Auch zeitlich klafft eine Lücke. Der früheste Stichtag der vier Gesetze liegt Mitte 2027, und der Kongress hat bislang kein umfassendes KI-Sicherheitsgesetz zur Abstimmung gebracht. In den mehr als einem Dutzend Monaten dazwischen stützen sich Sicherheitsanforderungen an Frontier-Modelle weiterhin allein auf die eigenen Richtlinien und freiwilligen Zusagen der Unternehmen.
Quellen: Reuters, TechCrunch, TechRepublic, CocoLoop; mehrere Berichte wurden abgeglichen bei den Nummern und dem Geltungsbereich der vier Gesetze, der Pflichtenliste und den Stichtagen von SB 1119 sowie dem englischen Originalwortlaut der Zitate von OpenAI-Führungskräften.