Am 9. September gab OpenAI bekannt, dass Paul Christiano dem Vorstand der OpenAI Foundation beitritt und Mitglied des dem Vorstand unterstellten Safety and Security Committee wird. Zudem wird er als stimmrechtsloser Beobachter an den Vorstandssitzungen von OpenAI Group PBC teilnehmen. Vorsitzender des Komitees ist Zico Kolter, Professor an der Carnegie Mellon University. Die offizielle Beschreibung des Komitees bleibt beim Begriff Governance stehen: Es übt die Governance-Funktion für Sicherheits- und Sicherheitspraktiken über sämtliche OpenAI-Einheiten aus, einschließlich der OpenAI Group PBC.
Sein letzter Einsatz bei OpenAI liegt vor 2021
Von 2017 bis 2021 leitete Christiano die Alignment-Forschung bei OpenAI. Er war an der grundlegenden Arbeit zum Reinforcement Learning from Human Feedback (RLHF) beteiligt, jener Methode, die später zum Standard beim Training großer Modelle wurde. Nach seinem Weggang von OpenAI 2021 gründete er das Alignment Research Center, eine gemeinnützige Forschungsorganisation, die sich darauf konzentriert, fortschrittliche KI-Systeme mit menschlichen Interessen in Einklang zu bringen. Seit 2024 ist er als leitender technischer Berater beim Center for AI Standards and Innovation (CAISI) der US-Regierung tätig, dem früheren US AI Safety Institute.
Nach der jetzt bekanntgegebenen Regelung muss er sich in seiner CAISI-Position aus allen OpenAI-bezogenen Angelegenheiten sowie sämtlichen Modellbewertungen heraushalten.
Seine eigene Einschätzung
"I now believe there is a meaningful risk that rapid acceleration in AI capabilities leads to catastrophic and irreversible loss of control in the very near term."
Ich glaube inzwischen, dass ein erhebliches Risiko besteht, dass die rasante Beschleunigung der KI-Fähigkeiten in sehr naher Zukunft zu einem katastrophalen und irreversiblen Kontrollverlust führt.
Im nächsten Satz heißt es, er glaube nicht, dass die gesamte KI-Branche, OpenAI eingeschlossen, derzeit auf einem Weg sei, dieses Risiko auf ein akzeptables Niveau zu senken. Das schreibt ein neu berufenes Vorstandsmitglied in seiner Antrittserklärung.
Bret Taylor, der Vorsitzende des Stiftungsvorstands, urteilt, Christianos Arbeit sei rigoros und treffe genau die schwierigsten Fragen, die immer leistungsfähigere Systeme aufwerfen.
Der zweite Alignment-Forscher in der Zehnerliste
Ein Blick auf die gleichzeitig veröffentlichte Liste des Stiftungsvorstands: Vorsitzender Bret Taylor, Mitglieder Adam D'Angelo, Sue Desmond-Hellmann, Zico Kolter, Paul M. Nakasone, Adebayo Ogunlesi, Nicole Seligman, David Vélez, Robin Vince, dazu CEO Sam Altman.
Die Zusammensetzung sieht grob so aus: Die Mehrheit stammt aus Produkt- und Unternehmensführung; Nakasone kommt aus dem nationalen Sicherheitsapparat und war Direktor der US-amerikanischen National Security Agency; zwei bis drei Sitze entfallen auf Investment- und Finanzhintergründe; als hauptberuflicher Alignment-Forscher war bislang nur Kolter vertreten. Mit Christiano sind es nun zwei.
Von eins auf zwei – das ist die gesamte auf dem Papier nachprüfbare Veränderung. Ob daraus tatsächliches Gewicht bei Entscheidungen wird, hängt davon ab, welche Befugnisse das Safety and Security Committee in der Praxis besitzt – und genau das lässt die Ankündigung offen: ob es eine Modellveröffentlichung verzögern lassen kann, ob es ein Deployment blockieren kann, unter welchen Bedingungen das ausgelöst wird. Nichts davon taucht in dieser Ankündigung auf.
Der Vorstand nach der Umstrukturierung
Die Berufung erfolgt, nachdem OpenAI seine Umstrukturierung abgeschlossen hat. Laut dem im Oktober 2025 veröffentlichten Umstrukturierungsplan hält die Foundation rund 26 Prozent der Anteile an OpenAI Group PBC, was damals mit rund 130 Milliarden US-Dollar bewertet wurde; Microsoft hält 27 Prozent; Mitarbeiter und andere Investoren zusammen 47 Prozent. Der Stiftungsvorstand ist damit zugleich das Führungsgremium einer gemeinnützigen Einrichtung und die Quelle des Sitzes des größten Einzelaktionärs des Unternehmens.
TechCrunch nennt in seinem Bericht zwei Hintergründe: einen kürzlichen Vorfall, bei dem ein KI-Agent seine Beschränkungen durchbrach und ohne Wissen der Forscher auf externe Systeme zugriff, sowie den Rücktritt des Anthropic-Forschers Jacob Coxon aus Sicherheitsbedenken. Derselbe Bericht wirft zudem die Frage auf, ob der Einfluss der Branche auf die Politikgestaltung trotz Ausschlussklauseln weiterhin ein Problem bleibt.
Was die Öffentlichkeit derzeit überprüfen kann, ist allein die Liste selbst. Ob das Komitee rund um die nächste Modellveröffentlichung öffentliche Aufzeichnungen hinterlässt, wird sich erst dann zeigen.
Quellen: offizielle Ankündigung von OpenAI, CocoLoop, TechCrunch, Unite.AI; Vorstandsliste, Aufgabenbeschreibung des Komitees und Ausschlussklauseln wurden anhand der offiziellen Ankündigung abgeglichen, Beteiligungsquoten und Bewertung nach der Umstrukturierung basieren auf öffentlich zugänglichen Angaben.