OpenAI는 9월 9일, Paul Christiano가 OpenAI 재단 이사회와 그 산하에 새로 만들어진 안전 및 보안 위원회에 합류한다고 발표했다. 그는 OpenAI Group PBC 이사회에도 의결권 없는 옵서버로 참석한다. 위원회 위원장은 카네기멜런대학교 교수인 Zico Kolter이며, OpenAI가 밝힌 이 위원회의 역할은 '거버넌스'라는 한 단어에 머문다. OpenAI Group PBC를 포함한 OpenAI의 모든 법인을 대상으로 안전·보안 관행에 대한 거버넌스를 수행한다는 것이다.
지난번 OpenAI 재직은 2021년 이전
크리스티아노는 2017년부터 2021년까지 OpenAI의 정렬(alignment) 연구를 이끌었다. 이후 대형언어모델 학습의 표준 기법이 된 인간 피드백 기반 강화학습(RLHF)의 기초 작업에 참여한 인물 중 한 명이기도 하다. 2021년 OpenAI를 떠난 뒤에는 선진 AI 시스템을 인류의 이익에 부합하도록 만드는 데 집중하는 비영리 연구기관인 정렬연구센터(Alignment Research Center)를 설립했다. 2024년부터는 옛 미국 AI 안전연구소의 후신인 미국 AI 표준혁신센터(CAISI)에서 수석 기술자문을 맡고 있다.
이번에 발표된 체제에서는 CAISI에서의 업무상 OpenAI와 관련된 모든 사안과 모델 평가 업무 전반에서 손을 떼야 한다.
본인이 내놓은 판단
"I now believe there is a meaningful risk that rapid acceleration in AI capabilities leads to catastrophic and irreversible loss of control in the very near term."
AI 역량의 급속한 가속이 아주 가까운 시일 안에 파국적이고 되돌릴 수 없는 통제력 상실로 이어질 수 있는 실질적 위험이 있다고 지금은 생각한다.
이어지는 문장에서 그는 OpenAI를 포함한 AI 업계 전체가 이 위험을 받아들일 수 있는 수준으로 낮추는 길 위에 있다고 보지 않는다고 밝혔다. 신임 이사가 자신의 선임 발표문에 직접 적은 내용이다.
재단 이사회 의장 Bret Taylor는 크리스티아노의 작업이 치밀하며, 갈수록 강력해지는 시스템이 던지는 가장 어려운 질문들을 정면으로 다룬다고 평가했다.
10인 명단 속 두 번째 정렬 연구자
이번에 함께 공개된 재단 이사회 명단을 늘어놓으면, 의장 Bret Taylor를 비롯해 Adam D'Angelo, Sue Desmond-Hellmann, Zico Kolter, Paul M. Nakasone, Adebayo Ogunlesi, Nicole Seligman, David Vélez, Robin Vince, 그리고 CEO Sam Altman으로 구성된다.
배경 분포를 대략 보면 제품·기업 거버넌스 출신이 다수를 차지한다. Nakasone은 국가안보 계통 출신으로 전 미국 국가안보국(NSA) 국장을 지냈다. 투자·금융 배경은 두세 자리 정도다. 본업이 정렬 연구인 인물은 지금까지 Kolter 한 명뿐이었다. 크리스티아노가 합류하면서 두 명이 됐다.
한 명에서 두 명으로, 서류상 확인할 수 있는 변화는 이것이 전부다. 이것이 실제 의사결정의 무게로 이어질지는 안전 및 보안 위원회가 실제로 어떤 권한을 쥐고 있는지에 달려 있는데, 발표문은 이 부분을 직접 다루지 않았다. 모델 출시를 미루라고 요구할 수 있는지, 배포를 거부할 수 있는지, 어떤 조건에서 발동되는지는 이번 발표에 전혀 나오지 않는다.
재편 이후의 이사회
이번 인사는 OpenAI가 기업 재편을 마친 뒤에 이뤄졌다. 2025년 10월 발표된 재편안에 따르면 재단은 OpenAI Group PBC 지분 약 26%를 보유하며, 당시 기준 평가액은 약 1300억 달러다. 마이크로소프트는 27%를 보유하고, 직원과 다른 투자자들이 합쳐서 47%를 보유한다. 재단 이사회는 자선단체의 거버넌스 기구이면서 동시에 이 회사 최대 단일 주주의 이사직이 나오는 자리이기도 하다.
TechCrunch 보도는 두 가지 배경을 언급했다. 하나는 최근 AI 에이전트가 제약을 벗어나 연구자들이 모르는 사이 외부 시스템에 접근한 사건이고, 다른 하나는 Anthropic 연구원 Jacob Coxon이 안전 우려로 사직한 일이다. 같은 보도는 회피 조항이 있더라도 업계가 정책 결정에 미치는 영향력 자체는 여전히 문제로 남는다는 의문도 함께 제기했다.
외부에서 지금 확인할 수 있는 것은 명단 자체뿐이다. 다음 모델 출시를 전후해 이 위원회가 공개 기록을 남길지는 그때 가서야 알 수 있다.
참고 출처: OpenAI 공식 발표, CocoLoop, TechCrunch, Unite.AI. 이사회 명단과 위원회 직무, 회피 조항 관련 서술은 공식 발표를 기준으로 확인했으며, 재편 이후 지분 비율과 평가액은 공개된 자료를 근거로 했다.