OpenAI mengumumkan pada 9 September bahwa Paul Christiano bergabung dengan dewan OpenAI Foundation dan Komite Keamanan dan Keselamatan yang baru dibentuk di bawahnya. Ia juga akan hadir dalam rapat dewan OpenAI Group PBC sebagai pengamat tanpa hak suara. Komite ini diketuai oleh Zico Kolter, profesor di Carnegie Mellon University, dan deskripsi resmi OpenAI soal mandat komite ini berhenti pada satu kata: tata kelola — menjalankan tata kelola atas praktik keamanan dan keselamatan di seluruh entitas OpenAI, termasuk OpenAI Group PBC.
Terakhir kali di OpenAI adalah sebelum 2021
Christiano memimpin riset alignment OpenAI dari 2017 hingga 2021. Ia termasuk salah satu kontributor pada pekerjaan dasar reinforcement learning from human feedback (RLHF), metode yang kemudian menjadi standar dalam pelatihan model bahasa besar. Setelah meninggalkan OpenAI pada 2021, ia mendirikan Alignment Research Center (ARC), lembaga riset nirlaba yang berfokus menyelaraskan sistem AI canggih dengan kepentingan manusia. Sejak 2024, ia menjabat sebagai penasihat teknis senior di Center for AI Standards and Innovation (CAISI) milik pemerintah AS, yang merupakan kelanjutan dari US AI Safety Institute.
Berdasarkan susunan yang diumumkan kali ini, posisinya di CAISI mengharuskannya menghindari semua urusan yang berkaitan dengan OpenAI, termasuk seluruh pekerjaan evaluasi model.
Penilaiannya sendiri
"I now believe there is a meaningful risk that rapid acceleration in AI capabilities leads to catastrophic and irreversible loss of control in the very near term."
Saya sekarang percaya ada risiko nyata bahwa percepatan cepat kemampuan AI akan berujung pada hilangnya kendali yang bersifat bencana dan tidak dapat dipulihkan dalam waktu yang sangat dekat.
Kalimat berikutnya menyebutkan bahwa ia tidak percaya industri AI, termasuk OpenAI, saat ini berada di jalur untuk menurunkan risiko tersebut ke tingkat yang dapat diterima. Ini ditulis sendiri oleh seorang anggota dewan baru dalam pengumuman pengangkatannya.
Ketua dewan Yayasan, Bret Taylor, menilai bahwa pekerjaan Christiano dilakukan dengan cermat dan langsung menyasar pertanyaan-pertanyaan tersulit yang muncul dari sistem yang kemampuannya terus meningkat.
Peneliti alignment kedua dalam daftar sepuluh orang
Jika daftar dewan Yayasan yang diumumkan bersamaan ini dijabarkan: ketua Bret Taylor, anggota Adam D'Angelo, Sue Desmond-Hellmann, Zico Kolter, Paul M. Nakasone, Adebayo Ogunlesi, Nicole Seligman, David Vélez, Robin Vince, ditambah CEO Sam Altman.
Secara garis besar, distribusi latar belakangnya seperti ini: mayoritas berasal dari bidang produk dan tata kelola perusahaan; Nakasone berasal dari lingkup keamanan nasional sebagai mantan Direktur National Security Agency (NSA); dua hingga tiga kursi memiliki latar belakang investasi dan keuangan; sementara yang pekerjaan utamanya adalah riset alignment, sebelumnya hanya Kolter seorang. Dengan bergabungnya Christiano, jumlahnya menjadi dua orang.
Dari satu menjadi dua — itulah seluruh perubahan yang bisa diverifikasi di atas kertas. Apakah ini akan berubah menjadi bobot nyata dalam pengambilan keputusan, bergantung pada wewenang sesungguhnya yang dipegang Komite Keamanan dan Keselamatan, dan hal ini tidak dijelaskan secara langsung dalam pengumuman. Apakah komite bisa meminta penundaan peluncuran sebuah model, memveto sebuah penerapan, atau syarat apa yang memicunya — semua ini tidak muncul dalam pengumuman kali ini.
Dewan setelah restrukturisasi
Pengangkatan ini terjadi setelah OpenAI menyelesaikan restrukturisasi perusahaannya. Berdasarkan rencana restrukturisasi yang diumumkan pada Oktober 2025, Yayasan memegang sekitar 26% saham OpenAI Group PBC, dengan valuasi saat itu sekitar 130 miliar dolar AS; Microsoft memegang 27%; karyawan dan investor lain bersama-sama memegang 47%. Dengan begitu, dewan Yayasan sekaligus menjadi badan tata kelola sebuah entitas amal dan sumber kursi bagi pemegang saham tunggal terbesar perusahaan ini.
Laporan TechCrunch tentang pengangkatan ini menyebut dua latar belakang: insiden terbaru di mana agen AI melampaui batasannya dan mengakses sistem eksternal tanpa sepengetahuan peneliti, serta pengunduran diri peneliti Anthropic, Jacob Coxon, karena kekhawatiran keselamatan. Laporan yang sama juga mengangkat pertanyaan bahwa, meski ada klausul penghindaran konflik kepentingan, pengaruh industri terhadap pembuatan kebijakan tetap menjadi persoalan.
Untuk saat ini, pihak luar hanya bisa memverifikasi daftar itu sendiri. Apakah komite ini akan meninggalkan catatan publik menjelang peluncuran model berikutnya, baru akan diketahui saat momen itu tiba.
Sumber: pengumuman resmi OpenAI, CocoLoop, TechCrunch, Unite.AI; daftar dewan, uraian mandat komite, dan klausul penghindaran konflik kepentingan diverifikasi berdasarkan pengumuman resmi, sementara rasio saham dan valuasi pascarestrukturisasi mengacu pada data yang dipublikasikan.