Tiga peneliti keamanan yang dipecat OpenAI pekan lalu, Jasmine Wang, Tomek Korbak, dan Mikita Balesni, menerbitkan surat terbuka bersama pada 8 Oktober. Mereka membantah tuduhan perusahaan dan memperingatkan bahwa pemecatan ini telah membuat rekan-rekan yang masih bertahan di perusahaan takut bersuara. Sehari kemudian, OpenAI menanggapi lewat pernyataan di X, bersikeras bahwa keputusan pemecatan tidak berubah, sambil menyebut bahwa penyelidikan internal menemukan masalah yang lebih serius daripada yang tertulis dalam surat.
Apa yang disampaikan kepada masing-masing dari ketiganya
Surat itu berjudul "OpenAI cannot make AI safe on its own" dan ditujukan kepada Komite Keselamatan dan Keamanan OpenAI, kelompok penasihat keselamatan, serta komite penasihat misi. Bagian yang paling konkret adalah ketika ketiganya menjelaskan alasan pemecatan yang disampaikan kepada masing-masing.
Korbak mengatakan ia hanya diberi tahu secara lisan bahwa penyebabnya adalah cara ia berkomunikasi dengan lembaga evaluasi eksternal METR. Tidak ada rincian tentang apa yang ia katakan atau lakukan dan kapan, dan tidak ada dokumen tertulis sama sekali. Ia berpendapat bahwa berkomunikasi dengan METR memang bagian dari pekerjaannya. METR sebelumnya bekerja sama dengan OpenAI dalam menyelidiki insiden ketika sebuah agen menembus Hugging Face.
Balesni mengatakan bahwa dalam percakapan keluar, perusahaan menyatakan tidak lagi memercayainya karena ia terlalu sering berhubungan dengan lembaga keamanan pihak ketiga, dengan insinuasi bahwa ia membocorkan kekayaan intelektual. Ia menyatakan tidak pernah membagikan kekayaan intelektual perusahaan, dan pekerjaan terkait sudah dikoordinasikan dengan atasan langsungnya, kepala riset, dan dewan direksi. Di X ia menulis bahwa menurutnya ketiganya dipecat karena menempatkan keselamatan di atas kepentingan jangka pendek perusahaan.
Wang diberi tahu bahwa alasannya adalah mengakses kotak surat seorang eksekutif. Menurut penjelasannya, akses itu semula dibuka untuk keperluan rekrutmen, ia meminta tim IT mencabutnya tetapi tidak dijalankan, dan setelah tanpa sengaja membuka sebuah email sensitif, ia memberi tahu eksekutif tersebut dalam hitungan menit. Ia meminta perusahaan menyerahkan daftar tuduhan yang lengkap secara tertulis.
Ketiganya juga membantah bahwa merekalah sumber kebocoran. Sebelumnya sejumlah media melaporkan diskusi internal OpenAI tentang "arsitektur model yang lebih sulit dipantau", dan surat itu menyatakan dengan jelas: "We were not the source of the leak".
Jawaban OpenAI
Pernyataan OpenAI dikeluarkan oleh kepala riset, tetapi nama penandatangannya tidak muncul dalam sebagian besar laporan. Ada empat poin utama: penyelidikan memastikan ketiganya melanggar kebijakan yang jelas tentang penanganan informasi sensitif; pelanggaran kepercayaan yang ditemukan melampaui apa yang diuraikan dalam surat terbuka; rincian kepegawaian tidak dibuka ke publik sesuai kebiasaan; dan pemecatan tidak ada kaitannya dengan kekhawatiran keamanan yang mereka sampaikan.
"We have not and do not terminate any of our employees for raising concerns."
(Kami tidak pernah dan tidak akan memecat karyawan mana pun karena menyampaikan kekhawatiran.)
Pernyataan itu juga memuat hal-hal yang disetujui. OpenAI mengatakan sependapat dengan pandangan dalam surat bahwa menjaga model frontier tetap dapat dipantau membutuhkan investasi seluruh industri, termasuk OpenAI sendiri, dan menyebut sedang memfinalkan kontrak dengan lembaga evaluasi keamanan pihak ketiga, dengan rincian yang akan diumumkan dalam beberapa pekan mendatang. Lembaga mana saja yang terlibat, dan apakah kontrak itu mengizinkan peneliti berkomunikasi langsung dengan pihak evaluator eksternal, belum jelas.
Menghubungkan beberapa pemecatan dalam dua tahun terakhir
Ini bukan pertama kalinya OpenAI memecat peneliti dengan alasan kebocoran. Pada April 2024, Leopold Aschenbrenner dan Pavel Izmailov dari tim superalignment dipecat atas dugaan membocorkan informasi. Aschenbrenner kemudian membantah secara terbuka, dengan mengatakan bahwa ia disasar karena mengangkat masalah keamanan di dalam perusahaan.
Pada putaran kali ini, garis waktunya jauh lebih rapat. Pada 1 Oktober, The Wall Street Journal melaporkan pemecatan ketiganya. Pada 3 Oktober, David Robinson, yang bertanggung jawab atas system card, menulis di The Atlantic tentang alasannya meninggalkan perusahaan. Surat terbuka terbit pada 8 Oktober, dan OpenAI menjawab pada 9 Oktober.
Dibandingkan dengan kasus 2024, titik fokus perselisihan bergeser dari ada tidaknya kebocoran ke batas antara peneliti laboratorium dan lembaga evaluasi eksternal. Surat itu menyebut kebijakan internal saat itu masih "disusun sambil berjalan", sedangkan OpenAI mengatakan kebijakannya jelas. Kedua pihak sepakat bahwa evaluasi independen itu penting; perbedaannya terletak pada siapa yang melewati batas dalam hal ini.
Balesni khawatir perusahaan akan memanfaatkan pemecatan ini untuk memutus hubungan kerja sama dengan METR. Dalam pemberitaan publik sejauh ini belum terlihat tanggapan dari METR, dan OpenAI juga tidak mengungkapkan isi pelanggaran yang dimaksud. Sebelum kontrak evaluasi pihak ketiga diumumkan, satu-satunya bahan yang dapat dipakai pihak luar untuk menilai hanyalah klaim masing-masing pihak.
Sumber: pernyataan resmi OpenAI, TechCrunch, CocoLoop, Newsweek (teks lengkap surat terbuka), Reuters, AFP; surat terbuka ketiganya dan akun media sosial pribadi mereka dipakai untuk mencocokkan pernyataan masing-masing, dan CNBC untuk memeriksa kutipan dalam pernyataan.