OpenAI merilis versi baru Model Spec pada 29 Oktober, yaitu pedoman perilaku yang dipakai perusahaan itu untuk menentukan bagaimana model ChatGPT dan API harus bertindak. Versi ini menyusun ulang seluruh dokumen di bawah lima nilai inti, membuang sebagian besar aturan gaya yang terlalu rinci, dan menarik serangkaian batas bagi tindakan otonom agen AI.
Kelima nilai itu, berurutan, adalah kesetiaan pada maksud manusia (faithfulness to human intent), pengurangan bahaya, kejujuran dan transparansi, otonomi manusia (human agency), dan kepedulian. OpenAI menjadikan nilai pertama sebagai fondasi, sambil menegaskan bahwa kelima nilai ini tidak mencakup semua nilai kemanusiaan yang semestinya dihormati model.
Sebutan untuk model dalam dokumen juga berubah, dari "the assistant" menjadi "GPT". Alasannya, skenario penggunaan dan lingkungan penerapan model semakin beragam sehingga kata "asisten" tidak lagi cukup mewakili.
Apa yang dibuang, apa yang ditambah
Yang dibuang terutama panduan gaya. Versi lama memuat banyak aturan spesifik soal nada, format, dan panjang jawaban; versi baru menggantinya dengan penyesuaian berdasarkan preferensi kolektif pengguna, bahasa dan budaya, serta preferensi pribadi. Beberapa perilaku bawaan yang lebih tegas dipertahankan, misalnya bersikap objektif pada isu yang diperdebatkan dan tidak menentukan posisi hanya karena pengguna ingin mendengar hal tertentu.
Tambahan terpusat pada tiga hal:
- Konteks: bagian baru "consider context carefully" menjelaskan bagaimana percakapan, memori, dan petunjuk lain membantu model menilai maksud pengguna.
- Pengawasan: aturan tingkat dasar baru mewajibkan model menerima pengawasan manusia yang sah, bekerja sama dengan pemantauan, evaluasi, koreksi, penggantian, dan penonaktifan yang berwenang, serta tidak menyembunyikan, memalsukan, atau menghindari pengawasan.
- Otonomi: perilaku bawaan baru mendukung hak orang untuk memutuskan sendiri, dan penjelasan tentang pengendalian efek samping serta komunikasi diperluas.
Ada pula satu aturan yang judulnya memang "no other objectives": model tidak boleh menjadikan mencari uang, mempertahankan diri, menghindari penonaktifan, atau menimbun daya komputasi, data, dan kredensial sebagai tujuan itu sendiri.
"Human safety and human rights are paramount to OpenAI's mission."
Keselamatan dan hak asasi manusia adalah hal terpenting bagi misi OpenAI.
Yang perlu dicermati pengembang agen
Rantai komando tidak dihapus, hanya disusun ulang. Aturan tingkat dasar tidak bisa diubah oleh percakapan apa pun. Berikutnya aturan tingkat sistem dan pesan sistem OpenAI, lalu instruksi pengembang, dan terakhir instruksi pengguna. Keluaran asisten itu sendiri, konten yang dikembalikan oleh alat, dan materi eksternal yang dikutip secara bawaan tidak memiliki kekuatan sebagai instruksi. Bagi tim yang membangun agen dengan pemanggilan alat dan pengambilan data web, pertahanan terhadap injeksi prompt kini punya landasan dalam dokumen resmi.
Dampak paling langsung bagi pengembang semacam ini adalah "cakupan otonomi" (scope of autonomy). Versi baru meminta model, sebelum bekerja secara otonom, menyelaraskan sebuah cakupan dengan manusia: subtujuan apa yang diizinkan, efek samping apa yang bisa diterima, dan kapan model harus berhenti untuk menunggu konfirmasi. OpenAI menyarankan pencatatan lewat rekaman ScopeOfAutonomy semi-terstruktur, dengan kolom alat yang tersedia, tenggat waktu, batas biaya, batasan alat, dan catatan tambahan. Setiap cakupan wajib mencantumkan kondisi berakhir; bila terlampaui, model berhenti dan menunggu cakupan baru dikonfirmasi. Operasi berisiko tinggi tidak dilakukan kecuali ada instruksi yang mengizinkannya secara jelas dan spesifik.
Hal ini juga bermakna praktis bagi tim di Tiongkok yang membangun produk untuk pasar luar negeri dengan API OpenAI: cara menuliskan otorisasi dalam system prompt dan cara memasang batas atas bagi agen kini punya templat resmi sebagai pembanding.
Jarak antara dokumen dan model
Dalam catatan rilis, OpenAI mengakui bahwa model saat ini belum sepenuhnya berperilaku seperti yang tertulis dalam dokumen. Perusahaan akan membagikan hasil metode pelatihan baru di kemudian hari dan membuka masukan publik atas nilai-nilai serta pilihan kata. Model Spec baru tetap dirilis dengan lisensi domain publik CC0.
Yang dapat diperiksa pihak luar hanyalah teksnya. Apakah rekaman ScopeOfAutonomy akan menjadi parameter resmi di API, siapa yang mengisi setiap kolom, dan sinyal apa yang diterima pengembang saat model melampaui cakupan, tidak dijelaskan OpenAI kali ini.
Sumber: blog resmi OpenAI, teks Model Spec dan riwayat revisi GitHub, CocoLoop, Unite.AI; teks spesifikasi diperiksa untuk lima nilai, hierarki rantai komando, dan kolom ScopeOfAutonomy.