Jarang ada laboratorium AI garda depan yang tulisan pertama di blog resminya tidak membahas kemampuan model, skor benchmark, atau hasil evaluasi, melainkan mempertanyakan apakah negara masih membutuhkan rakyatnya. Pada 20 Agustus, OpenAI meluncurkan kolom baru bernama AI Futures, yang dikelola oleh tim internal Strategic Futures. Tulisan perdana ditulis oleh Dean Ball. Di bagian akhir tercantum catatan bahwa isi tulisan mewakili pandangan pribadi penulis, bukan posisi resmi OpenAI.
Pertanyaan yang diajukan di awal tulisan adalah: bagaimana masyarakat bebas harus dirancang ulang agar hak individu dan keagenan manusia tetap hidup setelah AI membentuk ulang ekonomi, pemerintahan, dan masyarakat.
Mengapa negara membutuhkan rakyatnya
Argumen Ball dimulai dengan membedah sebuah rantai. Ketergantungan negara modern pada warganya sebenarnya bertumpu pada tiga hal konkret: pendapatan pajak berasal dari kerja manusia, militer dan polisi terdiri dari manusia, dan sistem administrasi dijalankan oleh manusia. Jika ketiganya bisa sepenuhnya diambil alih oleh sistem otonom, rantai itu mulai longgar: begitu output ekonomi tidak lagi terutama berasal dari tenaga kerja manusia, basis pajak pun ikut bergeser; senjata otonom dan penegakan hukum otomatis menekan kebutuhan akan tentara dan polisi; proses birokrasi diserahkan ke model.
"What happens if political power no longer requires broad human cooperation?"
Apa yang terjadi jika kekuasaan politik tidak lagi membutuhkan kerja sama luas dari manusia?
Logika yang sama punya versi cerminnya di pasar tenaga kerja. Ketika perusahaan makin kurang bergantung pada karyawan, daya tawar karyawan pun ikut menurun. Tulisan ini mendorong persoalan itu ke pertanyaan yang lebih tajam: setelah manusia menjadi kurang diperlukan secara ekonomi, bagaimana cara mempertahankan pengaruh ekonomi dan politik?
Setiap mata rantai ini sudah punya padanan nyata di dunia sekarang. Pemungutan pajak otomatis, sistem senjata otonom, dan persetujuan administratif berbasis model, semuanya sedang didorong lewat proyek nyata saat ini. Cara Ball menanganinya adalah merangkai semua itu menjadi satu rantai sebab-akibat, dan ujung rantai itu adalah pertanyaan yang selama ini jarang diangkat secara terbuka.
Lima prinsip
Untuk menjawab kekhawatiran ini, tulisan tersebut mengajukan lima prinsip:
- Individu mempertahankan otonomi atas bagaimana AI memengaruhi hidup mereka sendiri
- Individu bertanggung jawab atas penyalahgunaan teknologi
- Tindakan kolektif digunakan secara terbatas dan dengan cakupan sempit
- Pemain kecil didukung agar persaingan tetap sehat
- Manusia memikul tanggung jawab akhir atas arah masyarakat
Ada juga konsep pendamping bernama bounded legibility, yang bisa diterjemahkan sebagai "keterlihatan terbatas": perilaku AI berisiko tinggi harus bisa dilacak hingga ke individu spesifik yang bertanggung jawab, sambil tetap menjaga privasi dan ruang anonimitas bagi masyarakat umum. Dalam praktiknya ini adalah persoalan pelik — pelacakan membutuhkan jejak yang tertinggal, sementara privasi membutuhkan jejak seminimal mungkin, dan keduanya saling tarik-menarik. Arah yang ditawarkan tulisan ini adalah pembagian tingkat: jejak hanya disimpan untuk kategori berisiko tinggi, sisanya berjalan seperti biasa.
Pendekatan checks and balances ini diambil langsung dari filosofi pendirian Amerika Serikat: membentuk banyak pusat kekuasaan yang saling bersaing sehingga tidak ada satu pun aktor yang bisa merebut kendali penuh. Diterapkan ke konteks AI, ini berarti model, daya komputasi, dan data tidak boleh menumpuk hanya di tangan satu atau dua perusahaan.
Resep dari salah satu pemain terbesar
Orang yang menulis tulisan ini, beberapa bulan lalu masih berada di lingkaran kebijakan Gedung Putih. Ball bergabung dengan OpenAI pada 6 Juli tahun ini untuk memimpin Strategic Futures, setelah sebelumnya menjabat sebagai penasihat kebijakan AI di pemerintahan Trump dan ikut menyusun rancangan AI Action Plan Amerika Serikat. Pada 19 Juli, Axios melaporkan bahwa seorang pejabat senior Pentagon secara terbuka menyebut namanya dalam kritik. Latar belakang ini menentukan cara membaca tulisan tersebut: lebih terasa seperti memo yang ditulis sekaligus untuk atasan baru dan rekan-rekan lama, ketimbang eksperimen pemikiran ala akademis.
Di luar prinsip kelima, prinsip keempat adalah yang paling rumit untuk dibaca. Kalimat "mendukung pemain kecil dan meningkatkan persaingan" yang datang dari salah satu perusahaan bernilai tertinggi di industri ini, dengan sendirinya menciptakan ketegangan: OpenAI saat ini justru menjadi salah satu variabel dalam persoalan "konsentrasi kekuasaan" itu sendiri. Menuliskan resep ini di blog milik sendiri sama saja dengan mengakui bahwa perusahaan ini pun termasuk dalam persoalan tersebut. Pernyataan penyangkalan di akhir tulisan juga bisa dibaca sebagai ruang yang disisakan untuk ketegangan ini.
Memindahkan keamanan dari model ke struktur
Selama dua tahun terakhir, diskusi publik soal keamanan AI sebagian besar berputar di sekitar model itu sendiri: apakah bisa di-jailbreak, apakah berbohong, apakah mencoba mengakali saat diminta dimatikan. Tulisan ini menarik kameranya lebih jauh dan mengalihkan fokus ke institusi — setelah kemampuan model meningkat, bagaimana kekuasaan didistribusikan ulang di antara negara, perusahaan, dan individu.
Kedua jalur ini menyasar risiko yang tidak saling tumpang tindih. Yang pertama mengasumsikan model lepas kendali; yang kedua mengasumsikan model sepenuhnya patuh, lalu mempertanyakan kepada siapa ia patuh. Dalam kasus kedua, teknologinya sendiri tidak mengalami kegagalan apa pun — yang bermasalah adalah struktur yang menggunakannya.
Bagi pembaca di luar Amerika Serikat, diskusi ini punya titik singgung yang konkret. Perdebatan tata kelola AI di berbagai negara pada akhirnya kebanyakan mengerucut ke tiga pertanyaan: siapa yang mengawasi, apa yang diawasi, dan seberapa banyak jejak yang ditinggalkan — sementara apakah kemampuan model sudah melampaui batas justru menjadi soal sekunder. Poin bounded legibility ini, ke kerangka institusional mana pun ia dimasukkan, akan terus dibawa kembali ke dalam diskusi, karena ia menyentuh persoalan pilihan publik antara meninggalkan jejak dan melindungi privasi — sesuatu yang tidak bisa dihindari oleh negara mana pun.
AI Futures sejauh ini baru punya satu tulisan ini; OpenAI belum mengungkapkan seberapa sering kolom ini akan diperbarui atau topik apa saja yang akan dibahas selanjutnya.
Sumber: tulisan perdana kolom AI Futures OpenAI, Axios, CocoLoop, dan berbagai liputan media teknologi tentang kolom ini; lima prinsip dan penjelasan bounded legibility diverifikasi terhadap kutipan publik dari tulisan kolom tersebut, sementara riwayat karier Dean Ball diperiksa silang dengan pemberitaan publik.