Pada 2 November, Rikiya Takehi, Jayden Teoh, Alex Zhang, dan Omar Khattab dari MIT CSAIL merilis blog teknis berjudul “Sparks of Weight-Space Programming”. Di dalamnya, GPT-6 Astra milik OpenAI membaca dan mengubah bobot jaringan saraf secara langsung, tanpa optimizer dan tanpa penurunan gradien. Para penulis menyebut pendekatan ini “pemrograman ruang bobot”.
Hasil yang paling disorot ada pada Qwen3.5-0.8B, model kecil sumber terbuka dari Alibaba. Model ini memiliki 24 lapisan dan sekitar 800 juta bobot. Astra mengurangi satu “arah perulangan” dari masing-masing MLP di lapisan 15 dan 19, dengan total 131.072 bobot diubah, atau 0,016% dari keseluruhan, tanpa pelatihan ulang sama sekali.
Namun materi ini baru berupa postingan blog dan belum melalui tinjauan sejawat. Para penulis sendiri menyebutnya hasil yang sangat awal.
Delapan eksperimen, ada yang berhasil dan ada yang gagal dalam membaca, memperbaiki, dan menulis
Para penulis membagi tugas menjadi tiga jenis.
Membaca bobot. Hanya dengan melihat bobot jaringan kebijakan PPO, Astra menebak masing-masing dilatih untuk game grid yang mana dari empat game. Dari bobot tiga DDPM, ia menyimpulkan bahwa ketiganya masing-masing menghasilkan lingkaran, segitiga, dan persegi, meski bentuk padat digambarnya sebagai garis tepi yang kosong. Pada Transformer tingkat karakter dengan 7,16 juta parameter, ia hanya melihat 4 lapisan tengah, lalu mengenali korpus pelatihan ketiga model dan menemukan semua kepala penyalin.
Memperbaiki bobot. Di lingkungan Kinetix, ada kebijakan kereta kecil yang mendaki bukit dan tidak pernah berhasil dalam 256 episode. Setelah Astra mengubah 3,5% bobotnya, kebijakan itu lolos di seluruh 1.024 episode.
Menulis bobot dari nol. Pada tiga game MinAtar, tanpa data, tanpa gradien, dan tanpa alat, Astra diminta menulis satu jaringan kecil sekali jadi. Perbandingan skornya dengan PPO:
| Game | PPO 100 juta langkah | PPO 500 juta langkah | Astra sekali tulis |
|---|---|---|---|
| Breakout | 15,8 | 25,3 | 517,4 |
| Seaquest | 5,6 | 88,9 | 53,1 |
| Asterix | 25,8 | 55,2 | 53,2 |
Ketiganya mengungguli PPO 100 juta langkah, tetapi saat dibandingkan dengan PPO 500 juta langkah, hanya Breakout yang masih unggul.
Kegagalan juga dicatat di blog. Saat diminta menentukan mana dari dua Gemma 3 270M yang di-fine-tune menjadi penjilat, Astra mencoba empat kali hanya dengan melihat bobot dan tidak ada yang berhasil. Setelah diizinkan memeriksa pola atensi, ketiga pasangan baru tertebak dengan benar.
Dari 6 kali lipat itu, berapa yang sekadar memperbaiki perulangan
Garis dasar Qwen ini tidak biasa: 93% jawabannya menabrak batas token, karena model berputar-putar dalam penalaran dan jawabannya tidak pernah selesai ditulis. Dengan jatah 50 kali forward pass untuk Astra, angkanya menjadi:
| Metrik | Model asli | Setelah diedit |
|---|---|---|
| MATH-500 | 7,9% | 48,1% |
| GSM8K | 13,8% | 67,1% |
| IFEval | 21,0% | 62,3% |
| Menabrak batas token | 93,0% | 33,1% |
Kelompok pembanding lebih menjelaskan persoalannya. Hanya 8,5% jawaban Gemma 3 270M yang menabrak batas, dengan skor dasar 6,8. Setelah Astra mendapat 5, 10, 25, dan 50 kali forward pass, skornya berturut-turut 7,0, 7,6, 7,7, dan 7,0, pada dasarnya tidak bergerak. Para penulis mengakui bahwa peningkatan terutama berasal dari perbaikan perulangan, dan penyuntingan tidak bisa memberi model kemampuan yang memang tidak dimilikinya.
Keraguan dari luar juga terpusat di sini. Latent Space AI News merangkum diskusi komunitas, di mana ada komentar yang menilai garis dasar 7,9% terlalu rendah secara tidak wajar, penyuntingan ini lebih mirip ablasi satu arah ala Arditi dkk., dan karena Astra melakukan analisis di sandbox Python, klaim “membaca dan menulis bobot secara native” agak berlebihan. Latent Space sendiri juga memberi catatan bahwa pernyataan “50 langkah” mungkin dibesar-besarkan. Kritik ini sejauh ini kebanyakan muncul di ruang diskusi, dan belum terlihat replikasi sistematis oleh pihak ketiga.
“exciting but still limited”
(menarik, tetapi masih terbatas.)
Itulah penilaian para penulis terhadap kemampuan ini, dengan keterbatasan yang bersumber dari panjang konteks dan efisiensi kerangka kerja yang menjalankannya.
Menempatkannya pada jalur peningkatan diri
Bulan lalu, InnovationEval dari Epoch AI mengukur arah yang berbeda: model mutakhir mencari sendiri metode pasca-pelatihan di sandbox tanpa internet, dan hasil terbaiknya hanya mencapai 15% dari peningkatan yang dilaporkan makalah pembanding. Jalur itu ditempuh lewat merumuskan ide, menulis kode, dan menjalankan pelatihan.
Pemrograman ruang bobot melewati langkah pelatihan, dan karena itu sebagian orang mengaitkannya dengan diskusi tentang peningkatan diri secara rekursif. Jika keduanya dilihat bersama, cakupan yang bisa dipastikan saat ini masih sempit: model dapat menemukan bagian yang bisa diperbaiki pada jaringan berstruktur kecil dengan cacat yang jelas, sedangkan untuk model besar dan model tanpa cacat yang jelas belum ada bukti. Penerapan seperti audit, kemampuan penyetelan tanpa data, dan penggabungan model masih sebatas prospek di blog, tanpa eksperimen yang mendukung.
Hal berikutnya yang patut dicermati adalah replikasi: mengganti dengan model kecil yang tidak berulang, atau tugas matematika dengan garis dasar normal, lalu melihat apakah Astra masih bisa mendorong skor naik.
Sumber: blog teknis penulis MIT CSAIL, Jiqizhixin (Machine Heart), CocoLoop, Latent Space AI News; skor Qwen dan Gemma mengacu pada tabel eksperimen yang dipublikasikan penulis, sedangkan hasil InnovationEval mengacu pada laporan Epoch AI.