Yu Deng, peraih Medali Fields sekaligus profesor matematika di University of Chicago, menyampaikan pidato utama secara daring pada 25 Oktober dalam forum yang diselenggarakan The Intellectual dan Mr. Science. Ia secara terbuka mengkritik cara perusahaan AI merilis hasil matematika. Transkrip hasil penyuntingannya dimuat ulang keesokan harinya oleh Chao News. Ia tidak menentang penggunaan AI; yang ia tentang adalah perusahaan yang hanya menyodorkan hasil tanpa menjelaskan prosesnya.
Contoh yang ia ajukan adalah sekumpulan hasil yang diumumkan sebuah perusahaan AI pada 6 Oktober, mencakup lebih dari 300 masalah dan lebih dari 700 makalah. Perusahaan itu menolak membuka chain of thought dengan alasan mencegah distilasi. Deng menilai alasan itu tidak kuat: jika AI berhasil membuat bukti penting, kebiasaan akademik menuntut ide dan prosesnya dijelaskan.
Pidato itu tidak menyebut nama perusahaan. Laporan Retraction Watch dapat dicocokkan: pada 6 Oktober, OpenAI menerbitkan 722 preprint di GitHub yang mencakup 372 masalah matematika.
Apa saja yang diminta Deng
Kritik Deng terdiri dari dua lapisan. Lapisan pertama adalah norma akademik: jika AI diperlakukan sebagai peneliti, ia harus menjelaskan dari mana idenya berasal dan menjamin buktinya benar. Ia menyebut makalah-makalah ini dirilis tanpa jaminan kebenaran, dan lebih dari satu di antaranya sudah ditarik setelah ditemukan kesalahan.
Lapisan kedua adalah hubungan komersial. Para matematikawan membayar untuk memakai produk dan memasukkan ide mereka sendiri, dan materi itu bisa masuk ke data pelatihan. Ia mengatakan ada peneliti yang idenya muncul dalam rilis baru perusahaan itu beberapa pekan kemudian, sementara pengguna tidak mendapat imbalan apa pun. Ini adalah pernyataan pribadinya, dan dari informasi publik tidak dapat diverifikasi kasus per kasus.
Ia mengajukan beberapa prinsip penggunaan: AI adalah alat yang dipakai matematikawan dan para penggemar, dan perusahaan tidak seharusnya melakukan riset atas nama pengguna; apakah data yang dimasukkan dipakai untuk pelatihan harus diputuskan oleh pengguna; kontribusi harus dapat dilacak, sehingga jelas apa yang dikerjakan AI dan masing-masing orang, yang akan mengurangi sengketa soal prioritas.
“Menurut saya hak memilih ada di tangan pengguna.”
Ia juga menyerukan agar komunitas matematika mengembangkan model matematika open source dan tidak bergantung pada perusahaan komersial. Ia mengakui bahwa kemampuan matematika model open source saat ini masih tertinggal cukup jauh dari model komersial terkuat, dan kesenjangan itu harus dipersempit lewat pelatihan dan perbaikan.
Garis waktu dari musim panas hingga sekarang
Jika titik-titik peristiwa beberapa bulan terakhir dihubungkan, hubungan antara dunia matematika dan perusahaan AI berubah dengan cepat.
Pada Juli, dalam sebuah wawancara, sikap Deng cukup bersahabat. Ia bercerita pernah macet beberapa hari pada satu kasus khusus, lalu GPT memberikan bukti yang sangat sederhana. Bukti itu tidak bisa digeneralisasi, tetapi memberi arah berpikir.
Awal September, OpenAI mengumumkan kemajuan AI pada masalah Navier-Stokes, lalu para matematikawan mengkritik pengumuman itu terlalu tergesa-gesa. Sekitar 11 September, surat terbuka yang ditandatangani 25 matematikawan menjadi pemberitaan. Deng dan Terence Tao termasuk penandatangan. Surat itu mengkritik perusahaan AI yang menjadikan pemecahan soal sebagai tolok ukur kemampuan, sehingga proses penulisan dan verifikasi dipangkas.
Pada 7 Oktober, sehari setelah preprint itu dirilis, OpenAI menarik 3 makalah karena kesalahan notasi dan merevisi 14 lainnya. Alex Townsend dari Cornell University berpendapat perusahaan seharusnya lebih dulu merilis bagian yang sudah diverifikasi secara formal dengan Lean. Andrew Sutherland dari MIT menilai penarikan dan koreksi adalah langkah yang bertanggung jawab, sambil menyebut banyak matematikawan tidak puas dengan cara OpenAI sebelumnya. Juru bicara OpenAI mengatakan kesalahan itu ditemukan lewat audit internal dan prosesnya bersifat iteratif.
Sehari setelah pidato Deng, OpenAI mengumumkan tiga hasil lagi. Hasil terkait Yang–Mills di antaranya tidak diformalkan dengan Lean.
Kekhawatiran soal distilasi bukan tanpa dasar
Kekhawatiran perusahaan AI punya dasar fakta. OpenAI pernah menuding akun yang terkait dengan Moonshot AI melakukan distilasi rantai penalaran, dan Anthropic juga pernah meluncurkan langkah khusus untuk menutup distilasi penalaran. Membuka chain of thought memang memberi pesaing satu bahan pelatihan tambahan.
Bantahan Deng bertumpu pada konteks: antarmuka produk bisa dilindungi dari distilasi, tetapi untuk makalah yang mengklaim memecahkan masalah sulit, pembaca berhak memeriksa bagaimana hasil itu dicapai. Kedua tuntutan itu mungkin bisa ditangani secara terpisah, misalnya dengan membuka catatan penalaran hanya kepada pengulas makalah. Ini baru sebatas gagasan, dan belum terlihat perusahaan mana pun yang mengusulkan hal serupa secara terbuka. Hingga naskah ini diterbitkan, kami juga tidak menemukan tanggapan publik OpenAI atas pidato tersebut.
Sumber: Chao News, The Intellectual, Retraction Watch, CocoLoop, ITHome. Jumlah preprint dan penarikan mengikuti angka Retraction Watch.