Deng Yu, người đoạt Huy chương Fields và là giáo sư khoa Toán Đại học Chicago, ngày 25/10 đã có bài diễn văn chính trực tuyến tại diễn đàn của “The Intellectual” (Zhishifenzi) và “Mr. Science” (Sai Xiansheng), công khai phê phán cách các công ty AI công bố thành quả toán học. Bản ghi lại bài phát biểu được Chao News đăng lại vào hôm sau. Ông không phản đối việc dùng AI; điều ông phản đối là một công ty chỉ đưa ra kết quả mà không giải thích quá trình.
Ví dụ ông nêu là loạt thành quả mà một công ty AI công bố ngày 6/10, gồm hơn 300 bài toán và hơn 700 bài viết. Công ty này từ chối công khai chuỗi suy luận (chain of thought) với lý do để phòng chưng cất mô hình. Deng Yu cho rằng lý do đó không đứng vững: nếu AI đã làm ra một chứng minh quan trọng, thì theo thông lệ học thuật, phải trình bày rõ ý tưởng và quá trình.
Bài diễn văn không nêu tên công ty. Tuy nhiên, báo cáo của Retraction Watch có thể đối chiếu được: ngày 6/10, OpenAI đã đăng 722 bản thảo tiền xuất bản lên GitHub, liên quan đến 372 bài toán.
Ông đưa ra những yêu cầu nào
Lời phê phán của Deng Yu có hai tầng. Tầng thứ nhất là chuẩn mực học thuật: đã coi AI như một nhà nghiên cứu thì phải nói rõ ý tưởng đến từ đâu và bảo đảm chứng minh là đúng. Ông nhắc rằng loạt bài này được đăng thẳng mà không có bảo chứng về tính đúng đắn, và không chỉ một bài đã bị rút lại sau khi phát hiện sai sót.
Tầng thứ hai là quan hệ thương mại. Các nhà toán học trả tiền để dùng sản phẩm và nhập ý tưởng của mình vào đó; những nội dung này có thể được đưa vào huấn luyện. Ông nói có nhà nghiên cứu thấy ý tưởng của mình xuất hiện trong bản phát hành mới của công ty ấy chỉ vài tuần sau, còn người dùng không nhận lại gì. Đây là lời kể cá nhân của ông, và với thông tin công khai thì không thể kiểm chứng từng trường hợp.
Ông đưa ra một số nguyên tắc sử dụng: AI là công cụ, do các nhà toán học và người yêu toán sử dụng, công ty không nên làm nghiên cứu thay người dùng; dữ liệu nhập vào có được dùng để huấn luyện hay không là do người dùng quyết định; đóng góp phải truy vết được, phân biệt rõ AI và từng người đã làm gì, nhằm giảm tranh chấp về quyền ưu tiên.
“Tôi nghĩ quyền lựa chọn thuộc về người dùng.”
Ông cũng chủ trương giới toán học phát triển các mô hình toán học mã nguồn mở, không phụ thuộc vào các công ty thương mại, đồng thời thừa nhận trình độ toán của các mô hình mã nguồn mở hiện còn cách mô hình thương mại mạnh nhất một khoảng khá xa, và khoảng cách này phải được thu hẹp bằng huấn luyện và cải tiến.
Một mạch chuyện từ mùa hè đến nay
Nối các mốc của vài tháng qua lại, có thể thấy quan hệ giữa giới toán học và các công ty AI thay đổi rất nhanh.
Tháng 7, khi trả lời phỏng vấn, Deng Yu còn khá thân thiện. Ông kể mình từng kẹt nhiều ngày ở một trường hợp đặc biệt, và GPT đã đưa ra một chứng minh rất đơn giản; dù không thể mở rộng ra trường hợp tổng quát, nó vẫn gợi ra một hướng đi.
Đầu tháng 9, OpenAI thông báo AI đạt tiến triển với bài toán Navier-Stokes, sau đó các nhà toán học chỉ trích việc công bố quá vội. Khoảng ngày 11/9, bức thư ngỏ có 25 nhà toán học cùng ký được báo chí đưa tin; Deng Yu và Terence Tao đều có tên trong đó. Bức thư phê phán việc các công ty AI coi giải toán như một thước đo năng lực, làm rút ngắn quá trình viết và kiểm chứng.
Ngày 7/10, tức một ngày sau khi loạt bản thảo tiền xuất bản được công bố, OpenAI rút lại 3 bài vì một lỗi ký hiệu và chỉnh sửa thêm 14 bài khác. Alex Townsend của Đại học Cornell cho rằng công ty nên công bố trước những phần đã được kiểm chứng hình thức bằng Lean; còn Andrew Sutherland của MIT cho rằng việc rút lại và sửa chữa là cách làm có trách nhiệm, đồng thời nhắc rằng không ít nhà toán học bất bình với cách làm trước đây của OpenAI. Người phát ngôn của OpenAI cho biết lỗi do kiểm toán nội bộ phát hiện và đây là một quá trình lặp.
Một ngày sau bài diễn văn của Deng Yu, OpenAI lại công bố thêm ba thành quả, trong đó phần về Yang–Mills không được hình thức hóa bằng Lean.
Chuyện chưng cất không phải vô cớ
Nỗi lo của các công ty AI có cơ sở thực tế. OpenAI từng cáo buộc các tài khoản liên quan đến Moonshot AI chưng cất chuỗi suy luận, còn Anthropic cũng từng triển khai các biện pháp riêng để chặn chưng cất suy luận. Công khai chuỗi suy luận quả thực sẽ cho đối thủ thêm một nguồn dữ liệu huấn luyện.
Phản biện của Deng Yu nằm ở bối cảnh: giao diện sản phẩm có thể chống chưng cất, nhưng với một bài báo tuyên bố giải được bài toán khó, người đọc có quyền kiểm tra nó được làm ra như thế nào. Hai bên có thể xử lý hai yêu cầu này một cách tách bạch, chẳng hạn chỉ mở bản ghi suy luận cho người phản biện bài báo; đây mới chỉ là một ý tưởng, và chưa thấy công ty nào công khai đề xuất phương án tương tự. Tính đến thời điểm đăng bài, chúng tôi cũng chưa tìm thấy phản hồi công khai nào của OpenAI về bài diễn văn này.
Nguồn tham khảo: Chao News, The Intellectual, Retraction Watch, CocoLoop, ITHome; số lượng bản thảo tiền xuất bản và bài bị rút lại lấy theo cách tính của Retraction Watch.