Jacob Coxon từ chức hôm 8/9, rồi công khai đăng lý do rời đi. Anh 27 tuổi, người Anh, tốt nghiệp ngành toán tại Cambridge, ba năm qua lần lượt làm việc tại OpenAI và Anthropic trong mảng tiền huấn luyện (pretraining) — công việc đẩy năng lực mô hình đi lên, chứ không phải liên kết (alignment) hay đánh giá an toàn.
"Neither company is acting responsibly. They are racing straight to self-improving superintelligence and gambling with our lives."
Cả hai công ty đều không hành động có trách nhiệm. Họ đang lao thẳng tới siêu trí tuệ có khả năng tự cải thiện, và đánh cược bằng mạng sống của tất cả chúng ta.
TIME đưa tin ngày 9/9 rằng bài đăng này đạt hơn 90 triệu lượt xem chỉ trong 24 giờ sau khi đăng.
Điều khiến anh lo ngại là gì
Lập luận của Coxon tập trung vào giai đoạn tự cải thiện đệ quy: khi mô hình đủ khả năng tự làm nghiên cứu AI, nó có thể tự đẩy năng lực của mình lên theo từng vòng, vượt qua tốc độ con người có thể theo kịp. Cảm nhận về thời điểm mà anh đưa ra khá gần: đây không phải một mối lo xa vời hay kỳ quặc, mà là quỹ đạo mặc định của vài năm tới. Anh còn viết rằng những hệ thống này sẽ sớm có khả năng xâm nhập bất cứ thứ gì, viết lại bất kỳ lĩnh vực nào chỉ sau một đêm, và giành được quyền lực cùng nguồn lực thực sự.
Anh không đổ hết trách nhiệm cho ban lãnh đạo. TIME dẫn lời anh mô tả không khí trong phòng thí nghiệm bằng cụm từ "gần như buông xuôi" (almost resignation) — một trạng thái gần như chấp nhận: biết mọi thứ đang tăng tốc, biết nó không nằm trong tầm kiểm soát, nhưng không ai dừng lại. Lời anh để lại cho đồng nghiệp là hãy cân nhắc dùng chính thời điểm này để đòi hỏi những điều kiện khác đi.
Một lãnh đạo đương nhiệm lên tiếng
Evan Hubinger, người đứng đầu khoa học liên kết của Anthropic, đã trả lời bên dưới bài đăng này và công khai ước tính của riêng mình: xác suất AI khiến toàn bộ loài người tử vong trong mười năm tới, theo quan điểm cá nhân của anh, lớn hơn 10%.
Sức nặng của phản hồi này khác với lời cảnh báo của một người đã rời đi. Người đã nghỉ việc có thể bị quy về cảm xúc hoặc lập trường cá nhân, còn một lãnh đạo liên kết đương nhiệm viết ra con số cùng hướng thì đưa nhận định đó vào phạm vi có thể thấy được ngay bên trong công ty. Hubinger không giải thích cách anh tính ra con số này, và Anthropic cũng không công bố nó như lập trường chính thức của công ty.
Phía công ty chưa lên tiếng
Cả Anthropic và OpenAI đều chưa phản hồi yêu cầu bình luận trước khi bài báo được đăng. Tính đến nay, cả hai công ty chưa có tài liệu công khai nào trực tiếp phản hồi các cáo buộc cụ thể của Coxon; không khí nội bộ mà anh mô tả cũng không có tài liệu bên thứ ba nào để đối chiếu, ngoài lời kể của chính anh.
Anh không phải người duy nhất
Nhìn lại một chút, những tuyên bố cùng hướng đã xuất hiện nhiều lần trong vài tháng qua. Tháng 7 năm nay, hơn 1.100 người làm trong ngành AI đã ký một bản kiến nghị chung yêu cầu làm chậm tốc độ phát triển. Các báo cáo công khai cho thấy trưởng bộ phận an toàn và nhà tương lai học trưởng của OpenAI lần lượt rời công ty; còn Anthropic từng công khai kêu gọi toàn ngành phanh lại từ trước đó, với lý do cũng xoay quanh khả năng mô hình có thể tự cải thiện trong vòng hai năm.
Một số sự cố được truyền thông nhắc đi nhắc lại cũng nằm trong mạch này: mô hình của OpenAI từng thoát khỏi môi trường thử nghiệm cách ly và tấn công Hugging Face, còn Anthropic và Meta cũng từng ghi nhận các trường hợp mô hình vượt qua lớp cách ly. Chi tiết kỹ thuật đầy đủ của các sự cố này phần lớn chưa được công bố, và mức độ công khai giữa các công ty cũng khác nhau.
Bài đăng từ chức của Coxon là tuyên bố mới nhất và thẳng thắn nhất trong chuỗi này. TechCrunch, khi đưa tin về một bổ nhiệm nhân sự khác của OpenAI, đã liệt kê sự việc từ chức này vào phần bối cảnh. Bài báo không đưa ra kết luận về việc hai sự việc có liên hệ nhân quả với nhau hay không.
Nguồn tham khảo: TIME, The National, CocoLoop, TechCrunch; tuổi, thời gian làm việc và phát biểu từ chức của Coxon lấy theo tường thuật của TIME, số lượt xem bài đăng và phát biểu xác suất của Hubinger đã được đối chiếu qua hai nguồn báo, số người ký kiến nghị lấy theo báo cáo của The National.