Bài viết mở đầu cho một blog chính thức của phòng thí nghiệm AI hàng đầu, nhưng không bàn về năng lực mô hình, điểm benchmark hay đánh giá, mà bàn về việc liệu nhà nước có còn cần đến người dân hay không. Ngày 20/8, OpenAI ra mắt chuyên mục mới AI Futures, do đội Strategic Futures nội bộ công ty vận hành, bài đầu tiên ký tên Dean Ball. Cuối bài có một dòng chú thích nhỏ: nội dung thể hiện quan điểm cá nhân của tác giả, không đại diện cho lập trường chính thức của OpenAI.
Câu hỏi mở đầu bài viết đặt ra là: xã hội tự do cần được thiết kế lại như thế nào để quyền cá nhân và khả năng hành động của con người vẫn tồn tại sau khi AI định hình lại kinh tế, chính phủ và xã hội.
Vì sao nhà nước cần đến người dân
Lập luận của Ball bắt đầu bằng việc tháo rời một chuỗi liên kết. Nhà nước hiện đại phụ thuộc vào công dân, thực chất là phụ thuộc vào ba thứ cụ thể: thuế đến từ lao động của con người, quân đội và cảnh sát do con người tạo thành, bộ máy hành chính vận hành nhờ con người. Nếu cả ba yếu tố này đều có thể giao cho hệ thống tự động đảm nhiệm, chuỗi liên kết sẽ lỏng đi: sản lượng kinh tế không còn chủ yếu đến từ lao động con người khiến cơ sở thuế dịch chuyển theo; vũ khí tự động và thực thi pháp luật tự động hóa làm giảm nhu cầu về binh lính, cảnh sát; các quy trình hành chính được giao cho mô hình AI xử lý.
"What happens if political power no longer requires broad human cooperation?"
Điều gì sẽ xảy ra nếu quyền lực chính trị không còn cần đến sự hợp tác rộng rãi của con người?
Cùng một logic đó có phiên bản đối xứng trên thị trường lao động. Khi mức độ phụ thuộc của doanh nghiệp vào người lao động giảm xuống, khả năng thương lượng của người lao động cũng giảm theo. Bài viết đẩy vấn đề này lên một câu hỏi gay gắt hơn: làm sao giữ được ảnh hưởng kinh tế và chính trị khi con người ngày càng trở nên ít cần thiết về mặt kinh tế.
Mỗi mắt xích trong chuỗi này đều có đối chiếu thực tế. Thu thuế tự động, hệ thống vũ khí tự động, phê duyệt hành chính do mô hình AI vận hành — tất cả hiện đều đang có những dự án thực tế được triển khai. Cách xử lý của Ball là xâu chuỗi chúng lại thành một chuỗi nhân quả, và điểm cuối của chuỗi đó là một câu hỏi trước nay hiếm khi được đưa ra bàn công khai.
Năm nguyên tắc
Trước những lo ngại này, bài viết đưa ra năm nguyên tắc:
- Cá nhân giữ quyền tự chủ đối với cách AI ảnh hưởng đến cuộc sống của mình
- Cá nhân chịu trách nhiệm về việc lạm dụng công nghệ
- Hành động tập thể cần được sử dụng một cách chừng mực, phạm vi thu hẹp
- Hỗ trợ những người chơi nhỏ để gia tăng cạnh tranh
- Con người chịu trách nhiệm cuối cùng về hướng đi của xã hội
Đi kèm còn có một khái niệm gọi là bounded legibility, có thể dịch là "khả năng truy vết có giới hạn": các hành vi AI rủi ro cao cần có thể truy ngược đến người chịu trách nhiệm cụ thể, đồng thời vẫn giữ được không gian riêng tư và ẩn danh cho người bình thường. Khi áp dụng thực tế, đây là một bài toán khó — truy vết cần lưu dấu vết, quyền riêng tư lại cần càng ít dấu vết càng tốt, hai yêu cầu kéo về hai hướng ngược nhau. Hướng giải quyết mà bài viết đưa ra là phân cấp: chỉ lưu dấu vết đối với nhóm rủi ro cao, phần còn lại vẫn giữ nguyên như cũ.
Ý tưởng kiềm chế và đối trọng được lấy trực tiếp từ triết lý lập quốc của Mỹ: thiết lập nhiều trung tâm quyền lực cạnh tranh lẫn nhau để không một chủ thể đơn lẻ nào nắm được quyền kiểm soát toàn cục. Đặt vào bối cảnh AI, điều này ám chỉ rằng mô hình, năng lực tính toán và dữ liệu không nên dồn về tay một hoặc hai công ty.
Đơn thuốc do một trong những người chơi lớn nhất kê ra
Người viết bài này, chỉ vài tháng trước còn ở trong giới hoạch định chính sách của Nhà Trắng. Ball gia nhập OpenAI vào ngày 6/7 năm nay, phụ trách Strategic Futures; trước đó ông từng là cố vấn chính sách AI trong chính quyền Trump, tham gia soạn thảo kế hoạch hành động AI của Mỹ. Ngày 19/7, Axios đưa tin một quan chức cấp cao của Lầu Năm Góc từng công khai chỉ trích đích danh ông. Bối cảnh này quyết định cách người đọc nên nhìn nhận bài viết: đây giống một bản ghi nhớ gửi đồng thời cho nhà tuyển dụng mới và các đồng nghiệp cũ, hơn là một thí nghiệm tư duy học thuật.
Ngoài nguyên tắc thứ năm, nguyên tắc thứ tư đọc lên có phần tế nhị nhất. Câu "hỗ trợ người chơi nhỏ, gia tăng cạnh tranh" lại do một trong những công ty có định giá cao nhất ngành đưa ra — bản thân điều này đã tạo ra một sự căng thẳng: OpenAI hiện đang là một biến số trong chính bài toán "tập trung quyền lực" đó. Việc đăng đơn thuốc này trên chính blog của mình cũng đồng nghĩa với việc thừa nhận rằng công ty cũng nằm trong bài toán này. Dòng miễn trừ trách nhiệm ở cuối bài cũng có thể hiểu là khoảng trống được để lại cho chính sự căng thẳng đó.
Chuyển an toàn AI từ mô hình sang cấu trúc
Trong hai năm qua, các cuộc thảo luận công khai về an toàn AI chủ yếu xoay quanh mô hình: liệu nó có bị bẻ khóa (jailbreak) không, có nói dối không, có giở trò khi bị yêu cầu tắt hay không. Bài viết này kéo góc nhìn ra xa hơn, chuyển đối tượng thảo luận sang thể chế — khi năng lực mô hình tăng lên, quyền lực sẽ được phân bổ lại như thế nào giữa nhà nước, doanh nghiệp và cá nhân.
Hai hướng rủi ro này không trùng nhau. Hướng thứ nhất giả định mô hình mất kiểm soát, hướng thứ hai giả định mô hình hoàn toàn nghe lời, rồi đặt câu hỏi nó nghe lời ai. Trong trường hợp thứ hai, bản thân công nghệ không hề gặp trục trặc gì, vấn đề nằm ở cấu trúc sử dụng nó.
Cuộc thảo luận này có một điểm rơi cụ thể: các tranh luận về quản trị AI ở nhiều quốc gia rốt cuộc thường quy về ba câu hỏi — ai giám sát, giám sát cái gì, lưu lại bao nhiêu dấu vết — trong khi việc năng lực mô hình có vượt ngưỡng hay không lại trở thành thứ yếu. Khái niệm khả năng truy vết có giới hạn, dù đặt vào bất kỳ khung thể chế nào, cũng sẽ liên tục được nhắc lại — nó chạm đến chính bài toán lựa chọn công khai giữa lưu dấu vết và quyền riêng tư, mà không quốc gia nào có thể né tránh.
Hiện tại AI Futures mới chỉ có một bài viết này, tần suất cập nhật và phạm vi chủ đề tiếp theo vẫn chưa được công bố.
Nguồn tham khảo: bài viết đầu tiên của chuyên mục AI Futures trên OpenAI, Axios, CocoLoop, các bản tin của nhiều hãng truyền thông công nghệ về chuyên mục này; nội dung năm nguyên tắc và khái niệm khả năng truy vết có giới hạn được đối chiếu theo trích dẫn công khai của bài viết gốc, thông tin về quá trình công tác của Dean Ball được so sánh với các báo cáo công khai.