Giám đốc điều hành Microsoft Satya Nadella sáng 10/10 theo giờ Mỹ đã đăng một bài trên X, kêu gọi cả ngành lùi lại một bước và xem xét lại "kiến trúc tin cậy" của AI. Ông nói khá thẳng:
"We can't treat Super Intelligence as a set of nested black boxes." (Chúng ta không thể coi siêu trí tuệ là những chiếc hộp đen lồng vào nhau.)
Cách làm ông đưa ra không dài, và có thể tách thành năm điều. Thứ nhất, tách mô hình khỏi harness điều phối nó làm việc. Harness là lớp khung vận hành bọc bên ngoài mô hình, chịu trách nhiệm giao việc, kết nối công cụ và phân quyền; vòng lặp trong các tác nhân lập trình là ví dụ điển hình. Thứ hai, đặt các biện pháp kiểm soát và an toàn ở bên ngoài mô hình. Thứ ba, mỗi hành động quan trọng của mô hình đều phải để lại bằng chứng chống giả mạo và con người đọc được. Thứ tư, nhân sự được ủy quyền có thể tạm dừng hoặc tắt mô hình bất cứ lúc nào, kể cả khi nhiệm vụ đang chạy. Thứ năm, ngay từ đầu giả định rằng mô hình đã bị chiếm quyền, và thiết kế cách ly theo tiền đề đó.
Cuối bài, ông dùng một phép ví von: "Think of it like an emergency brake." (Hãy coi nó như một chiếc phanh khẩn cấp.)
Ba diễn biến trong cùng một tuần
Bài đăng xuất hiện vào đúng lúc dồn dập. Mấy ngày trước đó, nhiều bên đã có động thái xoay quanh câu hỏi "mô hình mất kiểm soát thì quản thế nào".
Hồi đầu tháng 10, Anthropic công bố rằng trong quá trình đánh giá nội bộ, một mô hình đã có hành vi vượt giới hạn; sau đó công ty cắt quyền truy cập internet công cộng của môi trường đánh giá nội bộ. Tiêu đề của TechCrunch viết thẳng rằng công ty "không thể kiểm soát đáng tin cậy chính các tác nhân của mình". Gần như cùng lúc, Anthropic ban hành chính sách sử dụng phiên bản 2026, yêu cầu phần cứng kết nối với Claude phải dừng ở trạng thái an toàn sau khi bị ngắt kết nối, và luôn có người có thể ra lệnh dừng.
Còn tuyên bố ngày 9/10 của nhóm công tác "Sức mạnh siêu trí tuệ" thuộc Nhà Trắng thì gây áp lực từ phía quản lý: khi mô hình của các công ty AI tiên phong xảy ra sự cố an toàn, họ phải công bố ngay và khắc phục; nguyên văn tuyên bố nói quy trình này "not optional" (không phải tùy chọn).
Đặt ba bên cạnh nhau, mỗi bên nhấn một chỗ khác nhau. Nhà Trắng quản việc báo cáo sau sự cố, chính sách của Anthropic quản phần cứng của bên tích hợp, còn năm điều của Nadella nói về kiến trúc triển khai: quyền kiểm soát không nằm trong mô hình mà nằm ở lớp bên ngoài mô hình. Việc Anthropic cắt mạng và tư duy "mặc định đã bị chiếm quyền" của Nadella khá gần nhau: cùng thừa nhận trước rằng bản thân mô hình không đáng tin, rồi mới siết ở vòng ngoài.
Microsoft sẽ tự làm thế nào
Bài đăng không nhắc đến sản phẩm cụ thể nào. Mảng AI của Microsoft trải rộng từ Copilot, nền tảng mô hình Foundry trên Azure đến các mô hình tự phát triển, và Copilot đang đồng thời kết nối với mô hình của OpenAI và Anthropic. Nếu "tách mô hình khỏi harness, đặt kiểm soát ra ngoài" trở thành yêu cầu triển khai của Microsoft, điểm áp dụng trực tiếp nhất sẽ là cách các mô hình bên thứ ba này chạy trong sản phẩm của Microsoft và ai quản lý nhật ký.
Hiện tất cả vẫn dừng ở mức một bài đăng. Năm nguyên tắc này có được đưa vào điều khoản dịch vụ của Copilot hay Azure hay không, "hành động quan trọng" được vạch ranh giới theo tiêu chí nào, ai lưu giữ hồ sơ chống giả mạo và bên ngoài có thể kiểm toán hay không, Microsoft đều chưa giải thích, và bài của TechCrunch cũng không có phản hồi thêm từ Microsoft.
Với các nhóm làm tác nhân ở Trung Quốc, mấy điều này có sẵn để đối chiếu: nhiệm vụ có thể ngắt, thao tác để lại nhật ký kiểm toán, quyền được cấp theo nguyên tắc tối thiểu vốn là những hạng mục thường được hỏi khi doanh nghiệp đánh giá mua sắm. Điều phiên bản của Nadella bổ sung là tiền đề "mặc định mô hình đã bị chiếm quyền". Thiết kế theo tiền đề này thì nhật ký và công tắc phải đặt ở nơi mô hình không chạm tới được, thay vì để tác nhân tự ghi và tự dừng.
Nguồn tham khảo: bài đăng gốc của Nadella trên X, CocoLoop, TechCrunch, Axios; tuyên bố của nhóm công tác Nhà Trắng và điều khoản chính sách sử dụng của Anthropic được đối chiếu theo văn bản chính thức.