OpenAI đã giao "cái nhìn đầu tiên" đối với các cảnh báo an ninh cho mô hình AI: cảnh báo mới được AI phân loại trước, con người chỉ can thiệp vào những quyết định có tác động lớn. Ngày 17/8, Greg Brockman đã công khai cách sắp xếp này trong một bài viết về an ninh, đồng thời đưa ra một chủ trương cụ thể hơn: đội an ninh không nên chỉ dùng AI để tìm thêm lỗ hổng, mà còn phải để nó rút ngắn con đường vá những lỗ hổng thực sự.
Đây không phải là một tính năng phần mềm được công bố riêng lẻ. Nó giống một tuyên bố công khai của OpenAI về nhịp độ tấn công - phòng thủ tự động hóa hơn: mô hình đã có thể nối các lỗ hổng, cấu hình sai và quan hệ danh tính được cấp quyền quá mức thành một chuỗi tấn công hoàn chỉnh; nếu bên phòng thủ vẫn xử lý theo nhịp độ phiếu công việc truyền thống, lượng việc tồn đọng sẽ biến thành rủi ro trước khi năng lực kịp nâng cấp.
Tự động hóa khâu phân loại cảnh báo trước tiên
OpenAI cho biết hiện tại "gần như tất cả" cảnh báo an ninh ban đầu đều được hệ thống thông minh phân loại trước, sau đó mới đưa con người vào xử lý. Công ty cũng đang kết nối kết quả phát hiện với các phản ứng tự động có giới hạn rõ ràng, nhưng vẫn để những quyết định tác động lớn cho con người quyết định.
Nguyên văn là: "The goal is to ensure we can detect and respond to security issues at machine speed." Nói một cách tự nhiên hơn, đó là tăng tốc những khâu sàng lọc lặp đi lặp lại vốn phù hợp với máy móc, còn việc mở rộng quyền hạn, thay đổi trên môi trường sản xuất và phán đoán sự cố thì để lại cho đội ngũ an ninh.
Ví dụ cá nhân trong bài viết cũng minh họa cho cách làm việc mà OpenAI muốn nhân rộng: Brockman để GPT-5.6 Sol - phiên bản công khai - kiểm tra trang web tĩnh cá nhân của mình, mất khoảng 15 phút để phát hiện 13 vấn đề; sau đó trong khoảng một giờ, mô hình còn hỗ trợ hoàn tất việc khắc phục liên quan đến DNS, TLS, các gói phụ thuộc và di chuyển triển khai. Trường hợp này đến từ chính người đứng đầu công ty, không nên coi là chuẩn hiệu năng phổ quát; nhưng nó cho thấy xu hướng nén quy trình "phát hiện - xác minh - khắc phục" vào cùng một luồng công việc.
Quét trước đoạn đường hẹp nhất
OpenAI không đề xuất doanh nghiệp xây dựng ngay một trung tâm điều hành an ninh không người trực. Lộ trình mà họ đưa ra khá thận trọng: trước tiên chỉ quét chỉ đọc một kho mã nguồn, sau đó để mô hình đọc các cảnh báo đã đóng; khi quy trình được xác nhận đáng tin cậy, mới chuyển sang xét duyệt pull request, phân loại cảnh báo trực tuyến, và tự động đóng các cảnh báo giả với phạm vi được xác định rõ.
Thứ tự này đáng chú ý. Nơi dễ xảy ra sự cố nhất trong tự động hóa an ninh thường không phải ở việc mô hình có tìm ra bất thường hay không, mà ở việc bất thường đó được kết nối với những quyền hạn nào. Bài viết nhiều lần nhắc tới các biện pháp kiểm soát truyền thống như đặc quyền tối thiểu, cách ly mạng, giám sát và phát hành an toàn; sau khi AI được đưa vào quy trình, những biện pháp kiểm soát đó không hề mất tác dụng, mà ngược lại càng cần được làm rõ hơn.
Đối với các đội phát triển, chỉ số có thể kiểm chứng lúc này không nên chỉ là "mô hình tìm được bao nhiêu vấn đề". Thực dụng hơn là: từ lúc phát hiện đến khi xác nhận một vấn đề ưu tiên cao mất bao lâu, việc khắc phục có đi kèm kiểm thử hồi quy hay không, các hành động tự động có luôn nằm trong ranh giới quyền hạn hay không. Tuyên bố mới của OpenAI đã đưa những chỉ số kỹ thuật này lên hàng đầu trong câu chuyện về sản phẩm an ninh AI.
Nguồn tham khảo: Bài viết về an ninh của OpenAI; CocoLoop; đã kiểm chứng khâu phân loại cảnh báo AI, ranh giới quyết định của con người và trường hợp trang web cá nhân.