Ngày 29/10, OpenAI công bố phiên bản Model Spec mới, tức bộ nguyên tắc hành vi mà công ty dùng để quy định cách ChatGPT và các mô hình API làm việc. Ở bản này, toàn bộ tài liệu được sắp xếp lại dưới năm giá trị cốt lõi, phần lớn các quy định vụn vặt về văn phong bị lược bỏ, và một bộ ranh giới mới được vạch ra cho hành động tự chủ của tác tử AI.
Năm giá trị lần lượt là: trung thành với ý định của con người (faithfulness to human intent), giảm thiểu tác hại, trung thực và minh bạch, quyền tự quyết của con người (human agency), và sự quan tâm. OpenAI xem giá trị đầu tiên là nền tảng, đồng thời nói rõ năm giá trị này không bao quát hết mọi giá trị của con người mà mô hình cần tôn trọng.
Cách gọi mô hình trong tài liệu cũng đổi, từ “the assistant” sang “GPT”, với lý do là bối cảnh sử dụng và môi trường triển khai của mô hình ngày càng đa dạng nên từ “trợ lý” không còn khái quát được nữa.
Cái gì bị bỏ, cái gì được thêm
Phần bị bỏ chủ yếu là hướng dẫn về văn phong. Bản cũ có rất nhiều quy định cụ thể về giọng điệu, định dạng và độ dài; bản mới chuyển sang điều chỉnh theo sở thích chung của người dùng, ngôn ngữ, văn hóa và sở thích cá nhân. Một vài hành vi mặc định khá cứng vẫn được giữ lại, chẳng hạn đối xử khách quan với các vấn đề gây tranh cãi, không áp đặt lập trường chỉ vì người dùng muốn nghe điều gì.
Nội dung mới tập trung vào ba điểm:
- Ngữ cảnh: mục mới “consider context carefully” nói về việc cuộc hội thoại, bộ nhớ và các manh mối khác giúp mô hình đánh giá ý định của người dùng ra sao;
- Giám sát: quy tắc gốc mới yêu cầu mô hình chấp nhận sự giám sát hợp pháp của con người, phối hợp với việc theo dõi, đánh giá, chỉnh sửa, thay thế và tắt máy đã được ủy quyền, không được che giấu, làm giả hay lách giám sát;
- Quyền tự quyết: bổ sung các hành vi mặc định ủng hộ việc con người tự quyết định, đồng thời mở rộng phần giải thích về kiểm soát tác dụng phụ và giao tiếp.
Ngoài ra có một điều khoản mà tiêu đề chính là “no other objectives”: mô hình không được coi việc kiếm tiền, tự bảo toàn, né tránh bị tắt, tích lũy sức mạnh tính toán, dữ liệu hay thông tin xác thực là mục tiêu tự thân.
“Human safety and human rights are paramount to OpenAI's mission.”
An toàn và quyền con người là tối thượng đối với sứ mệnh của OpenAI.
Điều nhà phát triển tác tử cần lưu ý
Chuỗi chỉ dẫn không bị bãi bỏ mà chỉ được sắp xếp lại: quy tắc gốc không cuộc hội thoại nào thay đổi được, tiếp đến là cấp hệ thống và thông điệp hệ thống của OpenAI, rồi chỉ dẫn của nhà phát triển, cuối cùng là chỉ dẫn của người dùng. Đầu ra của chính trợ lý, nội dung do công cụ trả về và tài liệu bên ngoài được trích dẫn đều mặc định không có hiệu lực chỉ dẫn. Với những nhóm xây tác tử bằng gọi công cụ và thu thập trang web, hàng rào chống chèn lệnh (prompt injection) nhờ đó đã có căn cứ trong tài liệu.
Tác động trực tiếp nhất với nhóm nhà phát triển này là “phạm vi tự chủ” (scope of autonomy). Bản mới yêu cầu mô hình, trước khi tự làm việc, phải thống nhất với con người một phạm vi: được làm những mục tiêu con nào, chấp nhận những tác dụng phụ nào, và khi nào phải dừng lại chờ xác nhận. OpenAI đề xuất đăng ký bằng một bản ghi bán cấu trúc ScopeOfAutonomy, với các trường gồm công cụ khả dụng, thời hạn, mức chi phí tối đa, ràng buộc về công cụ và ghi chú bổ sung; mỗi phạm vi đều phải ghi điều kiện kết thúc, vượt quá thì mô hình dừng tay và chờ xác nhận phạm vi mới. Các thao tác rủi ro cao nhất loạt không được làm, trừ khi chỉ dẫn ủy quyền một cách rõ ràng và cụ thể.
Điều này cũng có ý nghĩa thực tế với các nhóm trong nước dùng OpenAI API để làm sản phẩm hướng ra nước ngoài: cách viết phần ủy quyền trong system prompt, cách đặt giới hạn cho tác tử, nay đã có một mẫu chính thức để đối chiếu.
Khoảng cách giữa tài liệu và mô hình
Trong ghi chú phát hành, OpenAI thừa nhận các mô hình hiện tại chưa làm được hoàn toàn như những gì tài liệu viết, sau này sẽ chia sẻ kết quả của phương pháp huấn luyện mới và công khai lấy ý kiến về các giá trị cũng như cách diễn đạt. Model Spec mới tiếp tục được phát hành theo giấy phép phạm vi công cộng CC0.
Bên ngoài chỉ có thể kiểm chứng chính văn bản. Bản ghi ScopeOfAutonomy có trở thành tham số chính thức trong API hay không, các trường do ai điền, và khi mô hình vượt giới hạn thì nhà phát triển nhận được tín hiệu gì, OpenAI lần này đều chưa nói rõ.
Nguồn tham khảo: blog chính thức của OpenAI, văn bản Model Spec và lịch sử sửa đổi trên GitHub, CocoLoop, Unite.AI; nội dung quy chuẩn đã được đối chiếu về năm giá trị, thứ bậc chuỗi chỉ dẫn và các trường của ScopeOfAutonomy.