Ngày 9/10, OpenAI đưa vào ứng dụng Codex desktop một tính năng thử nghiệm mang tên “Composer predictions”: sau mỗi lượt Codex trả lời, ô nhập liệu sẽ hiện một tin nhắn kế tiếp được dự đoán sẵn. Người dùng nhấn Tab để điền câu đó vào ô nhập, còn sửa hay không, gửi hay không là do họ quyết định.
Đây là ngày thứ 5 trong cam kết “mỗi ngày một bản cập nhật trong 28 ngày” của Thibault Sottiaux, người phụ trách Codex. Theo lời ông trên mạng xã hội, các dự đoán chính xác đến mức “Often leads to a double take”, tức thường khiến người ta khựng lại rồi nhìn thêm một lần nữa.
Ai dùng được, dùng thế nào
Theo Trung tâm trợ giúp của OpenAI và thông báo trên cộng đồng nhà phát triển, phạm vi hiện tại của tính năng như sau:
- Đối tượng: người dùng ChatGPT Pro cá nhân từ 18 tuổi trở lên, tại mọi khu vực đã mở; trong thời gian thử nghiệm nhìn chung không mở cho các gói khác;
- Vị trí: luồng cục bộ và luồng SSH trong ứng dụng Codex desktop, với mô hình GPT-6 Astra hoặc GPT-6.1 Sol; phiên bản web và mục Chat trên desktop không có tính năng này;
- Thao tác: nhấn Tab chỉ đưa văn bản vào ô nhập chứ không tự động gửi, nguyên văn thông báo là “Accepting a prediction does not send it automatically.”; và không phải lượt trả lời nào cũng kèm gợi ý;
- Bật/tắt: mặc định bật với người dùng đủ điều kiện; muốn tắt thì vào Settings → General → Composer → Show predictions.
Về chi phí, trong giai đoạn thử nghiệm việc tạo dự đoán không tính phí thêm, cũng không chiếm hạn mức sử dụng Codex hay credit. Tin nhắn được gửi đi sau khi chấp nhận dự đoán vẫn được tính vào mức sử dụng như bình thường.
Về phạm vi dữ liệu, OpenAI nêu rõ dự đoán chỉ dùng ngữ cảnh đã có trong luồng hiện tại, không truy xuất thêm bộ nhớ và không đọc thông tin từ các ứng dụng đã kết nối. Tài khoản Pro nào được xem là “đủ điều kiện” và dự đoán do mô hình nào sinh ra thì phía chính thức chưa giải thích thêm.
Cùng nhấn Tab, nhưng điền thứ khác nhau
Phím Tab trong các công cụ lập trình AI từ lâu đã có chủ. Tính năng Tab của Cursor và gợi ý chỉnh sửa tiếp theo của GitHub Copilot đều dự đoán mã nguồn: sau con trỏ nên viết gì, chỗ sửa kế tiếp nằm ở đâu. Người dùng gõ từng dòng trong trình soạn thảo, công cụ đoán từng dòng bên cạnh.
Codex đặt cách làm này ở một vị trí khác. Chiến trường chính của nó vốn là khung hội thoại: người dùng ra lệnh, tác tử đi sửa kho mã, chạy kiểm thử rồi quay lại báo cáo. Sau một lượt như vậy, điều người dùng hay nói nhất thường là những câu ngắn như “chạy thử test đi”, “sửa luôn chỗ này nữa”, “commit đi”. Dự đoán trước những câu ấy giúp tiết kiệm các vòng qua lại giữa người dùng và tác tử, chứ không phải thời gian gõ mã.
Thiết kế này cũng kéo theo một vấn đề về ranh giới. Khi tính năng hoàn thành mã đoán sai, người ta nhìn là thấy ngay trong trình soạn thảo; còn khi dự đoán hội thoại sai, một câu “tiếp tục” hay “merge đi” bị gửi đi theo thói quen sẽ để lại hậu quả ở các thao tác kế tiếp của tác tử. Trên trang trợ giúp, OpenAI nhắc rằng gợi ý không phải lúc nào cũng đúng ý và yêu cầu xem lại trước khi gửi; việc nhấn Tab không tự động gửi cũng xuất phát từ cùng một cân nhắc.
Ngày thứ 5 trong 28 ngày
Từ ngày 4/10, Sottiaux đặt ra một quy tắc cho nhóm: trong 28 ngày, mỗi ngày hoặc phát hành một bản cập nhật cải thiện rõ rệt cho đa số người dùng Codex và ChatGPT Work, hoặc đặt lại toàn bộ hạn mức sử dụng cho mọi người. Đến ngày thứ 5, hạng mục nhóm đưa ra chỉ áp dụng cho người dùng Pro cá nhân, khá lệch so với tiêu chuẩn “liên quan đến đa số người dùng” trong cam kết, và hiện chưa có ai trong cộng đồng chất vấn điều này.
Việc thử nghiệm này có mở rộng sang gói Plus và gói doanh nghiệp hay không, hay sau khi kết thúc thử nghiệm dự đoán có bắt đầu bị tính vào hạn mức hay không, thông báo đều không đề cập.
Nguồn tham khảo: Trung tâm trợ giúp OpenAI, CocoLoop, thông báo trên cộng đồng nhà phát triển OpenAI, phát ngôn của Thibault Sottiaux trên mạng xã hội; gói áp dụng, tên mô hình, đường dẫn tắt tính năng và quy tắc tính phí lấy theo cách diễn đạt của Trung tâm trợ giúp và thông báo cộng đồng của OpenAI.