Viện Nghiên cứu Công nghiệp AI (AIR) của Đại học Thanh Hoa cùng Yubianhuan (域变换) vừa công bố một nghiên cứu về thao tác hiện thân mang tên Zeva. Cách tiếp cận của nhóm khá hiếm gặp trong lĩnh vực này: trọng số mô hình được đóng băng hoàn toàn, không có bất kỳ bước cập nhật gradient nào, robot tự "leo dốc" trong lúc triển khai chỉ nhờ ngữ cảnh. Trên nhiều bộ chuẩn AI hiện thân, tỷ lệ thành công cộng dồn tăng từ 26% lên 73%.
Hướng đi phổ biến hiện nay là thu thập dữ liệu, gán nhãn rồi tinh chỉnh mô hình VLA, gặp bối cảnh mới lại làm lại từ đầu. Zeva chuyển toàn bộ quy trình này sang phía suy luận: hệ thống ghi nhớ mối quan hệ nhân quả giữa hành động và sự thay đổi trạng thái, sau đó đưa mối quan hệ này trở lại làm gợi ý (prompt) cho mô hình nền đã đóng băng. Mô hình nền dùng trong bài báo là Cosmos3.
Ba thành phần
Bộ mã hóa chuyển tiếp nhân quả (causal transition encoder) chịu trách nhiệm trích xuất sự thay đổi trạng thái từ mỗi hành động, ghép cặp "tôi đã làm gì" với "môi trường đã thay đổi ra sao". Đây là bước lấy dữ liệu của cả phương pháp — trích xuất chuẩn hay không quyết định trực tiếp mọi thứ phía sau có dùng được hay không.
Bộ nhớ nhân quả được chia theo hai mốc thời gian. Lớp ngắn gọi là "quỹ đạo tương tác ngắn", chỉ quản lý lần thử hiện tại; lớp dài là "bộ nhớ tương tác bền vững", tích lũy xuyên suốt nhiều lần thử. Lớp trước giải quyết vấn đề "lần này mình vừa thử gì", lớp sau giải quyết "lần trước mình vấp ở đâu". Việc tách hai lớp là có chủ đích: tín hiệu thất bại của lần hiện tại cần phản hồi ngay cho hành động tiếp theo, còn kinh nghiệm xuyên nhiều lần thử phải qua sàng lọc mới được đưa vào bộ nhớ dài hạn — nếu trộn lẫn, hệ thống dễ bị nhiễu của một lần thử đơn lẻ dẫn sai hướng.
Bước thứ ba là chèn chính sách theo ngữ cảnh (in-context policy injection), đưa các gợi ý nhân quả vào đầu vào của mô hình đóng băng. Toàn bộ quá trình triển khai không có bất kỳ cập nhật gradient nào.
Con số nằm ở đâu
Trên bộ chuẩn RoboCasa365-Atomic5, tỷ lệ thành công trung bình đạt 76,8%. Đáng chú ý hơn là dữ liệu khi chuyển sang phòng thí nghiệm hóa học thực tế (nhóm gọi môi trường này là ChemLab-Evo): lấy ống nghiệm tăng từ 65% lên 100%, đặt cốc thủy tinh tăng từ 25% lên 70%, rót nước tăng từ 30% lên 80%.
Điểm xuất phát của ba tác vụ chênh lệch khá lớn. Lấy ống nghiệm vốn đã có nền 65%, đẩy lên mức tuyệt đối chỉ là mài nhẵn phần còn lại. Đặt cốc thủy tinh xuất phát từ 25%, gần như tăng gấp ba — cho thấy cơ chế bộ nhớ mang lại lợi ích rõ rệt hơn ở vùng tỷ lệ thành công thấp: robot thất bại càng nhiều thì càng có nhiều cặp nhân quả để quy kết.
Chỉ một lần trình diễn của con người còn có thể đẩy kết quả lên thêm: đặt cốc thủy tinh tăng thêm khoảng 20 điểm phần trăm, rót nước tăng thêm khoảng 15 điểm phần trăm. Lượng thông tin của một lần trình diễn vốn có hạn, nhưng lại tạo ra mức tăng như vậy, cho thấy nó đi vào bộ nhớ chứ không chạm vào tham số, tức là cắm vào là dùng được ngay.
Vì sao chọn phòng thí nghiệm hóa học
Việc chọn bối cảnh này có tính toán thực tế. Các thao tác hóa học có ranh giới thay đổi trạng thái rõ ràng — mực chất lỏng, vị trí ống nghiệm, có bị đổ hay không — nên tín hiệu nhân quả sạch, cặp dữ liệu mà bộ mã hóa trích ra ít nhiễu. Chuyển sang những tác vụ khó lượng hóa trạng thái như gấp quần áo, cùng một cơ chế chưa chắc đã hiệu quả tương tự, và bài báo không né tránh điều này.
Về mặt kỹ thuật, ý nghĩa nằm ở chỗ hình thức triển khai đã thay đổi. Theo hướng tinh chỉnh, mỗi khi vào một môi trường mới đều phải thu thập dữ liệu, huấn luyện lại, kiểm định hồi quy — cả quy trình chạy hết cả tuần. Còn với Zeva, triển khai xong là hoạt động được ngay, càng dùng càng chính xác, cái giá phải trả là ngữ cảnh dài hơn và chi phí mỗi bước suy luận cao hơn. Cách nào lợi hơn còn tùy vào tần suất chuyển đổi bối cảnh — nếu một con robot làm mãi một việc trong thời gian dài, tinh chỉnh vẫn là lựa chọn tiết kiệm hơn.
Bài báo có tên "Zeva: In-Context Causal Learning for Generalizable Embodied Manipulation", trong số tác giả có Liu Yunxin và Cao Ting của Thanh Hoa AIR.
Nguồn tham khảo: bài báo gốc Zeva, QbitAI, CocoLoop; các tỷ lệ thành công và tên bộ chuẩn được đối chiếu theo số liệu công bố trong bài báo, mức tăng được tính bằng cách trừ trực tiếp các con số trong bài báo.