World In-Context Learning cho agentic manipulation robot

Các policy hành động được huấn luyện viết kỹ năng thao tác vào trọng số mạng, gắn bản thân những gì được học vào phân phối mà nó được học. In-context learning (ICL) tránh được sự kết nối này nhưng chưa bằng được các policy được huấn luyện, vì một bản ghi thực hiện trong một cảnh khác không mang lại phản hồi từ thế giới mà robot đang đối mặt. Nhóm tác giả nhận thấy rằng những gì một agent học được trong ngữ cảnh là mang tính ngữ nghĩa, ghi nhận các bước nhiệm vụ và vai trò đối tượng thay vì diện mạo hình ảnh, do đó kinh nghiệm thu thập ở một thế giới có thể chuyển giao sang thế giới khác. Dựa trên hiểu biết này, họ đề xuất World In-Context Learning (WICL), một phương pháp mà một model đóng băng bắt đầu từ một bản thực hành, luyện tập lại nhiệm vụ trong một thế giới như mô phỏng, và ghi phản hồi vào ngữ cảnh thay vì trọng số. Họ xây dựng RoboScript, một hạ tầng mô-đun thực hiện WICL cho manipulation agentic. Từ một bản thực hành duy nhất, RoboScript học mỗi nhiệm vụ thông qua việc luyện tập lại trong mô phỏng, đóng băng kiến thức học được dưới dạng Task Memory, và triển khai bộ nhớ đóng băng trên các cảnh mới với sự cô lập dữ liệu, bảo đảm mọi đầu vào triển khai đều khả dụng trên robot thực.