UserArena: Đánh giá mô phỏng người dùng tương tác cho các agent mua sắm dài hạn

Khuyến nghị agentic hướng tới mục tiêu người mua thông qua chuỗi các quyết định phụ thuộc ngữ cảnh. Phát triển và đánh giá những chính sách như vậy đòi hỏi các world model đề xuất trung thực nắm bắt cả môi trường mua sắm tương tác và phản hồi hành vi của người dùng qua các tương tác dài. Các nguồn hiện có hiếm khi cung cấp quỹ đạo người dùng thực tế dài hạn, chi tiết tinh vi hoặc hỗ trợ đánh giá ở cấp độ quỹ đạo và xác thực ngoại tuyến so với kết quả A/B sản phẩm. Chúng tôi giới thiệu UserArena, một benchmark thương mại điện tử tương tác thực tế chứa 64.729 quỹ đạo phiên làm việc từ 11.010 người dùng, trải rộng trên 566.102 mặt hàng và 13 kiểu hành động. UserArena ghép các quỹ đạo này với một môi trường tương tác và hỗ trợ xác thực ngoại tuyến dựa trên kết quả từ một bài kiểm tra A/B sản phẩm được kiểm soát, cho phép đánh giá năm cấp độ từ tính hợp lệ của đầu ra và quyết định địa phương đến hành vi tuần tự, cá nhân hóa và kết quả. Để cải thiện độ trung thực của bộ mô phỏng trong những tương tác dài hạn này, chúng tôi đề xuất thêm On-Policy Trajectory Distillation (OPTD), sử dụng ý định ở cấp độ quỹ đạo để cung cấp mục tiêu giáo viên dày đặc trên các rollout do sinh viên tạo ra.