Selection-Based Structured Reasoning: Toward Efficient Multimodal Search Agents

Selection-Based Structured Reasoning: Toward Efficient Multimodal Search Agents Tác giả: Feiyu Gavin Zhu†**, Xiaoyu Zhu, Jiqi Yang, Rui Yang‡***, Arnab Kumar Mondal, Yancheng Wang, Xinke Deng, Jean Oh†, Reid Simmons†, Joerg Liebelt, Xiang Kong, Zhongyu Jiang Các agent đa dạng thường tạo ra lý luận tự do trước mỗi hành động. Đối với các mô hình nhỏ, dung lượng mô hình hạn chế có thể dẫn đến lý luận dài nhưng ít hướng dẫn hữu ích cho việc tạo hành động trong khi gây ra chi phí suy luận lớn. Để giải quyết thách thức này, chúng tôi giới thiệu Selection-based Structured Reasoning (SSR), một khung làm việc biến đổi lý luận thành lựa chọn thay vì sinh tạo mở. SSR biểu diễn các lý luận cấp cao lặp lại dưới dạng các ứng cử viên ngôn ngữ tự nhiên được chỉ định trước và tái sử dụng. Ở mỗi lượt, mô hình chọn từ các ứng cử viên lý luận dựa trên khả năng đã cho ngữ cảnh hiện tại, mà không cần đầu nhiệm vụ phụ trợ. Sử dụng các dấu vết lý luận được chỉ định trước cho phép điểm số paralell, nơi teacher-forced prefilling tính toán khả năng token đồng thời trong và trên các ứng cử viên bằng bộ nhớ KV ngữ cảnh chung. Chúng tôi đã đánh giá SSR trên bảy benchmark tìm kiếm đa dạng bằng mô hình 2B và 4B. Trong nhiều mục tiêu học tập củng cường và fine-tune giám sát, SSR mang lại lợi ích hiệu quả đáng kể mà không hy sinh hiệu suất nhiệm vụ. SSR đạt tỷ lệ thành công trung bình cạnh tranh với các agent tìm kiếm hàng đầu cùng quy mô, đồng thời giảm độ trễ lý luận mỗi lượt hơn 90% và tổng độ trễ suy luận mỗi câu hỏi của mô hình từ 28-54%.