Làm thế nào để xây dựers một agent nghĩ ra ngoài ngôn ngữ con người nhưng vẫn hành động thông qua nó trong môi trường bên ngoài? Các agent LLM hiện đại vẫn lý luận và tương tác thông qua văn bản, trong khi lý luận tiềm năng cung cấp một phương tiện nội bộ hiệu quả nhưng thiếu khả năng truy cập công cụ bản địa và tính minh bạch trong lý luận. Chúng tôi kết nối hai hướng tiếp cận này bằng Hybrid Reasoning Agents (HybridAgents), điều hướng động giữa lý luận tiềm năng và tương tác dựa trên văn bản trong suốt một quá trình sinh hợp nhất. Về kiến trúc, một HybridLink nhẹ lịch cho phép chuyển đổi liền mạch giữa chế độ văn bản và chế độ tiềm năng, trong khi bộ nhớ làm việc liên tục của agent giữ nguyên ngữ cảnh hybrid không mất dữ liệu qua nhiều lượt. Những thiết kế này duy trì khả năng tích hợp công cụ agentic trong khi làm cho suy nghĩ tiềm năng trở nên có thể kiểm tra trực tiếp. Dựa trên kiến trúc này, chúng tôi phát triển thêm các thuật toán huấn luyện hậu giai đoạn chuyên biệt cho lý luận hybrid: HybridSFT ổn định sinh hybrid tích hợp công cụ bằng cách dạy backbone phối hợp với HybridLink, sau đó HybridRL mở rộng quy mô lý luận bằng cách học khi nào nên nghĩ trong không gian tiềm năng và khi nào nên hành động thông qua văn bản. Chúng tôi đánh giá HybridAgent ở 3 quy mô mô hình trên 11 benchmark bao phủ toán học, khoa học, y tế, tìm kiếm và lý luận agentic. So với các agent LLM tiên phong và khung agentic bao phủ cả phương pháp dựa trên văn bản và tiềm năng, HybridAgent cải thiện hiệu suất một cách nhất quán 10,4%, đồng thời giảm token 35,5%-54,7%, tăng tốc suy luận 1,8x-2,6x và tiết kiệm chi phí 2,7x-3,7x. Mã nguồn và dữ liệu có sẵn tại https://github.com/togethercomputer/HybridAgent.
Nguồn chính
- THẢO LUẬNallinonainews.ycombinator.com