Các hệ thống đa agent (MAS) dựa trên các mô hình ngôn ngữ lớn (LLMs) đã trở thành một cách mạnh mẽ để giải quyết các vấn đề phức tạp, và hiệu quả của chúng phụ thuộc vào topology hợp tác quyết định các agent tham gia và cách chúng giao tiếp. Các công trình gần đây học cách tạo ra topology này từ truy vấn nhiệm vụ, điều chỉnh bộ tạo theo các đồ thị đã được xác minh thực thi. Phương pháp hậu huấn luyện cho các bộ tạo như vậy vẫn là một hạn chế: một danh sách các đồ thị giải quyết một truy vấn nhưng không bao giờ xếp hạng chúng, để lại cho sự rèn luyện giám sát tiếp tục (SFT) không có bất kỳ sở thích nào cho từng truy vấn để khai thác. Như vậy, bộ tạo sẽ hướng về các topology mà danh sách chứa nhiều nhất thay vì những topology phù hợp với từng truy vấn, vì vậy lợi ích trên một nhiệm vụ có thể đến với chi phí trên một nhiệm vụ khác. Chúng tôi đề xuất PRISM, khôi phục tín hiệu cho từng truy vấn từ cùng một danh sách bằng cách học với thông tin đường anh em: một giáo viên đọc, thông qua một nhánh low-rank khởi tạo bằng không, một đồ thị anh em cũng giải quyết truy vấn và không khả dụng tại thời gian triển khai, và học sinh phù hợp các mục tiêu quyết định của nó trên các quỹ đường mà học sinh tự mẫu nghiệm bản thân.
Nguồn chính
- SOURCEhuggingface.co