Navalia: Tiến bộ Cowork Agents thông qua tổng hợp nhiệm vụ có thể xác minh và huấn luyện hậu kỳ dài

Các agent của mô hình ngôn ngữ lớn (LLM) đang phát triển từ trợ lý trò chuyện thành các Cowork Agents có khả năng lập kế hoạch tự động, sử dụng công cụ và thực thi nhiệm vụ phức tạp. Phân tích tài chính đòi hỏi các agent này phải tích hợp bằng chứng liên tài liệu và thực hiện lý luận số nhiều bước, nhưng việc soạn thảo nhiệm vụ chuyên gia tốn kém, trong khi việc tổng hợp trực tiếp của LLM gặp khó khăn trong việc tạo ra các nhiệm vụ thách thức với câu trả lời đáng tin cậy. Chúng tôi giới thiệu Navalia, một khung cho các Cowork Agents kết hợp tổng hợp nhiệm vụ có thể xác minh với huấn luyện hậu kỳ dài. Sử dụng báo cáo tài chính doanh nghiệp như nguồn dữ liệu, Navalia chọn lọc bằng chứng hỗ trợ từ các tập hợp sự kiện hoàn chỉnh và xây dựng các chuỗi tính toán có thể thực thi để tạo ra các nhiệm vụ phân tích với bằng chứng có thể truy xuất và phụ thuộc dữ liệu thực sự giữa các bước. Chúng tôi cũng sử dụng đánh giá độc lập bởi LLM và kiểm tra lập trình để xác minh tính nhất quán của bằng chứng và độ chính xác của câu trả lời. Các nhiệm vụ đã xác minh sau đó được sử dụng cho thu thập quỹ đạo, fine-tune giám sát khởi đầu lạnh (SFT) và học tăng cường (RL) để cải thiện thực thi nhiệm vụ dài.