Research01.10.2026 · 11:001 nguồn
TomasuLLM: Thực thi suy đoán ngoài thứ tự cho LLM agent
Từ arxiv.org
Các công cụ chạy lâu có thể chiếm phần lớn độ trễ của coding-agent: trình biên dịch, bộ kiểm thử và lệnh kho lưu trữ mất từ vài giây đến vài phút trong khi agent đứng chờ. Tình trạng đình trệ này phản ánh đúng bài toán từng thúc đẩy các bộ xử lý thực thi ngoài thứ tự — giao diện phi tuần tự che giấu công việc có thể dự đoán và bắt đầu sớm, nhưng kết quả suy đoán chỉ hiển thị sau khi nó và mọi bước trước đó được xác thực. Nhóm nghiên cứu giới thiệu TomasuLLM, một runtime thực thi các lệnh gọi công cụ của agent ngoài thứ tự quỹ đạo nhưng vẫn đảm bảo tính chính xác của việc thực thi tác vụ. Nó phác thảo các hành động tương lai, chạy chúng trong các sandbox copy-on-write cô lập, theo dõi sự phụ thuộc cùng hiệu ứng của chúng, rồi commit kết quả theo đúng thứ tự quỹ đạo chỉ sau khi xác thực với trạng thái đã commit. Qua ba benchmark trải dài từ các lệnh gọi công cụ dưới một giây đến cấp phút, TomasuLLM cải thiện các giá trị trung bình trên benchmark và mở rộng quy mô theo độ trễ công cụ: gấp 1,31 lần trên 100 tác vụ SWE-bench Verified, gấp 1,35 lần trên 28 tác vụ Terminal-Bench 2.0 và gấp 1,27 lần tiến độ tương đương trên 18 phiên SWE-Marathon. Trên 4.010 bản ghi xác thực commit được kiểm toán, hệ thống tạo ra số lượng chấp nhận sai bằng không.
Nguồn
Lịch sử nội dung (5)
- 2026-10-04 · Tóm tắt · vi · Thay nội dung đã lưuTomasuLLM giới thiệu phương pháp thực thi suy đoán không theo thứ tự nhằm tối ưu hóa hiệu…Các công cụ chạy lâu có thể chiếm phần lớn độ trễ của coding-agent: trình biên dịch, bộ k…
- 2026-10-04 · Tiêu đề · vi · Thay nội dung đã lưuTomasuLLM: Thực thi suy đoán không theo thứ tự cho LLM agentTomasuLLM: Thực thi suy đoán ngoài thứ tự cho LLM agent
- 2026-10-04 · Tóm tắt · vi · Thay nội dung đã lưuNghiên cứu TomasuLLM đề xuất kỹ thuật thực thi dự đoán ngoài thứ tự áp dụng cho các agent…TomasuLLM giới thiệu phương pháp thực thi suy đoán không theo thứ tự nhằm tối ưu hóa hiệu…
- 2026-10-04 · Tiêu đề · vi · Thay nội dung đã lưuTomasuLLM: Thực thi dự đoán ngoài thứ tự cho các agent LLMTomasuLLM: Thực thi suy đoán không theo thứ tự cho LLM agent
- 2026-10-04 · Tóm tắt · vi · Sửa câu chữNghiên cứu TomasuLLM đề xuất kỹ thuật thực thi dự đoán ngoài thứ tự (out-of-order specula…Nghiên cứu TomasuLLM đề xuất kỹ thuật thực thi dự đoán ngoài thứ tự áp dụng cho các agent…
Bản tin mỗi sáng
Tin quan trọng nhất trong ngày. Miễn phí, hủy bất cứ lúc nào.
Telegram @aihomnay