Research01.10.2026 · 11:001 nguồn

TomasuLLM: Thực thi suy đoán ngoài thứ tự cho LLM agent

Từ arxiv.org

AI;DR

Các công cụ chạy lâu có thể chiếm phần lớn độ trễ của coding-agent: trình biên dịch, bộ kiểm thử và lệnh kho lưu trữ mất từ vài giây đến vài phút trong khi agent đứng chờ. Tình trạng đình trệ này phản ánh đúng bài toán từng thúc đẩy các bộ xử lý thực thi ngoài thứ tự — giao diện phi tuần tự che giấu công việc có thể dự đoán và bắt đầu sớm, nhưng kết quả suy đoán chỉ hiển thị sau khi nó và mọi bước trước đó được xác thực. Nhóm nghiên cứu giới thiệu TomasuLLM, một runtime thực thi các lệnh gọi công cụ của agent ngoài thứ tự quỹ đạo nhưng vẫn đảm bảo tính chính xác của việc thực thi tác vụ. Nó phác thảo các hành động tương lai, chạy chúng trong các sandbox copy-on-write cô lập, theo dõi sự phụ thuộc cùng hiệu ứng của chúng, rồi commit kết quả theo đúng thứ tự quỹ đạo chỉ sau khi xác thực với trạng thái đã commit. Qua ba benchmark trải dài từ các lệnh gọi công cụ dưới một giây đến cấp phút, TomasuLLM cải thiện các giá trị trung bình trên benchmark và mở rộng quy mô theo độ trễ công cụ: gấp 1,31 lần trên 100 tác vụ SWE-bench Verified, gấp 1,35 lần trên 28 tác vụ Terminal-Bench 2.0 và gấp 1,27 lần tiến độ tương đương trên 18 phiên SWE-Marathon. Trên 4.010 bản ghi xác thực commit được kiểm toán, hệ thống tạo ra số lượng chấp nhận sai bằng không.

Đọc bài gốcĐăng nhập để góp ý

Nguồn

#agentBản Markdown
Lịch sử nội dung (5)
  • 2026-10-04 · Tóm tắt · vi · Thay nội dung đã lưu
    TomasuLLM giới thiệu phương pháp thực thi suy đoán không theo thứ tự nhằm tối ưu hóa hiệu…
    Các công cụ chạy lâu có thể chiếm phần lớn độ trễ của coding-agent: trình biên dịch, bộ k…
  • 2026-10-04 · Tiêu đề · vi · Thay nội dung đã lưu
    TomasuLLM: Thực thi suy đoán không theo thứ tự cho LLM agent
    TomasuLLM: Thực thi suy đoán ngoài thứ tự cho LLM agent
  • 2026-10-04 · Tóm tắt · vi · Thay nội dung đã lưu
    Nghiên cứu TomasuLLM đề xuất kỹ thuật thực thi dự đoán ngoài thứ tự áp dụng cho các agent…
    TomasuLLM giới thiệu phương pháp thực thi suy đoán không theo thứ tự nhằm tối ưu hóa hiệu…
  • 2026-10-04 · Tiêu đề · vi · Thay nội dung đã lưu
    TomasuLLM: Thực thi dự đoán ngoài thứ tự cho các agent LLM
    TomasuLLM: Thực thi suy đoán không theo thứ tự cho LLM agent
  • 2026-10-04 · Tóm tắt · vi · Sửa câu chữ
    Nghiên cứu TomasuLLM đề xuất kỹ thuật thực thi dự đoán ngoài thứ tự (out-of-order specula…
    Nghiên cứu TomasuLLM đề xuất kỹ thuật thực thi dự đoán ngoài thứ tự áp dụng cho các agent…

Bản tin mỗi sáng

Tin quan trọng nhất trong ngày. Miễn phí, hủy bất cứ lúc nào.

Telegram @aihomnay