Research02.10.2026 · 11:001 nguồn
Dấu vết bộ nhớ phân phối đuôi nặng ở các language agent tầm nhìn dài
Từ arxiv.org
Các language agent tầm nhìn dài ngày càng phụ thuộc vào bộ nhớ ngoài như một world model bị đóng băng, thế nhưng các hệ thống bộ nhớ hiện tại thường chỉ được đánh giá dựa trên mức độ thành công của tác vụ hoặc chi phí token. Chúng tôi lập luận rằng đối tượng bị thiếu là hình dạng của việc sử dụng bộ nhớ: dưới ngữ cảnh hữu hạn và việc truy xuất lặp đi lặp lại, bộ nhớ của agent có thể tập trung vào một lõi nhỏ trong khi để lại các trạng thái hiếm hoi ở một đuôi dài nơi các lỗi dự đoán tích tụ. Chúng tôi nghiên cứu hiệu ứng này thông qua một cuộc kiểm toán đuôi thận trọng và thấy rằng sự tập trung có thể tái tạo nhưng phụ thuộc vào chính sách. Các agent đi bộ ngẫu nhiên tạo ra các hiện vật truy xuất tương thích với phân phối log-normal, trong khi các chính sách LLM ngữ nghĩa mang lại lõi và dấu vết đuôi tương thích với định luật lũy thừa bị cắt cụt mạnh nhất. Bắt nguồn từ cuộc kiểm toán này, chúng tôi đề xuất CTWM, một bộ điều khiển bộ nhớ dựa trên thứ hạng nhằm phân bổ ngân sách prompt với một số mũ duy nhất $\tau$ đồng thời giữ lại một phần đuôi được tóm tắt. Trên Synthetic Graph World, CTWM duy trì độ bao phủ đầy đủ về trạng thái và chuyển đổi, giảm token prompt 5,9%, và làm giảm sai số dự đoán ở nửa dưới phần đuôi 13,6% so với đường cơ sở bộ nhớ đồ thị. Phép so sánh theo cặp tương tự mang lại khoản tiết kiệm token nhất quán trên ALFWorld
Nguồn
Lịch sử nội dung (10)
- 2026-10-04 · Tóm tắt · vi · Thay nội dung đã lưuNghiên cứu tìm hiểu về hiện tượng dấu vết bộ nhớ đuôi nặng xuất hiện trong các language a…Các language agent tầm nhìn dài ngày càng phụ thuộc vào bộ nhớ ngoài như một world model …
- 2026-10-04 · Tiêu đề · vi · Thay nội dung đã lưuDấu vết bộ nhớ đuôi nặng trong các language agent có tầm nhìn dàiDấu vết bộ nhớ phân phối đuôi nặng ở các language agent tầm nhìn dài
- 2026-10-04 · Tóm tắt · vi · Thay nội dung đã lưuNghiên cứu về các dấu vết bộ nhớ heavy-tailed trong các language agent hoạt động trong tầ…Nghiên cứu tìm hiểu về hiện tượng dấu vết bộ nhớ đuôi nặng xuất hiện trong các language a…
- 2026-10-04 · Tiêu đề · vi · Thay nội dung đã lưuDấu vết bộ nhớ đuôi nặng trong các language agent tầm nhìn xaDấu vết bộ nhớ đuôi nặng trong các language agent có tầm nhìn dài
- 2026-10-04 · Tóm tắt · vi · Thay nội dung đã lưuNghiên cứu tìm hiểu về hiện tượng dấu vết bộ nhớ đuôi nặng xuất hiện trong các language a…Nghiên cứu về các dấu vết bộ nhớ heavy-tailed trong các language agent hoạt động trong tầ…
- 2026-10-04 · Tiêu đề · vi · Thay nội dung đã lưuDấu vết bộ nhớ đuôi nặng trong các language agent có tầm nhìn dàiDấu vết bộ nhớ đuôi nặng trong các language agent tầm nhìn xa
- 2026-10-04 · Tóm tắt · vi · Thay nội dung đã lưuNghiên cứu phân tích các dấu vết bộ nhớ có đặc tính phân phối nặng trong các agent ngôn n…Nghiên cứu tìm hiểu về hiện tượng dấu vết bộ nhớ đuôi nặng xuất hiện trong các language a…
- 2026-10-04 · Tiêu đề · vi · Thay nội dung đã lưuDấu vết bộ nhớ dạng phân phối nặng trong agent ngôn ngữ dài hạnDấu vết bộ nhớ đuôi nặng trong các language agent có tầm nhìn dài
- 2026-10-04 · Tóm tắt · vi · Thay nội dung đã lưuNghiên cứu mới chỉ ra rằng các bản ghi nhớ dài hạn trong agent ngôn ngữ tạo ra dấu nhớ dạ…Nghiên cứu phân tích các dấu vết bộ nhớ có đặc tính phân phối nặng trong các agent ngôn n…
- 2026-10-04 · Tiêu đề · vi · Thay nội dung đã lưuDấu nhớ dạng phân phối dài trong agent ngôn ngữ dài hạnDấu vết bộ nhớ dạng phân phối nặng trong agent ngôn ngữ dài hạn
Bản tin mỗi sáng
Tin quan trọng nhất trong ngày. Miễn phí, hủy bất cứ lúc nào.
Telegram @aihomnay