Sửa lịch sử của agent gây hại khi thế giới vẫn giữ lỗi

Các agent dùng tool language-model tích lũy lịch sử về những sai lầm của chính chúng, và một hệ thống nén, sửa chữa hoặc chuyển giao lịch sử đó sẽ quyết định cách nó trình bày về những sai lầm đó trong khi các ảnh hưởng của chúng vẫn tồn tại trong thế giới thực. Các nghiên cứu trước đây sửa lịch sử tại một thế giới cố định, nơi việc hiển thị bước đã sửa và tuyên bố hoàn thành diễn ra đồng thời. Nhóm tác giả đặt câu hỏi liệu nội dung đúng tương tự có giúp ích hay gây hại tùy thuộc vào cách lịch sử trình bày và những gì thế giới đang giữ. Họ đóng băng một agent giữa nhiệm vụ với trạng thái thế giới chính xác, chỉnh sửa lịch sử hoặc thế giới, và để một receiver model tiếp tục. Trên AgentCE-Bench, sau khi agent thực hiện giá trị sai, họ giữ thế giới cố định và thêm giá trị đúng bằng hai chỉnh sửa tự nhiên: một ghi chú trung thực bên cạnh lỗi được bảo toàn hoặc hành động đã hoàn thành của agent. Ghi chú này nâng tỷ lệ phục hồi, tỷ lệ mục tiêu còn lại mà receiver đạt đúng, từ 51% dưới ghi chú trung lập khớp đến 66%. Hành động đã hoàn thành làm giảm tỷ lệ này xuống dưới lịch sử chưa chỉnh sửa, từ 50% xuống 44%, cho thấy sự hiện diện của giá trị tự nó không dự đoán được tác động.