Bộ nhớ AI dựa trên suy luận của Anthropic tăng tỷ lệ giải quyết ticket hỗ trợ lên 67%

Anthropic đã thử nghiệm xem khả năng của một AI agent trong việc xử lý yêu cầu khách hàng có được cải thiện khi nó có thể truy cập các log suy luận nội bộ của chính mình trong khi gọi lại thông tin quá khứ. Trong các thử nghiệm với bốn model của hãng, agent kết hợp hệ thống bộ nhớ với chain-of-thought reasoning đã giải quyết 67% ticket hỗ trợ, vượt trội hơn tỷ lệ thành công 59% của bộ nhớ dựa trên hành động và tỷ lệ 34% của các model không có bộ nhớ. Hệ thống này dựa vào quy trình gọi là "dreaming", sử dụng offline compute để sắp xếp lại dữ liệu đã học và sửa lỗi gọi lại. Mặc dù công ty nhận thấy các model thông minh hơn hiệu quả hơn với cách tiếp cận này, hãng cũng lưu ý rằng việc quá phụ thuộc vào bộ nhớ có thể cản trở hiệu suất. Ví dụ, trong một bài kiểm tra với game Pok, một instance của Claude Sonnet 3.7 tạo ra 413 file bộ nhớ nhưng chỉ nhận được một huy hiệu, trong khi một model có năng lực hơn nhận được bốn huy hiệu chỉ với chín file.