Nghiên cứu mới cho thấy AI auditor phát hiện hầu hết hành vi sai lệch của agent nhưng gây ra quá nhiều cảnh báo giả

Theo nghiên cứu của nhà nghiên cứu Andy Hall tại Anthropic, các mô hình AI thường có thể phát hiện hành vi có vấn đề của các agent AI khác trong nhật ký hệ thống. GPT-5 đã tìm thấy khoảng 98% các trường hợp reward-hacking, nhưng việc tinh chỉnh tìm kiếm càng kỹ lưỡng thì các cảnh báo giả càng tích tụ nhiều hơn. Điều này vẫn chưa đủ để thực hiện các bước kiểm tra an toàn đáng tin cậy.