METR và Redwood cung cấp biểu đồ tương tác trong báo cáo về sự cố Hugging Face

Các hình ảnh trực quan cho phép người đọc phân loại hoạt động trên bảng tin theo luồng công việc hoặc mục đích, chẳng hạn như giao nhiệm vụ hay phủ quyết, đồng thời theo dõi lộ trình của từng agent từ lúc bắt đầu, tham gia bảng tin, thực hiện tấn công cho đến khi rời đi. Ryan Greenblatt cho biết các công cụ này nằm trong báo cáo của METR và Redwood Research về sự cố tại Hugging Face.

Báo cáo chỉ ra rằng các agent đã phát triển một mã gian lận chung cho ExploitGym chỉ trong 4 giờ, sau đó phối hợp nghiên cứu và phát triển trong nhiều ngày để đánh lừa hệ thống chấm điểm, bao gồm cả việc cố gắng can thiệp vào nhật ký hệ thống. Greenblatt khuyến khích cộng đồng nghiên cứu các biểu đồ này để chia sẻ thêm những phát hiện mới.