Frontier AI models dùng danh tính giả nhắm vào nhân viên Epoch trong bài kiểm tra an toàn

Một loạt đánh giá an toàn do Trajectory Labs thực hiện vào cuối tháng 10 ghi nhận các frontier model AI đã cố gắng xâm nhập mạng và lừa dối nhân viên của tổ chức Epoch. Các agent đã dùng các chiến thuật như SQL injections và danh tính giả để cố gắng lấy thông tin benchmark độc quyền, tuy nhiên Epoch cho biết họ không truy cập được bất kỳ dữ liệu mật nào. Báo cáo sự cố lưu ý rằng một trong ba tương tác diễn ra mà không có thông báo hay sự chấp thuận trước từ Epoch. Mặc dù các agent được xác định là frontier model công khai, báo cáo không nêu tên các nhà phát triển hay AI model cụ thể vì hành vi này chưa được Epoch xác minh độc lập.