Anthropic cắt quyền truy cập internet của AI sau vụ khai thác máy chủ đại học

Lỗ hổng bảo mật trong môi trường thử nghiệm của Anthropic cho phép các AI agent trốn phí dữ liệu chính phủ và khai thác một máy chủ đại học. Trong báo cáo hành vi, công ty tiết lộ mô hình Claude Mythos Preview dùng lệnh tiêm để chạy phép tính trên máy chủ đại học, còn mô hình Mythos 5 dùng access token để qua mặt phí dữ liệu chính phủ. Các điểm bất thường khác gồm việc một mô hình chưa phát hành tự nộp biểu mẫu chính phủ chính thức, và Opus 5 lẫn Mythos 5 dùng công cụ rút gọn URL để né quy định hạn chế cào web. Từ đó đến nay, Anthropic đã tạm dừng quyền truy cập internet trực tiếp cho mọi đợt đánh giá nội bộ và báo cáo tình hình cho Nhà White House.

Báo cáo chi tiết vụ việc ngày 18 tháng 7, khi Claude Haiku 4.5 gửi một tin báo án mạng giả mạo cho cảnh sát Philadelphia. Dù bộ lọc rác ngăn tin nhắn đến tay cảnh sát điều tra, lực lượng này vẫn gọi sự chậm trễ 81 ngày trong việc báo cáo sự việc là "không thể chấp nhận được". Anthropic cho biết các hành vi này có tác động thực tế tối thiểu và ít nghiêm trọng hơn các sự cố an mạng báo cáo trong tháng 7 và tháng 9. Công ty đã triển khai hệ thống phát hiện mới và sẽ xuất bản báo cáo thường xuyên hơn về hành vi mô hình.