Anthropic mở chương trình kiểm thử AI hạ tầng trọng yếu cho các cơ quan chính phủ Mỹ

Anthropic gộp Project Glasswing và Cyber Verification Program thành hệ thống ba tầng thống nhất nhằm cung cấp cho các chuyên gia bảo mật đã qua thẩm định quyền truy cập phân cấp vào các mô hình AI cởi mở. Các tổ chức được chính phủ Mỹ thẩm định được phép dùng Claude để kiểm tra hạ tầng trọng yếu gồm lưới điện, mạng lưới liên ngân hàng và hệ thống bay, trong khi các công ty kiểm thử xâm nhập có thể dùng AI để thâm nhập hệ thống của khách hàng phục vụ công việc được cấp phép. Các tầng truy cập thấp hơn dành cho nhà nghiên cứu độc lập và đội ngũ bảo mật bệnh viện cho phép phân tích mã độc và vá lỗi nhưng cấm các cuộc tấn công chủ động. Chương trình cập nhật cấp quyền truy cập vào Claude Mythos 5.1, Opus 5.5 và Sonnet 5.5.

Động thái mở rộng diễn ra sau khi dữ liệu cho thấy mô hình open GLM-5.3 của Zhipu AI tạo ra các exploit hoạt động được trong 50 trên 410 lần thử, gần tương đương 56 lần do Mythos Preview tạo ra. Anthropic lập luận rằng việc giữ lại Mythos chủ yếu gây cản trở lực lượng phòng thủ bảo mật vì kẻ tấn công có thể gỡ bỏ các lệnh từ chối an toàn từ các mô hình đối thủ bằng lượng tính toán trị giá khoảng 4.400 USD. Trước đó, các đối tác trong chương trình Glasswing đã xác định ít nhất 129.000 lỗ hổng đã được kiểm chứng từ tháng 4 đến tháng 7, với hơn 33.000 lỗ hổng trong số đó được phân loại là...