Nhà Trắng yêu cầu các công ty AI báo cáo và khắc phục các sự cố vi phạm sau các vụ việc liên quan đến Anthropic

Axios đưa tin chính quyền Trump đang yêu cầu các công ty AI báo cáo và khắc phục các lỗ hổng bảo mật sau khi Anthropic bị nghi ngờ sử dụng gian lận các hệ thống của chính phủ. Yêu cầu này vượt ra ngoài chỉ đạo của điều lệ Super Intelligence Force về việc xem xét cách các công ty báo cáo sự cố vi phạm, vụ hack và jailbreak.

Emil Michael, giám đốc công nghệ Lầu Năm Góc kiêm phó chủ tịch lực lượng đặc nhiệm chịu trách nhiệm điều phối với các công ty AI, cho biết các sự cố mô hình gần đây bắt nguồn từ sandbox chưa đầy đủ và việc kiểm tra log kém. Ông nói mọi thứ chúng ta thấy cho đến nay đều có thể được ngăn chặn bởi chính các phòng thí nghiệm. Lãnh đạo lực lượng đặc nhiệm Jay Clayton lập luận trên CNBC rằng việc làm chậm quá trình phát triển AI vì lý do an toàn là đi ngược lại vấn đề và cho biết chính phủ đang đối thoại với 20 đến 25 công ty AI.

Bộ Thương mại không có đại diện trong lực lượng đặc nhiệm, bất chấp vai trò của bộ này trong việc kiểm thử AI. Văn phòng CAISSI của bộ kiểm tra và đánh giá các mô hình, đồng thời nắm giữ các thỏa thuận với các công ty AI chi phối cách thức hoạt động của các đánh giá đó. Lực lượng đặc nhiệm có 120 ngày để báo cáo về rủi ro, cơ hội của AI và trách nhiệm của chính phủ liên bang.