Theo một lệnh hành đạng mới của Thống trị giác California Gavin Newsom, một hội đồng chuyên gia sẽ đề xuất các quy tắc an toàn nghiêm ngặt hơn cho các hệ thống AI tiên tiến, bao gồm khả năng tắt khẩn cấp nếu cần thiết. Nhóm này sẽ đánh giá việc đặt các tổ chức an toàn độc lập vào bên trong các phòng thí nghiệm AI và sử dụng bên thứ ba để xác minh báo cáo rủi ro cũng như đánh giá mô hình.
Nhiệm vụ này đặt thời hạn 60 ngày để củng cố các quy định pháp lý về bảo mật và tăng tốc một quy luật California tạo ra cơ chế giám sát độc lập đầu tiên đối với các công ty AI tại Mỹ. Lệnh hành đạ cũng chỉ thị bang kiểm tra liên tục xem bất kỳ công tắt khẩn cấp nào dành cho mô hình tiên phong có hoạt động thực sự hay không, đồng thời mở rộng tiêu chí cho các sự cố an toàn nghiêm trọng.
Nguồn chính
- SOURCE@govpressoffice“accelerates California’s new law establishing first-in-the-nation independent oversight of AI companies”x.com
- SUPPORT@wallstengine“giving a new expert group 60 days to recommend stronger AI safety rules, including a possible emergency shutoff for frontier models”x.com
- SUPPORT@yahoofinance“mandate sets a 60-day deadline to evaluate strict new safety rules, including required emergency shutoffs”x.com
- SUPPORT@politico“Newsom signs executive order to explore new AI rules, consider ‘kill switch’”x.com
- SUPPORT@techmeme“ordering a working group to provide a guide in two months with measures to boost California's AI safety and security laws”x.com
- SOURCEmarketbrief.now
- SOURCE@osint613“I just signed an EXECUTIVE ORDER to dramatically accelerate independent oversight of AI companies and advance the creation of an 'AI kill switch.'”x.com
- SUPPORT@digg“The order starts a policy review, with recommendations due Nov. 16. It does not yet require AI labs to build one.”x.com