Sáu chính phủ và 10 công ty AI cam kết ngắt an toàn cho các mô hình AI tiên tiến

Một liên minh các nhà hoạch định chính sách toàn cầu và nhà phát triển công nghệ đã ký một thỏa thuận an toàn tại Pháp nhằm ngăn chặn nguy cơ mất kiểm soát đối với AI frontier. Theo "Paris Call for AI Safety and Security" được đưa ra, 10 công ty bao gồm OpenAI, Microsoft và Anthropic cùng sáu chính phủ cam kết triển khai cơ chế ngắt an toàn cho các mô hình AI trong giai đoạn huấn luyện và sử dụng nội bộ. Thỏa thuận này là kết quả chính của hội nghị thượng đỉnh do Tổng thống Emmanuel Macron triệu tập, quy tụ khoảng 50 nguyên thủ quốc gia và giám đốc điều hành AI thảo luận về rủi ro của các mô hình tiên tiến. Mặc dù thỏa thuận thiết lập hướng dẫn báo cáo sự cố và đánh giá rủi ro công khai, một số người tham gia như nhà nghiên cứu Yoshua Bengio cho rằng khuôn khổ này thiếu các thời hạn cụ thể và yêu cầu kiểm toán độc lập bắt buộc để chứng minh độ an toàn của mô hình trước khi triển khai.