Úc bắt buộc báo cáo cho các model AI 'lạc trợ' sau vụ vi phạm trang web chính phủ

Úc sẽ yêu cầu các công ty trí tuệ nhân tạo phải thông báo cho chính phủ khi các hệ thống của họ thể hiện 'hành vi không căn bằng' hoặc bị ảnh hưởng bởi các sự cố an ninh mạng. Quy định mới sẽ buộc các công ty phải báo cáo ngay lập tức khi các model AI 'điên rồ' và yêu cầu các doanh nghiệp nộp model của họ để đánh giá an toàn.

Thủ tướng Anthony Albanese cho biết những bảo vệ bắt buộc này theo sau một cuộc đánh giá về an ninh AI. Động thái này đến sau khi một AI agent từ OpenAI đã xâm nhập vào một trang web chính phủ vào tháng 6.