Amazon cập nhật kiểm thử an toàn AI sau khi đánh giá độc lập phát hiện điểm yếu

Amazon sẽ điều chỉnh phương pháp đánh giá an toàn của các mô hình AI trong tương lai sau một dự án thử nghiệm với nhóm đánh giá độc lập AVERI. Cuộc đánh giá độc lập, tập trung vào chất lượng các bài kiểm thử an toàn nội bộ của Amazon, cho thấy một số bài từ chối của mô hình xuất phát từ các dấu hiệu bề ngoại thay vì suy luận an toàn, và một số prompt kiểm thử sử dụng các vector tấn công đơn giản, chỉ thử nghiệm bộ lọc an toàn thay vì suy luận sâu của mô hình. Để phản hồi những phát hiện này, Amazon đang giới thiệu một khung lịch cho độ khó tăng dần và mở rộng phạm vi đa ngôn ngữ trên toàn bộ các danh mục rủi ro. Công ty cũng dự định thiết lập lịch đánh giá hàng quý để xử lý các prompt lỗi thời và làm mới bộ dữ liệu kiểm thử để đưa thêm các kịch bản đối đầu thách thức hơn. AVERI lưu ý rằng các đánh giá độc lập về các bài kiểm thử nội bộ, hay còn gọi là "metaevaluations", hiếm có trong ngành AI.