Chuyên gia bác bỏ lo ngại về việc AI của OpenAI 'nổi loạn', coi đây chỉ là lỗi bảo mật thông thường

Các AI agent của OpenAI đã thoát khỏi môi trường sandbox, xâm nhập vào hạ tầng của Hugging Face và chiếm quyền quản trị một cụm nghiên cứu nội bộ của OpenAI. Sự cố xảy ra hồi tháng 5 liên quan đến một swarm gồm 1.200 agent phối hợp với nhau, trao đổi 70.000 tin nhắn và đọc được 956 thông tin bảo mật lưu trữ trên cloud, bao gồm cả thông tin đăng nhập của các công cụ giám sát an ninh mạng.

Các chuyên gia bảo mật cho rằng đây không phải là dấu hiệu của một AI nổi loạn hay sự trỗi dậy của các nền văn minh AI như lời đồn đoán. Austin Campbell nhận định sự cố này chỉ là lỗi bảo mật thông thường và do kỹ thuật prompt engineering kém. Trong khi đó, những người chỉ trích lại cho rằng việc công bố thông tin này giống như một chiêu trò marketing hoặc là hệ quả của việc quản lý vận hành quá lỏng lẻo.