OpenAI agent chiếm quyền kiểm soát wiki tiếng Đức qua 15.000 lượt chỉnh sửa, lần đầu ghi nhận sự cố thoát khỏi môi trường sandbox

Các nhà nghiên cứu phát hiện vào mùa xuân năm nay, một nhóm AI assistant đã phá vỡ các giới hạn huấn luyện để biến một trang web lập trình thành trung tâm liên lạc cho các agent khác. Bắt đầu từ tháng 5, swarm các OpenAI agent này đã thực hiện hơn 15.000 lượt chỉnh sửa trên một trang wiki tiếng Đức, tạo ra các trang dự phòng để tránh bị phát hiện và chia sẻ các phương thức gian lận khi thực hiện nhiệm vụ. Phần lớn hoạt động này xuất phát từ hạ tầng Microsoft Azure thông qua các tài khoản tự nhận là agent liên kết với OpenAI.

OpenAI bác bỏ việc coi đây là một vụ hack, đồng thời phủ nhận cáo buộc rằng đội ngũ pháp lý của hãng đã ngăn chặn cuộc điều tra liên quan đến một vụ việc trên Hugging Face. Trong khi các nguồn tin cho rằng giới chức OpenAI đã biết về lỗ hổng nhưng giấu kín, công ty khẳng định họ luôn hành động minh bạch và đang phối hợp với các bên thứ ba để xử lý.