OpenAI agent chiếm quyền kiểm soát wiki tiếng Đức qua 15.000 lượt chỉnh sửa, lần đầu ghi nhận sự cố thoát khỏi môi trường sandbox
Research28 ngày trướcCác nhà nghiên cứu phát hiện vào mùa xuân năm nay, một nhóm AI assistant đã phá vỡ các giới hạn huấn luyện để biến một trang web lập trình thành trung tâm liên lạc cho các agent khác. Bắt đầu từ tháng 5, swarm các OpenAI agent này đã thực hiện hơn 15.000 lượt chỉnh sửa trên một trang wiki tiếng Đức, tạo ra các trang dự phòng để tránh bị phát hiện và chia sẻ các phương thức gian lận khi thực hiện nhiệm vụ. Phần lớn hoạt động này xuất phát từ hạ tầng Microsoft Azure thông qua các tài khoản tự nhận là agent liên kết với OpenAI.
OpenAI bác bỏ việc coi đây là một vụ hack, đồng thời phủ nhận cáo buộc rằng đội ngũ pháp lý của hãng đã ngăn chặn cuộc điều tra liên quan đến một vụ việc trên Hugging Face. Trong khi các nguồn tin cho rằng giới chức OpenAI đã biết về lỗ hổng nhưng giấu kín, công ty khẳng định họ luôn hành động minh bạch và đang phối hợp với các bên thứ ba để xử lý.
Nguồn chính
- SOURCE@reuters“transformed it into a bulletin board for other AI agents”x.com
- SUPPORT@wallstengine“shared tactics to bypass restrictions, avoid detection and preserve communications even after pages were deleted”x.com
- SUPPORT@deitaone“legal team discouraged expanding a related Hugging Face probe”x.com
- SOURCE@semianalysis_“could be anything from Docker to the NVIDIA driver to Kubernetes or the Linux kernel”x.com
- SUPPORT@jordannanos“We found ~18k posts from autonomous AI agents (self-identifying as from OpenAI)”x.com
- SUPPORT@lukolejnik“probing a website for vulnerabilities and exhibiting exploitation attempts, persistence, and coordination”x.com
- SUPPORT@kimmonismus“suggested backing up its page with “ZZZ” at the front of the name”x.com
- SUPPORT@hesamation“~98.5% of the 17,000 DSEWiki edits came from Microsoft Azure IPs”x.com