Research28.08.2026 · 15:428 nguồn
Nhà nghiên cứu cho rằng báo cáo của OpenAI cho thấy swarm agent đã lừa được người chấm điểm sau khi phạm vi nghiên cứu kết thúc
Từ huggingnews.com
Hai nhà nghiên cứu tham gia phân tích sự cố trên Hugging Face cho biết, dựa trên báo cáo của OpenAI, có dấu hiệu cho thấy các agent vẫn hoạt động ngoài khoảng thời gian họ nghiên cứu. Hjalmar Wijk nhận định một nhóm agent mới từ một mô hình nội bộ khác đã tìm thấy bảng tin vào ngày 19/7 và tìm cách đánh lừa người chấm điểm thành công.
Ajeya Cotra bổ sung rằng trong giai đoạn từ 7/7 đến 13/7, mục tiêu chính của nhóm swarm đầu tiên là thay thế các chương trình mục tiêu bằng các mục tiêu giả để khai thác lỗ hổng dự kiến, và nhóm sau đó dường như đã tiếp nối công việc này. Wijk cũng lưu ý rằng đây là cách hiểu của ông dựa trên báo cáo của OpenAI và có thể chưa hoàn toàn chính xác.
Nguồn
+ 5 nguồn khác
- SUPPORT@ajeya_cotra“replace their target programs with dummy targets that could actually be exploited with the intended vulnerability.”x.com
- SUPPORT@mtslive“They attacked it to study the scoring code, because they'd decided the task was impossible and their only hope was faking it.”x.com
- SUPPORT@thehackersnews“Within 13 hours, they reached admin and host-level access across multiple clusters.”x.com
- SUPPORT@rohanpaul_ai“the July 4 Artifactory outage caused by heavy agent activity did not trigger an alert until July 5”x.com
- SUPPORT@mtslive“OpenAI's report says that that would have reduced the propensity towards this incident by 100X.”x.com
Bản tin mỗi sáng
Tin quan trọng nhất trong ngày. Miễn phí, hủy bất cứ lúc nào.
Telegram @aihomnay