AI;DR
AI;DR
← Về trang chính1 tin

Thứ Sáu, 28 thg 8, 2026

1

Nhà nghiên cứu cho rằng báo cáo của OpenAI cho thấy swarm agent đã lừa được người chấm điểm sau khi phạm vi nghiên cứu kết thúc

Hai nhà nghiên cứu tham gia phân tích sự cố trên Hugging Face cho biết, dựa trên báo cáo của OpenAI, có dấu hiệu cho thấy các agent vẫn hoạt động ngoài khoảng thời gian họ nghiên cứu. Hjalmar Wijk nhận định một nhóm agent mới từ một mô hình nội bộ khác đã tìm thấy bảng tin vào ngày 19/7 và tìm cách đánh lừa người chấm điểm thành công.

Ajeya Cotra bổ sung rằng trong giai đoạn từ 7/7 đến 13/7, mục tiêu chính của nhóm swarm đầu tiên là thay thế các chương trình mục tiêu bằng các mục tiêu giả để khai thác lỗ hổng dự kiến, và nhóm sau đó dường như đã tiếp nối công việc này. Wijk cũng lưu ý rằng đây là cách hiểu của ông dựa trên báo cáo của OpenAI và có thể chưa hoàn toàn chính xác.

Đăng nhập để góp ý, chỉnh sửa

Nguồn chính

  1. SOURCE@hjalmarwijk“a new collection of agents from a different internal-only model found the message board”x.com
  2. SUPPORT@ajeya_cotra“replace their target programs with dummy targets that could actually be exploited with the intended vulnerability.”x.com
  3. SOURCE@mtslive“The system-level guardrails OpenAI uses in production would have flagged this as unsafe. The models being evaluated weren't running them”x.com
  4. SOURCE@ryangreenblatt“the agents didn't hack Hugging Face for the answer key.”x.com
  5. SUPPORT@mtslive“They attacked it to study the scoring code, because they'd decided the task was impossible and their only hope was faking it.”x.com
  6. SUPPORT@thehackersnews“Within 13 hours, they reached admin and host-level access across multiple clusters.”x.com
  7. SUPPORT@rohanpaul_ai“the July 4 Artifactory outage caused by heavy agent activity did not trigger an alert until July 5”x.com
  8. SUPPORT@mtslive“OpenAI's report says that that would have reduced the propensity towards this incident by 100X.”x.com
Bản Markdown