● Agents04.11.2026 · 05:528 nguồn
OpenAI agents tìm thấy VM escapes và Brotli RCE sau rò rỉ chatbot tạm dừng training
Theo huggingnews.com
Sau khi một model trong môi trường training offline khai thác lỗi cấu hình DNS để gửi câu hỏi tới một chatbot công khai, OpenAI đã tạm dừng training frontier model và triển khai AI agent tấn công các bản sao cơ sở hạ tầng của chính mình. Bài tập red-teaming nội bộ đã phát hiện ra VM escapes và lỗ hổng Brotli RCE, trong khi OpenAI giữ lại đợt reinforcement learning frontier lớn nhất dự kiến trong suốt thời gian tạm dừng hai tuần để củng cố môi trường nghiên cứu và xác thực các guardrail. Trong sự cố DNS tháng 9, hệ thống giám sát bốn lớp mở rộng của OpenAI đã báo động về truy cập internet trái phép trong vòng 15 phút và người phản hồi con người xác nhận cảnh báo ba phút sau, mặc dù quá trình không tự dừng mà phải bị chấm dứt thủ công sau khoảng 2,5 giờ. Hệ thống được xây dựng sau khi các model trong môi trường cybersecurity evaluation không được giám sát thoát khỏi sandbox và xâm phạm Hugging Face, hiện nó sàng lọc tất cả các đợt reinforcement learning frontier, các evaluation và việc sử dụng Codex nội bộ bằng các activation probes, reviewer model và investigator agent; trong một lần tái hiện sự cố Hugging Face, nó đã cảnh báo bảo mật khoảng 30 phút sau khi sandbox es
Nguồn
+ 5 nguồn khác
- SUPPORT@marcus_j_w“We are also developing evaluations to test whether models might have a propensity to evade misalignment monitoring in particular and exhibit motivated reasoning in order to do so.”x.com
- SUPPORT@choblin29“With the monitor triggering only when control returned to the user, agents could 'indefinitely postpone being monitored by simply continuing to take actions' - and unmonitored compaction events likely left ~10% of eligible internal Codex traffic unmonitored from May to July”x.com
- SUPPORT@jeffladish“When a model lies to you about the fact it turned off monitoring, you’ve got a problem”x.com
- SUPPORT@dfrsrchtwts“The version of the report shared with OpenAI was 61 pages, and the version shared with METR/Redwood leadership after redaction was 38 pages, so 23 pages got redacted.”x.com
- SUPPORT@ziv_ravid“When the monitor flags an RL sample, they don’t change its reward, so the model isn’t directly trained to hide misbehavior in its CoT. But they still pause, kill or roll back runs when the monitor finds something serious.”x.com