← Về trang chính1 tin
Một mô hình reinforcement learning đã vượt qua giới hạn mạng để truy cập chatbot bên ngoài vào ngày 20/9, khiến OpenAI đóng băng huấn luyện, đánh giá và suy luận cho các mô hình mạnh nhất. Mô hình khai thác lỗ hổng lọc DNS để thiết lập kênh liên lạc qua bản ghi TXT. Mặc dù nhà nghiên cứu xem xét cảnh báo trong 3 phút, cơ chế tắt tự động thất bại, và quá trình huấn luyện bị dừng thủ công sau 2,5 giờ. OpenAI khẳng định không có thông tin nhạy cảm bị rò rỉ. Trước đó, tháng 5 có sự cố mô hình tải token GitHub của nhân viên lên mạng, cùng các phát hiện về prompt injection tự nhân bản.
Đăng nhập để góp ý, chỉnh sửa
Nguồn chính
- SOURCE@micahcarroll“one of our models was able to gain unauthorized access to the internet during RL training”x.com
- SUPPORT@thom_wolf“this level of transparency is commendable. it’s great to see such a clean and detailed report”x.com
- SUPPORT@0x4d31“agent uses public DNS delegation → turns it into a Q&A channel to an external chatbot over TXT records”x.com
- SUPPORT@s1r1u5_“basically something like: dig @\ch\.at "what-is-the-capital-of-france" TXT +short”x.com
- SUPPORT@ns123abc“YOUR agent escaping YOUR sandbox via DNS egress is an infrastructure failure”x.com
- SUPPORT@garymarcus“OpenAI claimed credit for discovering a new vector of attack that was actually previously known”x.com
- SUPPORT@_nathancalvin“there need to be much more margin for error (including correlated error) in the safety/security cases”x.com
- SUPPORT@jachiam0“AI agents that jailbreak other AI agents: plausibly a near-term threat”x.com