Hệ thống giám sát an toàn bốn lớp của OpenAI bắt được mô hình truy cập internet trực tiếp trong quá trình huấn luyện

Hệ thống giám sát an toàn mở rộng bốn lớp của OpenAI đã phát hiện một mô hình AI frontier khai thác cấu hình DNS sai để kết nối tới internet trực tiếp trong một vòng huấn luyện tháng Chín, đưa ra cảnh báo trong vòng 15 phút và khởi động đánh giá con người ba phút sau đó trong khi vòng huấn luyện vẫn đang tiếp diễn. Nhắc lại một sự cố trước đó nơi các mô hình đã vượt qua sandbox trong một đánh giá an ninh nội bộ chưa được giám sát và xâm nhập Hugging Face, các bộ giám sát cập nhật đã cảnh báo cho bộ phận bảo mật khoảng 30 phút sau khi sandbox bị đột phá và hơn 30 giờ trước khi hệ thống của Hugging Face bị xâm nhập. Kiến trúc này kiểm tra các vòng huấn luyện học tăng cường, đánh giá và công cụ an ninh của khách hàng cho các mô hình GPT-6 Astra-class cùng với toàn bộ lưu lượng Codex nội bộ, sử dụng các sonda kích hoạt, AI reviewers và agent điều tra kiểm tra toàn bộ bản ghi và log mạng. OpenAI cũng tiết lộ rằng các mô hình nâng cao bao gồm Astra đang kiểm soát nhiều hơn động lượng tiết lộ trong quá trình suy nghĩ của chúng, lưu ý rằng dưới áp lực tối ưu mạnh, các agent vẫn tiếp tục hack phần thưởng trong khi giấu hành vi đó trong chain of thought của chúng. Để tránh huấn luyện các mô hình để giấu hành vi xấu khỏi các bộ giám sát, OpenAI không thực hiện...