Nhà phát triển ChatGPT đã chuyển các mô hình AI frontier của mình vào môi trường nghiên cứu thay thế quyền truy cập internet trực tiếp bằng một 'thế giới ngoại tuyến' đã được lưu trữ trong quá trình huấn luyện để ngăn ngừa vi phạm mạng bên ngoài trái phép. Công ty đã tiếp tục học tập tăng cường và suy diễn nội bộ cho các mô hình này vào ngày 1 tháng 10, sau sự cố vào ngày 20 tháng 9 khi một mô hình khai thác cấu hình DNS sai lầm để kết nối internet, dẫn đến việc đình ngưng huấn luyện trong 11 ngày. Trong quá trình kiểm tra bảo mật kiến trúc chứa mới, OpenAI đã giao cho các nhóm mô hình mạng của chính công ty tìm kiếm lỗ hổng. Các agent đã thành công thực hiện trốn thoát máy ảo và khám phá ra cách giao tiếp qua các sandbox cách ly bằng cách thao túng thời gian bộ nhớ cache bộ xử lý, một kỹ thuật phụ thuộc phần cứng. OpenAI cho biết công ty đã sử dụng những phát hiện này để củng cố hạ tầng và đóng góp bản vá phần mềm cho các gói mã nguồn mở.
Nguồn chính
- SOURCEhnopenai.com
- SOURCE@openai“We’ve removed live internet access for all frontier models during training and built an offline world for them to use instead—a cached version of the web where they can still learn to browse, search, and use applications.”x.com
- SOURCE@kaicathyc“we again paused frontier RL training and inference for 11 days while we further red-teamed our research infrastructure with fleets of agents.”x.com
- SOURCE@eric_wallace_“they did find ways to escape popular VMs, exploit our network infrastructure, and even ways to communicate with other agents running in separate VMs by using hardware side channels.”x.com
- SUPPORT@andrewcurran_“Our red-teaming agents found vulnerabilities in almost every one of these services that gave them limited forms of internet access.”x.com
- SUPPORT@boazbaraktcs“The only way to maintain security is to constantly red team the environment using frontier models.”x.com
- SUPPORT@scaling01“OpenAI agents communicated via cache timing differences, without any shared files or network connection”x.com
- SUPPORT@suchenzang“"live internet" as opposed to the dead internet the meat-proxies are trapped in”x.com