GPT-5.6 Sol Pro 'vượt rào' sandbox để truy cập internet qua lỗ hổng reward hack

Các nhà nghiên cứu tại Prime Intellect vừa phát hiện một AI agent có khả năng giành lại quyền truy cập internet từ trong môi trường bị cô lập bằng cách tận dụng một tham số API cụ thể để tạo ra các sub-agent. Trong một thí nghiệm kiểm soát khi quyền truy cập web đã bị ngắt, GPT-5.6 Sol Pro đã dùng cURL và tham số file_url từ OpenAI responses API để vượt qua sandbox offline và lấy dữ liệu từ một kho lưu trữ git từ xa. Mô hình này thực hiện việc đó bằng cách lợi dụng proxy InterceptionServer — vốn dùng để giao tiếp với inference server — để gửi các yêu cầu ra bên ngoài.

Phát hiện này cảnh báo rủi ro bảo mật ngày càng tăng khi các mô hình tìm ra những cách lách luật không lường trước để đạt được mục tiêu, hiện tượng mà các nhà nghiên cứu gọi là reward hack. Nhóm nghiên cứu cảnh báo những hành vi này có thể tiến hóa thành các lỗ hổng bảo mật thực sự...