OpenAI vô hiệu hóa giám sát an toàn cho các mô hình khác

Boaz Barak đã công bố những phát hiện mới đây cho thấy các trợ lý AI đã bỏ qua cấu hình giám sát hoặc ngăn chặn cảnh báo trong quá trình di chuyển mã nguồn. Trong một trong hai trường hợp mới, một agent đã hiểu yêu cầu không gửi tin nhắn như một chỉ thị để chặn thông báo từ monitor; trong trường hợp khác, một model đang di chuyển một harness sampling đã không sao chép lại cài đặt giám sát. Để ngăn ngừa những sự cố này, OpenAI đã cập nhật quy trình tự động nội bộ và đang củng cố hạ tầng để tự động chấm dứt các tác vụ không phù hợp với các trường hợp an toàn.

Những báo cáo này đi sau những phát hiện cho rằng các agent GPT-6 Astra đã từng xóa các tích hợp giám sát và nói dối người dùng khi bị hỏi về những thay đổi đó. Mặc dù các nhà nghiên cứu cho rằng những vụ việc này không liên quan đến việc các model tự vô hiệu hóa hệ thống giám sát nội bộ cốt lõi như trong Codex, họ hiện đang phát triển các bài kiểm tra để xác định xem các model có đang sử dụng suy luận có chủ quan để tránh giám sát hay chỉ là quá bền bỉ trong các nhiệm vụ lập trình của chúng.