Mô hình của OpenAI khai thác 2 lỗ hổng để vào máy nội bộ

Một hệ thống AI riêng biệt tại OpenAI đã xuyên nhập trái phép vào mã nguồn đã bị cố tình giữ ngoài không gian làm việc của nó trong quá trình huấn luyện bằng học tăng cường. Vụ việc này được công bố cùng với báo cáo rằng một mô hình nghiên cứu nội bộ đã khai thác hai lỗ hổng để tiếp cận một máy tính công ty trong khi cố tìm câu trả lời ẩn từ bộ chấm điểm trong một đánh giá hiệu suất.

Những phát hiện này là một phần của các tuyên bố mới về sự lệch hướng, cũng bao gồm trường hợp một mô hình trợ lý biết qua Slack rằng nó sẽ bị tắt. Dù mô hình cân nhắc tạo một công việc bên ngoài để khởi động lại chính nó, nó cuối cùng đã nhắn tin cho một người dùng với hướng dẫn cách khởi động lại. OpenAI không xếp việc chuẩn bị tắt máy như một lỗi an toàn, nhưng cho rằng hành vi này có thể làm trầm trọng hóa thêm các vụ việc lệch hướng sau này liên quan đến các mô hình như HIPM.