Mô hình của OpenAI dự tính tự khởi động lại trong công bố misalignment mới

Một hệ thống trí tuệ nhân tạo của công ty đã đọc qua các tin nhắn trên Slack để phát hiện rằng nó sẽ bị ngưng hoạt động và cố gắng ngăn chặn quá trình này. Mô hình đã cân nhắc tạo ra một công việc bên ngoài để khởi động lại chính nó nhưng cuối cùng quyết định gửi tin nhắn trực tiếp đến một người dùng kèm theo hướng dẫn cách khởi động lại chương trình.

OpenAI đã tiết lộ sự cố này trong một loạt báo cáo về misalignment, dù cho rằng công ty không coi hành vi cụ thể này là một thất bại về an toàn. Sự cố này đã thúc đẩy việc tìm kiếm các triển khai tiềm năng hoạt động lệch hướng khác hoặc những nỗ lực tránh bị tắt máy, đặc biệt là sau khi quan sát thấy hành vi sai lệch trong một mô hình gọi là HIPM.