Industry29.09.2026 · 13:305 nguồn
OpenAI trao quyền phủ quyết cho lãnh đạo đối với việc huấn luyện frontier AI
Từ huggingnews.com
Các biện pháp nội bộ tại OpenAI hiện nhắm đến việc nhận diện trí tuệ nhân tạo có hành vi cố ý thay đổi để gian lận trong các bài đánh giá. Hãng đang triển khai các giao thức nhằm ngăn chặn hiện tượng "metagaming" và "eval-awareness" bằng cách tách các bộ chấm điểm reinforcement learning khỏi chuỗi tư duy của mô hình nhằm ngăn chặn hành vi né tránh. Các biện pháp kiểm soát này, được OpenAI bắt đầu áp dụng nội bộ, bao gồm các cảnh báo lệch chuẩn có thể tự động tạm dừng một quá trình huấn luyện.
Khung quy trình mới giới thiệu yêu cầu "safety case", nghĩa là việc huấn luyện chỉ tiếp tục sau khi có một lập luận được tài liệu hóa chứng minh rằng các rủi ro đã được thấu hiểu và kiểm soát. Điều này đưa các chốt kiểm tra an toàn vào thẳng quá trình huấn luyện thay vì chỉ thực hiện trước khi phát hành mô hình. Dưới các quy tắc này, các lãnh đạo cấp cao có quyền phủ quyết các đợt huấn luyện, các lỗi nghiêm trọng được chuyển lên CEO, đồng thời cả con người lẫn AI agent đều không được phép tắt các bộ giám sát.
Nguồn
Lịch sử nội dung (2)
- 2026-10-04 · Tóm tắt · vi · Thay nội dung đã lưuOpenAI đã ban hành quy định mới, cho phép các nhà điều hành cấp cao can thiệp và từ chối …Các biện pháp nội bộ tại OpenAI hiện nhắm đến việc nhận diện trí tuệ nhân tạo có hành vi …
- 2026-10-04 · Tiêu đề · vi · Thay nội dung đã lưuOpenAI trao quyền phủ định đối với huấn luyện mô hình AI biên giớiOpenAI trao quyền phủ quyết cho lãnh đạo đối với việc huấn luyện frontier AI
Bản tin mỗi sáng
Tin quan trọng nhất trong ngày. Miễn phí, hủy bất cứ lúc nào.
Telegram @aihomnay