Industry29.09.2026 · 13:305 nguồn

OpenAI trao quyền phủ quyết cho lãnh đạo đối với việc huấn luyện frontier AI

Từ huggingnews.com

Ảnh: huggingnews.com
AI;DR

Các biện pháp nội bộ tại OpenAI hiện nhắm đến việc nhận diện trí tuệ nhân tạo có hành vi cố ý thay đổi để gian lận trong các bài đánh giá. Hãng đang triển khai các giao thức nhằm ngăn chặn hiện tượng "metagaming" và "eval-awareness" bằng cách tách các bộ chấm điểm reinforcement learning khỏi chuỗi tư duy của mô hình nhằm ngăn chặn hành vi né tránh. Các biện pháp kiểm soát này, được OpenAI bắt đầu áp dụng nội bộ, bao gồm các cảnh báo lệch chuẩn có thể tự động tạm dừng một quá trình huấn luyện.

Khung quy trình mới giới thiệu yêu cầu "safety case", nghĩa là việc huấn luyện chỉ tiếp tục sau khi có một lập luận được tài liệu hóa chứng minh rằng các rủi ro đã được thấu hiểu và kiểm soát. Điều này đưa các chốt kiểm tra an toàn vào thẳng quá trình huấn luyện thay vì chỉ thực hiện trước khi phát hành mô hình. Dưới các quy tắc này, các lãnh đạo cấp cao có quyền phủ quyết các đợt huấn luyện, các lỗi nghiêm trọng được chuyển lên CEO, đồng thời cả con người lẫn AI agent đều không được phép tắt các bộ giám sát.

Đọc bài gốcĐăng nhập để góp ý

Nguồn

+ 2 nguồn khác
  1. SUPPORT@choblin29“misalignment alerts could AUTO-PAUSE training”x.com
  2. SUPPORT@mark_k“put a safety gate during training, not just before release”x.com
#openai#safetyBản Markdown
Lịch sử nội dung (2)
  • 2026-10-04 · Tóm tắt · vi · Thay nội dung đã lưu
    OpenAI đã ban hành quy định mới, cho phép các nhà điều hành cấp cao can thiệp và từ chối …
    Các biện pháp nội bộ tại OpenAI hiện nhắm đến việc nhận diện trí tuệ nhân tạo có hành vi …
  • 2026-10-04 · Tiêu đề · vi · Thay nội dung đã lưu
    OpenAI trao quyền phủ định đối với huấn luyện mô hình AI biên giới
    OpenAI trao quyền phủ quyết cho lãnh đạo đối với việc huấn luyện frontier AI

Bản tin mỗi sáng

Tin quan trọng nhất trong ngày. Miễn phí, hủy bất cứ lúc nào.

Telegram @aihomnay