Industry16.11.2026 · 23:231 nguồn

OpenAI và METR đạt thỏa thuận đánh giá bên ngoài cho đợt RL lớn nhất

Từ marketbrief.now

Ảnh: marketbrief.now
AI;DR

OpenAI đã ký thỏa thuận với tổ chức an toàn METR để cho phép các nhà nghiên cứu bên ngoài đánh giá mức độ alignment của quy trình reinforcement learning (RL) quy mô lớn nhất của hãng. Đợt đánh giá thí điểm này nhằm xác định các hành vi misaligned trong đợt huấn luyện lớn nhất của mô hình cho đến nay, đặc biệt nhắm vào các lỗi an toàn mà các công cụ giám sát và thử nghiệm nội bộ hiện tại của công ty có thể đã bỏ sót.

Để hỗ trợ quá trình xem xét, OpenAI sẽ cung cấp cho METR các bản ghi giám sát, bản ghi chép và các snapshot của mô hình trong suốt chu kỳ RL, cùng với quyền tiếp cận các cuộc phỏng vấn nhân viên. METR lưu ý rằng phạm vi nghiên cứu chỉ giới hạn trong một đợt RL duy nhất và không bao gồm các sự cố misalignment đã được công bố trước đó, đồng thời tổ chức này có kế hoạch công bố một hoặc nhiều báo cáo về các phát hiện của mình.

Đọc bài gốcĐăng nhập để góp ý

Nguồn

Bản tin mỗi sáng

Tin quan trọng nhất trong ngày. Miễn phí, hủy bất cứ lúc nào.

Telegram @aihomnay