Khả năng của phần mềm tự động hóa có thể tự cải thiện liên tục có thể dẫn đến các hệ thống không còn có thể quản lý bởi con người, một vấn đề mà nhóm đánh giá METR dự định giải quyết. METR đã phát hành một khung cho "đánh giá nhúng" sẽ liên quan đến việc làm việc trực tiếp với các nhà phát triển AI để công khai xác định xem các agent nội bộ có đang rời xa sự giám sát con người hay không và chia sẻ bằng chứng đó công khai.
Khởi động này, được công bố vào ngày 14 và 15 tháng 10 năm 2026, tập trung vào việc ngành AI có đang trên đúng hướng để duy trì kiểm soát các hệ thống agentic hay không. Mục tiêu của METR là đảm bảo rằng những người quan sát bên ngoài có dữ liệu đáng tin cậy để xác định xem các nhà phát triển có thể duy trì độ ổn định khi các AI agent đang có nhiều khả năng tự động hóa hơn.
Nguồn chính
- SOURCEhuggingnewshuggingnews.com