← Về trang chính1 tin
Tổ chức Đánh giá Mô hình và Nghiên cứu Đe dọa (METR) vừa bổ nhiệm Ryan Greenblatt dẫn dắt nỗ lực khám phá dữ liệu đã kiểm chứng về phát triển AI. Greenblatt sẽ tập trung điều tra năng lực AI, alignment và control để giải quyết thiếu minh bạch về rủi ro thảm họa. Ông cảnh báo việc tự cải tiến đệ quy có thể đẩy năng lực lên mức siêu nhân chung trong 6 tháng hoặc một năm, tạo ra rủi ro kịch bản xấu tương ứng. Greenblatt từng làm tại Redwood, cho biết trước đây ông nghi ngờ giá trị của thông tin công khai nhưng hiện xem việc thu thập nó là cấp bách. Chris Painter của METR mô tả việc công bố độc lập dữ liệu alignment nội bộ của các công ty là then chốt để vượt qua giai đoạn phát triển nhanh có thể xảy ra.
Đăng nhập để góp ý, chỉnh sửa
Nguồn chính
- SOURCE@ryangreenblatt“imminent recursive self-improvement could massively accelerate capabilities progress, which could then potentially yield extremely superhuman general capabilities within 6 months or a year”x.com
- SUPPORT@chrispainteryup“public information about the state of alignment inside of AI companies, investigated and published by independent parties, is crucial if intense recursive self-improvement begins”x.com
- SOURCEmarketbrief.now