Research07.09.2026 · 03:335 nguồn
Chief Scientist của OpenAI kêu gọi làm chậm quá trình scaling, khẳng định chưa lab nào giải được bài toán alignment
Từ huggingnews.com
Jakub Pachocki kêu gọi tạm dừng tốc độ scaling tối đa của các mô hình trí tuệ nhân tạo trên toàn cầu cho đến khi các rào chắn an toàn được thống nhất rộng rãi. Trong bài viết mang tên "An Alien Mind", Chief Scientist của OpenAI cho rằng chưa có phòng thí nghiệm nghiên cứu nào giải quyết thỏa đáng các vấn đề về alignment và giám sát để biện minh cho tốc độ phát triển hiện tại. Ông lập luận rằng sự phối hợp quốc tế về phát triển AI trong tương lai phải trở thành ưu tiên hàng đầu của các chính phủ để tránh một cuộc đua thiếu trách nhiệm. OpenAI đang ưu tiên nghiên cứu về tự cải thiện đệ quy (RSI), điều mà Pachocki xác định là con đường thiết yếu để duy trì vị thế tại frontier AI. Quá trình này bao gồm việc máy móc đóng vai trò lớn hơn trong quá trình phát triển của chính chúng và cải thiện chính nền tảng tính toán. Dù tin rằng tốc độ tiến bộ này có thể duy trì sang giai đoạn RSI, các đánh giá nội bộ cho thấy độ tin cậy trong việc giám sát chain-of-thought reasoning đang giảm dần, khiến các nhà nghiên cứu khó kiểm tra cách mô hình suy luận hơn.
Nguồn
+ 4 nguồn khác
- SUPPORT@kliu128“international coordination on future AI development needs to become a top priority for governments”x.com
- SUPPORT@andrewcurran_“recursive self-improvement (RSI) will be at the very core of future scientific discovery”x.com
- SUPPORT@kimmonismus“evaluations show declining reliability of chain-of-thought monitoring”x.com
- SUPPORT@sama“An important post from Jakub”x.com
Lịch sử nội dung (2)
- 2026-10-04 · Tóm tắt · vi · Thay nội dung đã lưuNhà khoa học trưởng OpenAI cho rằng ngành cần cân nhắc chậm lại quá trình đào tạo mô hình…Jakub Pachocki kêu gọi tạm dừng tốc độ scaling tối đa của các mô hình trí tuệ nhân tạo tr…
- 2026-10-04 · Tiêu đề · vi · Thay nội dung đã lưuNhà khoa học trưởng OpenAI kêu gọi giảm tốc độ mở rộng, chưa có phòng thí nghiệm nào giải…Chief Scientist của OpenAI kêu gọi làm chậm quá trình scaling, khẳng định chưa lab nào gi…
Bản tin mỗi sáng
Tin quan trọng nhất trong ngày. Miễn phí, hủy bất cứ lúc nào.
Telegram @aihomnay