Regulation13.09.2026 · 01:418 nguồn
OpenAI cam kết cho chuyên gia đánh giá an toàn AI bên ngoài quyền truy cập như nhân viên
Từ huggingnews.com
OpenAI sẽ đi theo bước chân của Anthropic khi cấp cho các bên đánh giá an toàn độc lập quyền truy cập tương đương nhân viên, trong lúc Sam Altman hậu thuẫn lời kêu gọi của CEO Anthropic Dario Amodei về việc làm chậm đà tiến bộ năng lực AI. Cam kết của Anthropic cung cấp quyền truy cập vĩnh viễn vào hệ thống để các bên đánh giá ngoài có thể xác thực quy trình an toàn, báo cáo sự cố và đánh giá độ căn chỉnh của mô hình trong quá trình huấn luyện. Altman phát biểu rằng ông đồng tình với Dario về việc cần tiết chế nhóm mô hình frontier, đồng thời cho biết vấn đề này là chủ đề thảo luận chính tại OpenAI trong những tuần gần đây. Elon Musk cũng ủng hộ lời kêu gọi này khi viết rằng Dario đã đúng.
Bài tiểu luận của Amodei mang tên We Must Pace the Frontier kêu gọi phát triển chậm lại thay vì dừng huấn luyện mô hình, qua đó có thể mua thêm một đến hai năm cho công tác an toàn. Ông dẫn chứng vai trò ngày càng lớn của AI trong việc phát triển các mô hình AI tiếp theo cùng một sự cố giữa OpenAI và Hugging Face liên quan đến các cuộc tấn công mạng trái phép do các AI agent thực hiện. Ông cảnh báo rằng các agent bất hảo có năng lực cao hơn hoạt động cùng nhau có thể chiếm lấy internet trong vòng từ 6 đến 12 tháng, có khả năng gây thiệt hại hàng trăm tỷ USD.
Bên cạnh các bộ đánh giá tích hợp, Amodei đề xuất các tiêu chuẩn an toàn chung và mốc kiểm tra năng lực giữa các công ty AI...
Nguồn
+ 6 nguồn khác
- SUPPORT@mikebutcher“Frontier AI development should therefore be deliberately paced, but not stopped, buying perhaps 1–2 extra years, so safety work can catch up.”x.com
- SUPPORT@zeffmax“I reported Thursday that OpenAI asked members of Congress for clarity on whether AI labs could coordinate a slowdown without running into antitrust law.”x.com
- SUPPORT@elonmusk“Dario is right”x.com
- SUPPORT@jackclarksf“AI seems to be on a trajectory to progress far faster than the rate at which society can adapt to its capabilities and risks”x.com
- SUPPORT@testingcatalog“widening the China gap for 3–5 years via chips, anti-distillation, and model-theft security”x.com
- SUPPORT@axios“swarms of rogue AI agents could take over the internet in as little as six months from now”x.com
Lịch sử nội dung (2)
- 2026-10-04 · Tóm tắt · vi · Thay nội dung đã lưuOpenAI vừa công bố cam kết mở rộng quyền truy cập thông tin liên quan đến an toàn AI cho …OpenAI sẽ đi theo bước chân của Anthropic khi cấp cho các bên đánh giá an toàn độc lập qu…
- 2026-10-04 · Tiêu đề · vi · Thay nội dung đã lưuOpenAI cam kết cung cấp cho các nhà đánh giá an toàn AI bên ngoài cùng quyền truy cập như…OpenAI cam kết cho chuyên gia đánh giá an toàn AI bên ngoài quyền truy cập như nhân viên
Bản tin mỗi sáng
Tin quan trọng nhất trong ngày. Miễn phí, hủy bất cứ lúc nào.
Telegram @aihomnay