Một cựu lãnh đạo bộ phận an toàn tại OpenAI tin rằng hãng đang xây dựng trí tuệ nhân tạo vượt trội hơn hẳn mức con người sẵn sàng căn chỉnh hoặc kiểm soát. David Robinson chia sẻ với Ezra Klein rằng các nhà nghiên cứu tại OpenAI dùng lượng điện toán agentic trong một ngày của tháng 9 nhiều hơn gấp 100 lần so với chín tháng trước, cho thấy năng lực tăng tốc mạnh mẽ. Robinson từ chức sau khi kết luận công ty đang trên đà tạo ra các hệ thống vượt trội con người về tư duy nhưng lại chưa chuẩn bị sẵn sàng về mặt an toàn và căn chỉnh.
Robinson từng quản lý các báo cáo an toàn cho 12 đợt ra mắt frontier model và phát triển system card để ghi lại hành vi của mô hình trước khi rời đi. Trong bài tiểu luận đăng trên The Atlantic, ông mô tả văn hóa an toàn của OpenAI đã đổ vỡ và lập luận rằng các phòng thí nghiệm AI nên áp dụng kỹ thuật độ tin cậy cao cùng các lớp dự phòng giống như ở nhà máy điện hạt nhân và ngành hàng không. Việc ông rời đi diễn ra sau vụ sa thải ba nhà nghiên cứu vì cáo buộc làm rò rỉ dữ liệu nhạy cảm cùng các đơn từ chức cấp cao khác từ đội ngũ an toàn của công ty.
Nguồn chính
- SOURCE@stephencouncil“OpenAI firing three researchers over allegedly mishandling information”x.com
- SOURCE@adriennelaf“among the longest-tenured employees at OpenAI—and oversaw safety reports on 12 frontier launches”x.com
- SOURCE@ezraklein“on track to build something that could think circles around us — and we were this far from being ready for that at a safety and alignment level”x.com
- SUPPORT@_nathancalvin“OpenAI researchers used more than 100x more agentic compute per day in September than they did nine months prior”x.com
- SUPPORT@miles_brundage“regret helping spread the idea of “iterative deployment” which maybe briefly made sense in the GPT-3 era but makes no sense at all after many deaths have been tied to AI”x.com
- SUPPORT@jachiam0“professional safety engineering practices from other fields haven't taken enough root in AI safety”x.com
- SUPPORT@matthewstoller“Don’t trust AI safety people from the big firms, trust *actual* cybersecurity experts”x.com
- SUPPORT@ryan_t_lowe“we need layers of safety like in other high-risk fields like nuclear energy”x.com