Cựu trưởng bộ phận An toàn OpenAI cảnh báo thời gian thử và sai của AI đã kết thúc

Bài luận gần đây đăng trên The Atlantic của David Robinson cho rằng cách tiếp cận hiện tại của ngành để đánh giá rủi ro mô hình là quá nguy hiểm. Robinson, người từng lãnh đạo phần minh bạch an toàn tại OpenAI, viết rằng thời đại thử và sai cho trí tuệ nhân tạo đã kết thúc. Anh là một trong những nhân viên có thâm niên lâu đời nhất tại công ty và đã quản lý báo cáo an toàn cho 12 lần ra mắt frontier model trước khi nộp đơn từ chức tuần trước.

Robinson là nhà lãnh đạo thứ 15 rời khỏi OpenAI kể từ tháng Giêng. Sự ra đi của anh trùng thời với việc công ty sa thải 3 nhà nghiên cứu vì cáo buộc sơ suất trong xử lý thông tin. Trong vai trò trước đó, Robinson giám sát việc tạo ra các system card dùng để ghi nhận hành vi và các rủi ro tiềm tàng của những mô hình AI mà công ty phát hành.