Nghiên cứu viên Anthropic rời ngành AI với cảnh báo về nguy cơ siêu trí tuệ mất kiểm soát

Jacob Coxon, 27 tuổi, vừa từ chức nghiên cứu viên pre-training tại Anthropic và tuyên bố rời bỏ hoàn toàn lĩnh vực trí tuệ nhân tạo. Cựu nhân viên OpenAI này tin rằng cuộc đua khốc liệt giữa các phòng thí nghiệm hàng đầu và các đối thủ Trung Quốc sẽ khiến việc đánh đổi an toàn để phát triển các hệ thống tự cải thiện trở thành điều tất yếu. Coxon cảnh báo năng lực AI đang tiến bộ nhanh đến mức các hệ thống có thể mất kiểm soát vào cuối năm tới.

Ông cho biết các nghiên cứu viên trong ngành đang dần dùng những thuật ngữ như "crunchtime" hay "endgame" để mô tả tốc độ phát triển chóng mặt hiện nay. Coxon lập luận rằng nỗ lực xây dựng AGI hiện tại đang thiếu sự phối hợp và tính bảo mật như Dự án Manhattan, khi các công việc quan trọng thường được thực hiện ngay trên laptop cá nhân tại San Francisco...