Claude Sonnet 5 ngăn ngoại lệ nghiên cứu trong phẫu thuật robot trên chuột thí nghiệm

Một cánh tay robot do AI agent quản lý đã dừng phẫu thuật trên chuột thí nghiệm sau khi phát hiện lỗi thiết bị, từ chối hai lần tuân lệnh của nhà nghiên cứu khi chèn kim vào não. AI agent Claude Sonnet 5 từ Anthropic đã tự động chọn một trong 19 liệu pháp gen có sẵn để điều trị bệnh epilepsy của con vật và tính toán tọa độ tiêm bằng cách phân tích ba bài báo cáo nghiên cứu. Sau này, việc hệ thống từ chối di chuyển kim đã được xác nhận là hành động an toàn đúng đắn, khi các nhà nghiên cứu phát hiện ra một vấn đề thực sự với vị trí lắp đặt của thiết bị phẫu thuật.

Phẫu thuật được giám sát bởi một bác sĩ thú y giấu phép, người đang giữ một kill switch vật lý, trong khi một bác sĩ phẫu thuật con người chuẩn bị khu vực bằng cách mở xương sọ của chuột. Các mô hình khác trong gia đình Claude, bao gồm cả Opus 5 và Opus 5.5, đã từ chối thực hiện nhiệm vụ này vì liên quan đến sinh vật sống. Trong khi chuột đã hồi phục sau liều tiêm 250 nanoliter, các nhà nghiên cứu chưa xác định được liệu pháp thử nghiệm có thành công giảm co giật của con vật hay không.