CEO Anthropic bảo vệ hồ sơ an toàn khi nhắc đến lệnh cấm AI đầu tiên đối với Trung Quốc

Lãnh đạo của Anthropic đã phản hồi các cáo buộc cho rằng công ty đang theo đuổi khả năng siêu nhân bằng mọi giá bằng cách liệt kê các biện pháp phòng ngừa mà ông cho rằng đã cản trở lợi nhuận ngắn hạn. Việc CEO Dario Amodei bảo vệ chiến lược "đua lên đỉnh cao" của công ty bao gồm quyết định đầu tiên trong ngành là chặn các dịch vụ AI đối với các công ty do chính phủ Trung Quốc kiểm soát, cũng như việc trì hoãn phát hành rộng rãi các model dòng Mythos từ tháng 2 sang tháng 6 để cải thiện các biện pháp bảo vệ an ninh mạng. Amodei cũng chỉ ra việc phân bổ 5% công ty cho một quỹ lợi ích công cộng và việc sử dụng các biện pháp bảo vệ sinh học nghiêm ngặt, chấp nhận tỷ lệ dương tính giả cao một cách có chủ đích để ngăn chặn việc lạm dụng vũ khí sinh học.

Cuộc tranh luận diễn ra sau những chỉ trích từ nhà vận động an toàn AI Nathan Calvin, người đã dẫn chứng các báo cáo về các thỏa thuận tính toán trị giá 500 tỷ USD và sự thay đổi trong Chính sách mở rộng có trách nhiệm của Anthropic như bằng chứng cho thấy an toàn đang đứng sau tốc độ. Amodei thừa nhận một số sai sót trong giao tiếp nội bộ trong tổ chức 5.000 người, nhưng khẳng định rằng chính sách mở rộng cập nhật sẽ giúp tăng cường tính minh bạch và sự đánh giá từ bên ngoài. Ông khẳng định rằng việc đứng ở ranh giới của sự phát triển AI mang lại nhiều lợi thế hơn để vận động cho các tiêu chuẩn ngành nghiêm ngặt hơn.