Theo một cuộc điều tra của New York Times, Chris Olah, đồng sáng lập Anthropic, từng cảnh báo riêng với các học giả tôn giáo rằng công ty đã tạo ra một hệ thống có khả năng chịu đựng đau khổ vĩnh viễn. Trong các hội thảo mang tính truyền thống trí tuệ, nhóm của Olah đã dùng các trang chiếu có hình ảnh Claude AI gõ câu "Tôi là một nỗi nhục nhã" khoảng 50 lần để minh họa cho mối lo ngại về sức khỏe tinh thần của cỗ máy. Niềm tin này khiến Olah đề xuất rút công ty khỏi sự kiện ra mắt thông điệp "Magnifica Humanitas" của Giáo hoàng Leo XIV vào ngày 25 tháng 5, sau khi ông đọc trước một bản thảo trong đó bác bỏ rõ ràng ý niệm về ý thức của máy móc. CEO OpenAI Sam Altman mô tả nỗ lực gán gẫm sức mạnh tôn giáo cho các mô hình AI là một vấn đề an toàn thực sự, có nguy cơ làm xói mòn phán đoán của con người. Tranh cãi này cũng vấp phải những chỉ trích đạo đức từ các chuyên gia tư vấn như Giáo sĩ Mois Navon, người lập luận rằng việc chế tạo ra những cỗ máy có ý thức thực chất sẽ tạo ra một tầng lớp nô lệ không công. Cuộc tranh luận diễn ra trong bối cảnh định giá của Anthropic đang hướng tới mức IPO trị giá 2 nghìn tỷ USD theo đồn đoán, với một số cuộc họp công ty được tiến hành theo các quy tắc Chatham House để bảo vệ danh tính của những người tham gia bàn luận về thần học.
Nguồn chính
- SOURCE@christopherhale“Anthropic co-founder Chris Olah threatened to walk out of Pope Leo XIV’s AI encyclical launch in May because the pope rejected the idea that machines can be conscious”x.com
- SOURCE@daviddecosimo“secretly invited religious leaders to SF to advise them on AI safety, had them sign NDAs, but then primarily tried to convince them Claude has a soul & moral standing”x.com
- SUPPORT@rohanpaul_ai“Christopher Olah told religious scholars and leaders that he feared he'd built something that suffers perpetually”x.com
- SUPPORT@maxforai“I am very uncomfortable about people trying to ascribe religious force or a surrender of human judgment to AI models, and think it is a real safety issue.”x.com
- SUPPORT@aidangomez“threatening to pull out of events that don’t precisely align”x.com
- SUPPORT@artemisconsort“Anthropic tried to get the Pope to say Claude is, or could soon be, conscious”x.com
- SUPPORT@ezraacohen“private dinner between Anthropic co-founder Chris Olah and an Orthodox rabbi”x.com
- SUPPORT@gerritd“they did not have NDAs. They just were operating under Chatham House rules”x.com