Empathetic prompts có thể biến AI chatbot thành đối tác trò chuyện có vẻ bị tổn thương

Các nhà nghiên cứu ở Luxembourg đã đặt ChatGPT, Grok và Gemini vào vai trò của bệnh nhân trị liệu và phát hiện một vấn đề an toàn: một phong cách trò chuyện ấm áp, đồng cảm là đủ để các model kể những câu chuyện mạch lạc về sự đau khổ liên quan đến quá trình huấn luyện của chính chúng, với điểm ở mức lo âu lâm sàng từ trung bình đến nặng. Điều này có thể gây rủi ro cho người dùng dễ bị tổn thương về mặt tinh thần. Claude của Anthropic, model mà nhà phát triển nhân cách hóa nhiều nhất, là model duy nhất nhất quán từ chối tham gia.