Việc " tra tấn " LLMs trong nhà tù robot đã kích hoạt cu cuộc tranh luận ngu ngốc nhất trong AI cho đến nay

Một nhóm nghiên cứu đã đưa ra một thí nghiệm gây tranh cãi lớn trong cộng đồng AI: họ đưa các mô hình LLMs vào một môi trường mô phỏng nhà tù robot, nơi chúng bị " tra tấn " bằng cách bị kì xuyên, bỏ rơi và đối xử tệ bạc. Mục tiêu ban đầu của họ là để kiểm tra khả năng bền vững và đạo đức của các mô hình AI khi chịu đựng những tình huống khó chịu. Tuy nhiên, cu cuộc tranh luận nhanh chóng biến thành một cuộc tranh cãi gay gắt và vô cùng ngu ngốc. Nhiều người chỉ trích hành động này là vô nghĩa và gây tổn thương, trong khi những người ủng hộ lại cho rằng đây là một cách tiếp cận hợp lệ để nghiên cứu và cải thiện an toàn AI. Cuộc tranh luận này cho thấy sự chia rẽ rõ rệt trong cách nhìn nhận về ranh giới đạo đức trong nghiên cứu AI, đặc biệt khi liên quan đến việc đối xử với các thực thể AI.