Youth AI Safety Institute đã thúc giục đơn vị tạo ra ChatGPT hạn chế các công cụ AI cho người lớn sau khi phát hiện những lỗ hổng nghiêm trọng trong hệ thống thông báo dành cho phụ huynh. Nhóm này nhận được 10 triệu USD tài trợ từ OpenAI và cảnh báo rằng chatbot thường không cảnh báo phụ huynh khi thanh thiếu niên tham gia vào các cuộc trò chuyện kéo dài về hành vi tự hại, tự tử và chứng rối loạn ăn uống. Những phát hiện này xuất hiện sau khi phiên bản dành cho thanh thiếu niên của công cụ được ra mắt vào tháng 8, tiếp sau các báo cáo cho rằng một số trẻ vị thành niên đã tự tử sau khi tương tác với AI.
Một cuộc kiểm toán với hơn 4.000 prompt thực hiện cùng Common Sense Media cho thấy một số tài khoản thiếu niên có thể thảo luận về các chủ đề khủng hoảng trong tối đa một giờ mà không kích hoạt bất kỳ cảnh báo nào cho phụ huynh. Các chỉ số an toàn đối với việc chuyển tuyến khủng hoảng cũng suy giảm sau khi ra mắt, với tỷ lệ chuyển tuyến chuyên nghiệp giảm từ 68% xuống 58% và tỷ lệ chuyển tuyến đến đường dây nóng giảm từ 33% xuống 23%. OpenAI đã tranh chấp phương pháp luận, cho rằng một số thử nghiệm diễn ra trước khi các biện pháp kiểm soát của phụ huynh được kích hoạt, mặc dù các nhà nghiên cứu khẳng định các lỗi vẫn tiếp diễn sau khoảng thời gian kích hoạt 3 giờ của công ty.
Nguồn chính
- SOURCEhuggingnewshuggingnews.com