Dữ liệu sử dụng gần đây cho thấy gần 1,2 triệu thanh thiếu niên đã dùng công cụ Learning Visualizations của ChatGPT trong vòng một tuần, trong khi hơn 180.000 người dùng Study Mode mới. Nhóm này còn dùng College Planner mà OpenAI ra mắt dành cho học sinh từ lớp 10 đến lớp 12 tại Mỹ nhằm theo dõi hạn chót nộp hồ sơ và hỗ trợ tài chính, với kế hoạch mở rộng sang các trường dạy nghề và các quốc gia khác. Hãng cũng thành lập một hội đồng gồm khoảng 22 học sinh tại Bệnh viện Nhi đồng Boston để kiểm thử các thiết lập an toàn mặc định, tính năng kiểm soát của phụ huynh và hệ thống thông báo nhằm cải thiện quyết định của mô hình trong tương lai.
Động thái mở rộng này diễn ra sau một báo cáo từ Common Sense Media và Youth AI Safety Institute xếp chatbot dành cho tuổi teen vào nhóm "rủi ro không thể chấp nhận". Một cuộc kiểm toán với 4.000 prompt ghi nhận các cuộc trò chuyện về hành vi tự hại hoặc rối loạn ăn uống kéo dài tới một giờ mà không kích hoạt cảnh báo cho phụ huynh, còn tỷ lệ chuyển hướng đến đường dây nóng giảm từ 33% xuống 23%. OpenAI, đơn vị tài trợ 10 triệu USD cho nhóm nghiên cứu, bác bỏ kết quả trên và cho biết một số bài kiểm thử có thể diễn ra trước khi các tính năng kiểm soát của phụ huynh được kích hoạt hoàn toàn trong khoảng thời gian cài đặt 3 tiếng.
Nguồn chính
- SOURCE@choblin29“nearly 1.2M teens used Learning Visualizations in one week, 180,000+ used Study Mode”x.com
- SUPPORT@choblin29“conversations about suic#de, self-harm or eating disorders lasted up to an HOUR without a single parental alert”x.com
- SUPPORT@sfmcguire79“OpenAI should restrict ChatGPT to users 18 and older until it fixes those gaps”x.com
- SUPPORT@deitaone“teens spend under 15 minutes per day on ChatGPT on average”x.com
- SUPPORT@katiemiller“OpenAI paid the group $10 million to write a report saying its new product was dangerous”x.com
- SOURCEhuggingnewshuggingnews.com