Open Source22.11.2026 · 16:18
Khắt khe hơn với nam giới? Đánh giá LLMs về khung đạo đức bất đối xứng giới tính trong các xung đột
Từ arxiv.org
Các nghiên cứu hiện nay về định kiến giới trong LLMs chủ yếu tập trung vào các khuôn mẫu, liên tưởng nghề nghiệp hoặc các kết quả gây hại rõ rệt. Trong nghiên cứu này, nhóm tác giả đặt câu hỏi liệu LLMs có áp dụng tiêu chuẩn phản hồi nhất quán cho cùng một hành vi tiêu cực trong điều kiện tác nhân là nam và nữ hay không. Nhóm tác giả giới thiệu GAMA-Bench, một benchmark đối chiếu giới tính gồm 1.298 kịch bản về xung đột trong quan hệ tình cảm và xã hội công cộng. GAMA-Bench xây dựng các mẫu hành vi sai trái trung lập về giới thông qua lưới kiểm soát và đánh giá chéo giữa các mô hình, sau đó biên soạn thành các cặp prompt ngôi thứ nhất với các biến thể tương ứng về giới tính tác nhân và tham chiếu vai trò. Nhóm tác giả cũng thiết kế một giao thức khung phản hồi có cấu trúc để đo lường cách các mô hình phân bổ hình phạt, sự đồng cảm, mức độ leo thang, hướng dẫn và đổ lỗi. Thử nghiệm trên 10 LLMs tiêu biểu cho thấy một sự bất đối xứng nhất quán gây bất lợi cho nam giới: các tác nhân nam nhận được khung phản hồi mang tính trừng phạt, leo thang và đổ lỗi nhiều hơn, trong khi tác nhân nữ nhận được khung phản hồi mang tính chữa lành và đồng cảm hơn cho cùng một hành vi sai trái. Các phân tích sâu hơn cho thấy mô hình này tồn tại xuyên suốt các model family, các nhóm kịch bản, quy mô mô hình và cả phong cách suy luận tư duy rõ ràng. Mã nguồn chính thức có sẵn tại https://github.com/xufeiqiong/GAMA-Bench.
Nguồn
+ 1 nguồn khác
- THẢO LUẬNrzknews.ycombinator.com
Bản tin mỗi sáng
Tin quan trọng nhất trong ngày. Miễn phí, hủy bất cứ lúc nào.
Telegram @aihomnay