1

Khoảng trống đánh giá mô hình thế giới xã hội

arxiv.org

Một trợ lý đàm phán có thể đạt được thỏa thuận tốt mà không cần dự đoán chính xác phản hồi của người kia. Chúng tôi hỏi liệu các đánh giá mô hình thế giới xã hội có thử nghiệm dự đoán đó một cách trực tiếp hay không. Chúng tôi kiểm toán 113 công trình xuất bản từ năm 1999 đến 2026. 9 đánh giá chính đo lường phản hồi của một người thực sự trước một hành động do hệ thống hoặc nhà nghiên cứu chọn. Chỉ có 2 công trình so sánh thêm dự báo phản hồi rõ ràng với phản hồi thực tế. Các bộ dự đoán sử dụng thông tin khả dụng khi hành động được chọn, và các phản hồi được đánh giá đã được loại trừ khỏi quá trình phù hợp; cả hai đều ngẫu nhiên hóa can thiệp. Một kiểm tra toàn văn riêng biệt của 25 công trình mô hình ngôn ngữ không tìm thấy bất kỳ thí nghiệm nào đáp ứng các điều kiện này. Các đánh giá khác thử nghiệm suy diễn trạng thái hiện tại, thành công của nhiệm vụ, hoặc dự đoán từ các hành động đã ghi nhận. Chúng tôi đề xuất một thí nghiệm đàm phán 1 bước để tách rời các câu hỏi này. Những phát hiện mô tả mẫu đã kiểm toán, chứ không phải tỷ lệ phần trăm của khoảng trống đánh giá này trong toàn ngành.

Đăng nhập để góp ý

Nguồn chính

  1. SOURCEarxiv.org
Bản Markdown