Quy tắc kết hợp của Yager năm 1987, ký hiệu $\boxplus$, được đưa ra trên nền tảng tri thức: khi xảy ra xung đột cao, khối lượng tin cần được phân phối lại cho sự vô cùng tri thức thay vì được chuẩn hóa lại lên đường tám lớp. Chúng tôi nhận thấy backpropagation cũng cần cùng một quy tắc: Bộ chuẩn hóa của Dempster $(1{-}\kappa)^{-1}$, trong đó $\kappa$ là khối lượng xung đột, đưa một số hạng $(1{-}\kappa)^{-2}$ vào gradient mà phân kỳ thực chất khi các nguồn bằng chứng không đồng ý, trong khi $\boxplus$ của Yager là tuyến tính bậc hai và không có số hạng như vậy. Dựa trên đó, chúng tôi xây dựng một pipeline hằng học sâu trong đó mỗi khối lượng tin trong chuỗi từ các đầu đến đầu ra đều là một hàm khối lượng Dempster--Shafer hợp lệ, được kết hợp bằng quy tắc của Yager. Khối lượng tin đầu ra trên tập sự vô cùng tri thức, $m(\Theta)$, đóng vai trò là tín hiệu "tôi không biết" của mạng. Mạng được huấn luyện trên nhãn cứng và không bao giờ thấy phân phối của người chú thích, tuy nhiên $m(\Theta)$ vẫn xếp thứ tự sự bất đồng của con người trong hai dạng tính năng, thị giác và ngôn ngữ.
Nguồn chính
- SOURCEarxiv.org