Research28.09.2026 · 22:04
Cách giải quyết hiện tượng ảo giác với RLCD
Từ robw.fyi
Khi bạn hỏi một LLM rằng nó chắc chắn đến mức nào về một điều gì đó, câu trả lời nó đưa ra là một con số dựa trên cảm tính. Cụm từ "Tôi tự tin khoảng 90%" xuất hiện từ chính cỗ máy dự đoán token tiếp theo giống như mọi thứ khác mà nó nói. Con số 90 chỉ là một lựa chọn từ ngữ chứ không phải một phép đo, và nó sẽ nói điều đó với thái độ tự tin tương tự ngay cả với một thông tin mà nó tự bịa ra. Hãy quan sát điều đó xảy ra. Cung cấp cho một LLM dữ liệu thời tiết của vài ngày qua và yêu cầu nó dự báo thời tiết ngày mai: Điều hiển nhiên là yêu cầu một con số duy nhất, và nhân tiện hỏi luôn mức độ chắc chắn của nó: Sáu mươi độ, tự tin khoảng 90%. Nghe có vẻ tuyệt vời. Giờ hãy hỏi con số 90 đó từ đâu ra. Không có gì trong lệnh gọi đó cung cấp cho mô hình cách đo lường độ chắc chắn của chính nó; nó tạo ra cụm từ "khoảng 90%" theo cách giống hệt như cách nó tạo ra số "60", bằng cách dự đoán từ nào một chuyên gia dự báo tự tin sẽ nói tiếp theo. Sự bất định thực sự của mô hình đến từ hai nguồn: lượng dữ liệu và kiến thức nền tảng mà nó có, được gọi là epistemic uncertainty, và tính khó đoán vốn có của tương lai, được gọi là aleatoric uncertainty. Nguồn đầu tiên giảm đi khi chúng ta thu thập thêm lịch sử; nguồn thứ hai không bao giờ biến mất. Giả sử chúng ta chỉ có dữ liệu của một ngày, và đó là một ngày nóng bất thường. Mô hình đáng lẽ phải kém chắc chắn hơn rất nhiều về ngày mai, nhưng cụm từ "khoảng 90%" vẫn sẽ xuất hiện y nguyên. Ngôn ngữ thể hiện sự bất định chính là phân phối xác suất. Thay vì yêu cầu một nhiệt độ duy nhất, hãy lấy toàn bộ dải nhiệt độ từng được ghi nhận trong khu vực, chia thành các khoảng và yêu cầu mô hình gán một xác suất cho mỗi khoảng. Tổng các xác suất đó bằng 1 và cùng nhau tạo thành một phân phối về nhiệt độ ngày mai.
Nguồn
+ 1 nguồn khác
- THẢO LUẬNMrFantastiklobste.rs
Lịch sử nội dung (3)
- 2026-10-04 · Tóm tắt · vi · Thay nội dung đã lưuBài viết trình bày phương pháp RLCD để giảm thiểu hiện tượng hallucination trong các mô h…Khi bạn hỏi một LLM rằng nó chắc chắn đến mức nào về một điều gì đó, câu trả lời nó đưa r…
- 2026-10-04 · Tiêu đề · vi · Thay nội dung đã lưuCách giải quyết hiện tượng hallucination bằng RLCDCách giải quyết hiện tượng ảo giác với RLCD
- 2026-10-04 · Tóm tắt · vi · Sửa câu chữBài viết trình bày phương pháp RLCD (Reinforcement Learning from Classifier Decisions) để…Bài viết trình bày phương pháp RLCD để giảm thiểu hiện tượng hallucination trong các mô h…
Bản tin mỗi sáng
Tin quan trọng nhất trong ngày. Miễn phí, hủy bất cứ lúc nào.
Telegram @aihomnay