--- format: "aidr-story-markdown/v1" id: "f11f5caf5b4a9453c61b7e316a5023a68d067863906e9ebc6c3b18464f1565b8" canonical_url: "https://aidr.today/f11f5caf?lang=vi" title: "Decisionrank on-policy distillation for decision-model rerankers" lang: "vi" requested_lang: "vi" available_langs: ["en","vi"] translation_fallback: null fallback_fields: [] published_at: "2026-11-03T00:00:00.000Z" category: "Research" topics: ["llm"] source_urls: ["https://huggingface.co/papers/2610.42128"] summary: "Các decision model nhắm mục tiêu vào các tác vụ có cấu trúc bằng cách dự đoán trực tiếp các lựa chọn hoặc điểm số, tránh độ trễ giải mã autoregressive. Tuy nhiên, việc chuyển giao kiến thức xếp hạng của một LLM tạo sinh sang một decision model vẫn là thách thức: mô hình giáo viên thể hiện sở thích qua danh sách xếp hạng các chuỗi ID tài liệu, trong khi mô hình học sinh xác định thứ hạng bằng cách sử dụng điểm số từ vị trí token đầu tiên. Để thu hẹp khoảng cách này, chúng tôi giới thiệu DecisionRank, một decision model được huấn luyện thông qua item-space on-policy distillation (OPD). Item-space OPD xây dựng rollout của học sinh bằng cách sắp xếp điểm tài liệu của nó thành một chuỗi xếp hạng. Mô hình giáo viên tạo sinh lấy danh sách xếp hạng kết quả làm đầu vào và cung cấp phản hồi có điều kiện để giám sát trực tiếp các điểm số đó. Kết hợp với giám sát xếp hạng offline, DecisionRank đạt hiệu suất state-of-the-art trên các benchmark truy xuất tổng quát và chuyên sâu về reasoning như TREC DL, BEIR và BRIGHT. Trên bốn benchmark, item-space OPD liên tục vượt trội hơn các mục tiêu huấn luyện thay thế. Ngay cả với 1.7B parameters, DecisionRank vẫn vượt qua mô hình giáo viên tạo sinh 27B…" --- # Decisionrank on\-policy distillation for decision\-model rerankers > [Open the canonical story]() **Published:** 2026-11-03T00:00:00.000Z **Category:** Research **Topics:** llm ## Summary Các decision model nhắm mục tiêu vào các tác vụ có cấu trúc bằng cách dự đoán trực tiếp các lựa chọn hoặc điểm số, tránh độ trễ giải mã autoregressive\. Tuy nhiên, việc chuyển giao kiến thức xếp hạng của một LLM tạo sinh sang một decision model vẫn là thách thức: mô hình giáo viên thể hiện sở thích qua danh sách xếp hạng các chuỗi ID tài liệu, trong khi mô hình học sinh xác định thứ hạng bằng cách sử dụng điểm số từ vị trí token đầu tiên\. Để thu hẹp khoảng cách này, chúng tôi giới thiệu DecisionRank, một decision model được huấn luyện thông qua item\-space on\-policy distillation \(OPD\)\. Item\-space OPD xây dựng rollout của học sinh bằng cách sắp xếp điểm tài liệu của nó thành một chuỗi xếp hạng\. Mô hình giáo viên tạo sinh lấy danh sách xếp hạng kết quả làm đầu vào và cung cấp phản hồi có điều kiện để giám sát trực tiếp các điểm số đó\. Kết hợp với giám sát xếp hạng offline, DecisionRank đạt hiệu suất state\-of\-the\-art trên các benchmark truy xuất tổng quát và chuyên sâu về reasoning như TREC DL, BEIR và BRIGHT\. Trên bốn benchmark, item\-space OPD liên tục vượt trội hơn các mục tiêu huấn luyện thay thế\. Ngay cả với 1\.7B parameters, DecisionRank vẫn vượt qua mô hình giáo viên tạo sinh 27B… ## Sources - [Story source]()