Research05.10.2026 · 11:001 nguồn
Rank-aware speculative sampling cho cây nháp diffusion
Từ arxiv.org
Speculative sampling tăng tốc độ sinh diffusion bằng cách xác thực song song các trạng thái nháp chi phí thấp nhưng vẫn giữ nguyên phân phối mục tiêu. Các phương pháp dựa trên cây gần đây phân bổ ngân sách tính toán song song hiệu quả hơn các bản nháp chuỗi đơn, như Diffusion Greedy Rejection Sampling (D-GRS) đã chứng minh. D-GRS sinh $K$ ứng viên độc lập có điều kiện cho mỗi nút và tuần tự kiểm tra chúng theo thứ tự sinh. Tuy nhiên, các ứng viên được lấy mẫu có thêm thứ hạng nhiều thông tin mà không cần thêm đánh giá mô hình mục tiêu. Để exploit điều này, chúng tôi giới thiệu Rank-Aware Speculative Sampling (RASS), một quy tắc xác thực cho cây nháp speculative dựa trên ghép nối danh sách nhận thức thứ hạng. RASS sắp xếp các ứng viên nháp dọc theo độ dịch chuyển trung bình đề xuất-mục tiêu và lấy mẫu một thứ hạng với trọng số được tối ưu hóa để giảm thiểu tổng biến động giữa các quy luật đề xuất được chọn và mục tiêu. Cuối cùng, ứng viên được chọn được ghép nối tối đa với mục tiêu, với hiệu chỉnh phần dư đảm bảo lấy mẫu chính xác cho mọi lựa chọn trọng số thứ hạng.
Nguồn
Bản tin mỗi sáng
Tin quan trọng nhất trong ngày. Miễn phí, hủy bất cứ lúc nào.
Telegram @aihomnay