Research05.10.2026 · 11:001 nguồn

Rank-aware speculative sampling cho cây nháp diffusion

Từ arxiv.org

AI;DR

Speculative sampling tăng tốc độ sinh diffusion bằng cách xác thực song song các trạng thái nháp chi phí thấp nhưng vẫn giữ nguyên phân phối mục tiêu. Các phương pháp dựa trên cây gần đây phân bổ ngân sách tính toán song song hiệu quả hơn các bản nháp chuỗi đơn, như Diffusion Greedy Rejection Sampling (D-GRS) đã chứng minh. D-GRS sinh $K$ ứng viên độc lập có điều kiện cho mỗi nút và tuần tự kiểm tra chúng theo thứ tự sinh. Tuy nhiên, các ứng viên được lấy mẫu có thêm thứ hạng nhiều thông tin mà không cần thêm đánh giá mô hình mục tiêu. Để exploit điều này, chúng tôi giới thiệu Rank-Aware Speculative Sampling (RASS), một quy tắc xác thực cho cây nháp speculative dựa trên ghép nối danh sách nhận thức thứ hạng. RASS sắp xếp các ứng viên nháp dọc theo độ dịch chuyển trung bình đề xuất-mục tiêu và lấy mẫu một thứ hạng với trọng số được tối ưu hóa để giảm thiểu tổng biến động giữa các quy luật đề xuất được chọn và mục tiêu. Cuối cùng, ứng viên được chọn được ghép nối tối đa với mục tiêu, với hiệu chỉnh phần dư đảm bảo lấy mẫu chính xác cho mọi lựa chọn trọng số thứ hạng.

Đọc bài gốcĐăng nhập để góp ý

Nguồn

Bản tin mỗi sáng

Tin quan trọng nhất trong ngày. Miễn phí, hủy bất cứ lúc nào.

Telegram @aihomnay