Thompson sampling dùng diffusion transformers được fit bằng prior

Thompson sampling là chiến lược ngẫu nhiên tự nhiên để tối ưu hóa các hàm chưa biết theo cách black-box. Trong tối ưu hóa toàn cục liên tục, Thompson sampling chủ yếu bị giới hạn ở các prior Gaussian vì đây về cơ bản là lớp duy nhất mà việc tính toán phân phối hậu nghiệm khả thi trong thực tế. Trong công trình này, nhóm tác giả giới thiệu prior-fitted diffusion transformers, là các diffusion model thực hiện Thompson sampling trong-context tại thời điểm inference sau khi được tiền huấn luyện bằng mô hình paradigm prior-fitted. Để áp dụng các model này, họ phát triển một bộ prior phi-Gaussian thực tế cho các hàm black-box tổng quát, bao gồm cả những hàm có đặc điểm không đạt được dưới Gaussianity, chẳng hạn như prior trên các hàm unimodal. Họ cũng định lượng sự đánh đổi giữa kích thước model và số lần tiền huấn luyện, và cho thấy các model này tuân theo các định luật scaling tương tự như quan sát được ở các transformer được định nghĩa trên các modality khác.