Giải thích các chiến lược routing của MoE: Top-K, Expert-Choice, Sigmoid Gating và Dynamic Routing (Hướng dẫn năm 2026)

Các chiến lược routing của MoE quyết định chuyên gia nào sẽ xử lý từng token. Hướng dẫn này giải thích 7 phương pháp, từ top-2 softmax của Mixtral đến hash routing của DeepSeek-V4, cùng với các mô hình sử dụng từng phương pháp đó.