● Open Source08.11.2026 · 10:481 nguồn
Show HN: Maple – Kỹ thuật Moe pruning Sub-2-BPW giúp chạy Gemma 4 26B với tốc độ 45 TPS trên GPU 6GB
Theo github.com
AI;DR
Maple là một kỹ thuật Moe pruning đạt mức Sub-2-BPW, cho phép chạy mô hình Gemma 4 26B với tốc độ 45 TPS chỉ trên một GPU 6GB.
Đọc bài gốcĐăng nhập để góp ý
Nguồn
+ 1 nguồn khác
- THẢO LUẬNAmSachnews.ycombinator.com