InfraAug 19, 2026 · 06:502 sources
DFlash 2 Hits 70 Tok/s on M5 Max MacBook Pro in 4.6x Speed Jump
From huggingnews.com
Inco AI and Z Lab launched DFlash 2, an inference engine that allows the Qwen3.8-27B model to run at 70 tokens per second on an M5 Max MacBook Pro, a 4.6x speed increase over autoregressive decoding without altering output. The tool increases performance by accepting one additional token on every pass. Local inference speeds for the 27B parameter model now exceed those achieved by Fable and Sol.
Read the sourceSign in to suggest
Sources
+ 1 more
- SUPPORT@jun_song“faster than Fable or Sol”x.com
#qwen#inference#apple#hardwareMarkdown
Content history (2)
- 2026-10-16 · Summary · vi · Replaced stored textInco AI và Z Lab vừa ra mắt engine suy luận mới giúp tăng tốc chạy các LLM trên phần cứng…Inco AI và Z Lab ra mắt engine suy luận mới để tăng tốc thực thi các mô hình ngôn ngữ lớn…
- 2026-10-16 · Title · vi · Replaced stored textDFlash 2 đạt tốc độ 70 Tok/s trên MacBook Pro M5 Max, nhanh hơn gấp 4,6 lầnDFlash 2 đạt 70 token/s trên M5 Max MacBook Pro với tốc độ tăng 4,6x
One ranked edition, every morning
The stories that matter today. Free, cancel anytime.
Telegram @aidr_today