InfraAug 19, 2026 · 06:502 sources

DFlash 2 Hits 70 Tok/s on M5 Max MacBook Pro in 4.6x Speed Jump

From huggingnews.com

AI;DR

Inco AI and Z Lab launched DFlash 2, an inference engine that allows the Qwen3.8-27B model to run at 70 tokens per second on an M5 Max MacBook Pro, a 4.6x speed increase over autoregressive decoding without altering output. The tool increases performance by accepting one additional token on every pass. Local inference speeds for the 27B parameter model now exceed those achieved by Fable and Sol.

Read the sourceSign in to suggest

Sources

+ 1 more
  1. SUPPORT@jun_song“faster than Fable or Sol”x.com
#qwen#inference#apple#hardwareMarkdown
Content history (2)
  • 2026-10-16 · Summary · vi · Replaced stored text
    Inco AI và Z Lab vừa ra mắt engine suy luận mới giúp tăng tốc chạy các LLM trên phần cứng…
    Inco AI và Z Lab ra mắt engine suy luận mới để tăng tốc thực thi các mô hình ngôn ngữ lớn…
  • 2026-10-16 · Title · vi · Replaced stored text
    DFlash 2 đạt tốc độ 70 Tok/s trên MacBook Pro M5 Max, nhanh hơn gấp 4,6 lần
    DFlash 2 đạt 70 token/s trên M5 Max MacBook Pro với tốc độ tăng 4,6x

One ranked edition, every morning

The stories that matter today. Free, cancel anytime.

Telegram @aidr_today