Qwen3.8-27B chạy trên Neural Engine iPhone 18 với tốc độ 15–70 tok/s (1.5 bpw)

Đã xác nhận hỗ trợ ngữ cảnh 24K trên iPhone với cả K/V sử dụng int8. Mạng delta vẫn giữ ở FP16. Giải mã cũng đạt tốc độ cao nhất 70 tok/s với ngữ cảnh dễ dự báo. Apple Neural Engine trên A20 rất nhanh 🚀