OpenBMB ra mắt MiniCPM-V 4.7 đạt tốc độ 17 token mỗi giây trên thiết bị di động

Bản phát hành multimodal AI mới nhất từ OpenBMB mang lại tốc độ chạy local trên máy tính bảng cao cấp nhanh gấp 5 lần. Dòng MiniCPM-V 4.7 bao gồm các model 35B-A3B và 1B, dùng kỹ thuật Lookahead Expert Scheduling để tải trước trọng lượng expert và giảm tình trạng nghẽn xử lý. Kiến trúc này giúp biến thể 35B-A3B đạt 17 token mỗi giây trên iPad Pro M4 và 13 token mỗi giây trên iPhone 17 Pro Max trong khi chỉ dùng 3GB bộ nhớ.

Model 35B-A3B đạt 90,4 điểm trên OCRBench, vượt qua Qwen3.6 35B-A3B tới 5,2 điểm dù dùng phương pháp nén visual token hỗn hợp 16x. OpenBMB đã kiểm chứng dòng này qua 34 benchmark về STEM reasoning và khả năng hiểu video dài, đồng thời cung cấp bản thích ứng day-0 cho phần cứng Apple, Intel, AMD, Arm và Rockchip. Các model hiện có sẵn để tải về và triển khai trên GitHub và Hugging Face.