Theo chỉ số Artificial Analysis Intelligence Index mới nhất, mô hình mã nguồn mở mới của Alibaba đạt 52 điểm, đứng ngang hàng với các mô hình hàng đầu như DeepSeek V4-Pro. Kết quả benchmark này đưa mô hình 27B tham số vào nhóm hiệu suất vốn trước đây chỉ dành cho các hệ thống đóng độc quyền.

Đây là mô hình đa phương thức (multimodal) gốc và được cấp phép theo chuẩn Apache 2.0 để các nhà phát triển dễ dàng tiếp cận. Khi chạy trên một card Nvidia RTX 5090 với 32 GB VRAM, người dùng ghi nhận tốc độ đạt 115 token/giây, trong khi các phương pháp tối ưu từ SGLang có thể đẩy tốc độ lên tới 206,1 token/giây.

Đăng nhập để góp ý, chỉnh sửa

Nguồn chính

  1. SOURCE@cline“We weren’t expecting this pace of local progress anywhere near this soon”x.com
  2. SUPPORT@xenovacom“can run locally... even in your browser with custom WebGPU kernels!”x.com
  3. SUPPORT@sgl_project“206.1 tok/s decode on a single RTX 5090, with our NVFP4 plus DSpark”x.com
  4. SUPPORT@rohanpaul_ai“Qwen3.8-27B's official BF16 checkpoint is 55.6 GB”x.com
Bản Markdown