Research24.09.2026 · 00:174 nguồn

Xiaomi cắt giảm 5,02 lần khối lượng tính toán prefill của MiMo-V3 nhờ kiến trúc HySParse2

Từ marketbrief.now

Ảnh: marketbrief.now
AI;DR

Nhu cầu tính toán của agentic inference đang là tâm điểm trong thiết kế mới mà Xiaomi vừa công bố cho các dòng mô hình AI thế hệ tiếp theo của hãng. Kiến trúc HySParse2, đóng vai trò là cốt lõi của MiMo-V3, đạt hiệu suất giảm 5,02 lần số lượng phép tính prefill FLOPs và thu nhỏ 4,5 lần dung lượng bộ nhớ đệm KV ở mức 1 triệu token so với kiến trúc Hybrid SWA từng được dùng ở MiMo-V2.6. Bản cập nhật này cũng cải thiện khả năng truy xuất ngữ cảnh dài qua các điểm số MRCRv2 và RULER-v2, đồng thời hạ thấp các chỉ số AgentPPL và LongPPL. Thiết kế mới chuyển hướng tối ưu hóa cho các tác vụ có đặc thù hành động ngắn nhưng trả về lượng quan sát lớn, đòi hỏi quá trình prefill liên tục cho một ngữ cảnh ngày càng phình to. Để giảm thiểu chi phí quá tải, HySParse2 tận dụng tính năng 'KV Bridging' nhằm xây dựng khóa/giá trị K/V chéo từ các trạng thái ẩn của bộ giải mã tự thân, kết hợp cùng 'KV Reuse' dành riêng cho các tầng thưa. Những thay đổi bổ sung bao gồm việc chuyển sang lựa chọn ở cấp độ token và áp dụng một khoảng cửa sổ bắt buộc cho các token gần nhất để cho phép các token cục bộ và toàn cầu cùng chia sẻ chung một bộ nhớ đệm KV đơn lẻ.

Đọc bài gốcĐăng nhập để góp ý

Nguồn

+ 1 nguồn khác
  1. SUPPORT@teortaxestex“HySparse went the way of NSA and MoBA, a published research idea”x.com
#xiaomi#inference#agent#chips#infraBản Markdown
Lịch sử nội dung (2)
  • 2026-10-04 · Tóm tắt · vi · Thay nội dung đã lưu
    Nhu cầu tính toán trong agentic inference đang là tâm điểm của thiết kế mà Xiaomi vừa côn…
    Nhu cầu tính toán của agentic inference đang là tâm điểm trong thiết kế mới mà Xiaomi vừa…
  • 2026-10-04 · Tiêu đề · vi · Thay nội dung đã lưu
    Xiaomi giảm 5,02 lần chi phí tính toán prefill của MiMo-V3 nhờ kiến trúc HySParse2
    Xiaomi cắt giảm 5,02 lần khối lượng tính toán prefill của MiMo-V3 nhờ kiến trúc HySParse2

Bản tin mỗi sáng

Tin quan trọng nhất trong ngày. Miễn phí, hủy bất cứ lúc nào.

Telegram @aihomnay