Research24.09.2026 · 00:174 nguồn
Xiaomi cắt giảm 5,02 lần khối lượng tính toán prefill của MiMo-V3 nhờ kiến trúc HySParse2
Từ marketbrief.now
Nhu cầu tính toán của agentic inference đang là tâm điểm trong thiết kế mới mà Xiaomi vừa công bố cho các dòng mô hình AI thế hệ tiếp theo của hãng. Kiến trúc HySParse2, đóng vai trò là cốt lõi của MiMo-V3, đạt hiệu suất giảm 5,02 lần số lượng phép tính prefill FLOPs và thu nhỏ 4,5 lần dung lượng bộ nhớ đệm KV ở mức 1 triệu token so với kiến trúc Hybrid SWA từng được dùng ở MiMo-V2.6. Bản cập nhật này cũng cải thiện khả năng truy xuất ngữ cảnh dài qua các điểm số MRCRv2 và RULER-v2, đồng thời hạ thấp các chỉ số AgentPPL và LongPPL. Thiết kế mới chuyển hướng tối ưu hóa cho các tác vụ có đặc thù hành động ngắn nhưng trả về lượng quan sát lớn, đòi hỏi quá trình prefill liên tục cho một ngữ cảnh ngày càng phình to. Để giảm thiểu chi phí quá tải, HySParse2 tận dụng tính năng 'KV Bridging' nhằm xây dựng khóa/giá trị K/V chéo từ các trạng thái ẩn của bộ giải mã tự thân, kết hợp cùng 'KV Reuse' dành riêng cho các tầng thưa. Những thay đổi bổ sung bao gồm việc chuyển sang lựa chọn ở cấp độ token và áp dụng một khoảng cửa sổ bắt buộc cho các token gần nhất để cho phép các token cục bộ và toàn cầu cùng chia sẻ chung một bộ nhớ đệm KV đơn lẻ.
Nguồn
+ 1 nguồn khác
- SUPPORT@teortaxestex“HySparse went the way of NSA and MoBA, a published research idea”x.com
Lịch sử nội dung (2)
- 2026-10-04 · Tóm tắt · vi · Thay nội dung đã lưuNhu cầu tính toán trong agentic inference đang là tâm điểm của thiết kế mà Xiaomi vừa côn…Nhu cầu tính toán của agentic inference đang là tâm điểm trong thiết kế mới mà Xiaomi vừa…
- 2026-10-04 · Tiêu đề · vi · Thay nội dung đã lưuXiaomi giảm 5,02 lần chi phí tính toán prefill của MiMo-V3 nhờ kiến trúc HySParse2Xiaomi cắt giảm 5,02 lần khối lượng tính toán prefill của MiMo-V3 nhờ kiến trúc HySParse2
Bản tin mỗi sáng
Tin quan trọng nhất trong ngày. Miễn phí, hủy bất cứ lúc nào.
Telegram @aihomnay