Xiaomi vừa trình làng AI Cube, một nguyên mẫu phần cứng suy luận cá nhân được thiết kế để chạy các LLM ngay tại chỗ. Hệ thống này tích hợp ba loại chip độc quyền gồm Xring O3, O100 và D100, cho phép triển khai đồng thời các mô hình có quy mô 120B và 3B tham số. Trong đó, bộ tăng tốc O100 sử dụng công nghệ wafer-on-wafer NPU-DRAM 6nm để đạt băng thông gần bộ nhớ lên tới 1,22TB/s. Chip xử lý D100, vốn được thiết kế cho lái xe thông minh, hỗ trợ 160GB bộ nhớ và có khả năng chạy cục bộ các mô hình lên đến 200B tham số.
Nguyên mẫu này duy trì mức tiêu thụ điện liên tục 150W và tích hợp SoC cao cấp Xring O3 được TSMC sản xuất trên tiến trình 3nm. Dù chip O3 vốn được nhắm tới cho các dòng điện thoại gập flagship tiếp theo của Xiaomi, việc đưa nó vào AI Cube cho thấy hãng đang lấn sân sang mảng máy tính để bàn…
Nguồn chính
- SOURCE@jun_song“runs a 120B and a 3B model at the same time”x.com
- SUPPORT@maxforai“D100 is Xiaomi's smart driving high-performance AI chip, supporting up to 160GB of memory and 200B large model local deployment”x.com
- SUPPORT@teortaxestex“6nm, Wafer-on-wafer NPU-DRAM bonding with 1.4µm pitch”x.com
- SUPPORT@tonyjzhou“Decoding re-reads active weights every token, so local inference is bandwidth-bound, not FLOPs-bound”x.com
- SUPPORT@hesamation“Xiaomi's new prototype looks like a direct competitor to DGX Spark”x.com
- SOURCE@reuters“partners with TSMC for production”x.com
- SUPPORT@ftr_investors“200K–300K units targeted — reducing its reliance on Qualcomm and MediaTek”x.com
- SUPPORT@firstsquawk“Xring D100 3nm smart driving processor”x.com