Thứ Hai, 24 thg 8, 2026

Chip Xring O100 của Xiaomi đạt băng thông 1,22 TB/s, là bộ tăng tốc Edge AI chuyên dụng đầu tiên

Chips11 ngày trước1/13

Chip Xring O100 của Xiaomi sử dụng công nghệ xếp chồng 3D wafer-on-wafer, cho phép chạy inference các mô hình LLM ngay trên smartphone, ô tô và robot. Bộ tăng tốc tiến trình 6nm này đạt băng thông gần bộ nhớ lên tới 1,22 TB/s, gấp 16 lần so với bộ nhớ LPDDR5X trên các dòng điện thoại flagship. Trong các thử nghiệm tại phòng lab, phần cứng này có thể xử lý mô hình 3B tham số với tốc độ 330 token mỗi giây.

Bằng cách dùng công nghệ Hybrid Bonding để thu nhỏ khoảng cách kết nối từ 50 μm xuống còn 1,4 μm, chip tạo ra 2,58 triệu đường dẫn vật lý thông qua các lỗ xuyên silicon (TSV). Xiaomi đang đưa O100 vào nguyên mẫu AI Cube cùng với các bộ xử lý Xring O3 và D100 để chạy các mô hình lên tới 120B tham số với mức tiêu thụ điện duy trì 150W. Chip đã hoàn tất kiểm chứng silicon và dự kiến sẽ được thương mại hóa vào năm 2027.

Đăng nhập để góp ý, chỉnh sửa

Nguồn chính

SOURCE@neil_shah13:04 24 thg 8— Bonding pitch shrinks from ~50 μm all the way to 1.4 μm

SUPPORT@jiemian_news6:58 24 thg 8— can run Xiaomi’s MiMo 3B model at 330 tokens/s

SUPPORT@zephyr_z913:08 24 thg 8— This spec is extremely similar to Huawei's Logic Folding

SOURCE@jun_song7:51 24 thg 8— runs a 120B and a 3B model at the same time

SUPPORT@maxforai8:33 24 thg 8— D100 is Xiaomi's smart driving high-performance AI chip, supporting up to 160GB of memory and 200B large model local deployment

SUPPORT@teortaxestex7:48 24 thg 8— 6nm, Wafer-on-wafer NPU-DRAM bonding with 1.4µm pitch

SUPPORT@tonyjzhou11:18 24 thg 8— Decoding re-reads active weights every token, so local inference is bandwidth-bound, not FLOPs-bound

SUPPORT@hesamation10:26 24 thg 8— Xiaomi's new prototype looks like a direct competitor to DGX Spark