Microsoft triển khai 1 triệu chip AI Maia 300 năm tới cho inference chính

Microsoft sẽ đưa chip AI Maia do chính công ty thiết kế thành hệ thống chính chạy inference trên toàn bộ dịch vụ và sản phẩm của mình, bao gồm cả Copilot. Công ty dự định mở rộng dòng Maia lên các triển khai đa GW từ năm 2027, trong khi báo cáo từ Reuters cho biết kế hoạch triển khai hơn 1 triệu bộ tăng tốc Maia 300 vào năm tới. Sự chuyển đổi sang silicon nội bộ nhằm giảm phụ thuộc vào Nvidia và AMD, đồng thời tối ưu biên lợi nhuận trung tâm dữ liệu bằng cách chuyển phần lớn nhu cầu tính toán nội bộ sang phần cứng do chính công ty phát triển.

Bộ tăng tốc Maia 300 mới được công bố được sản xuất bởi TSMC trên tiến trình 2nm, trang bị tám ngăn nhớ HBM4 với dung lượng 288 GB và băng thông 18 TB/s cho mỗi con chip. Microsoft cho rằng Maia 300 cung cấp 40% nhiều token hơn mỗi MW so với các hệ thống GPU dẫn đầu, đồng thời mang lại lên tới 7x thông lượng mở rộng rack so với Maia 200. Thế hệ trước, Maia 200, đã hoạt động tại Hoa Kỳ, châu Âu và Úc, nơi cung cấp lên tới 1.7x nhiều token hơn mỗi watt cho Teams và Copilot.