Meta dùng switch của Nvidia để mở rộng cụm AI vượt mốc 100.000 GPU

Nvidia đang mở rộng dấu ấn hạ tầng AI khi Meta tích hợp các switch Spectrum 6 Ethernet vào kiến trúc trung tâm dữ liệu Vera Rubin. Những switch này mang lại dung lượng chuyển mạch 102,4 Tb/s, cho phép Meta liên kết hơn 100.000 GPU đồng thời giảm số tầng mạng cần thiết. Việc ứng dụng này củng cố vị thế của Nvidia trong hệ sinh thái phần cứng của Meta ngay cả khi hãng tiếp tục phát triển các chip MTIA của riêng mình, qua đó mở thêm cơ hội doanh thu từ ngoài việc bán GPU cho nhà sản xuất chip.

Tại hội nghị OCP Global Summit, Nvidia cũng công bố thông số kỹ thuật MGX 1.2 nhằm mở các thiết kế rack và khay máy tính Vera Rubin hỗ trợ mức công suất lên đến 250 kW. Hãng thông báo các hợp tác mới, bao gồm tiêu chuẩn truyền tải chung cho Falcon Transport của Google trên các SuperNIC ConnectX 10 và phần mềm mã nguồn mở DSX mới để quản lý cụm. Các bản cập nhật này bổ sung cho tiêu chuẩn quang cắm USFP gần đây tạo ra cùng Cisco, hỗ trợ tốc độ 400 Gb/s mỗi làn và mang lại hiệu suất năng lượng tăng 1,3 lần so với các mô-đun 200 Gb/s mỗi làn.