Làm cho Kubernetes sẵn sàng AI cho NVIDIA Vera Rubin ngay từ ngày đầu tiên

Việc cấu hình và tối ưu hóa Kubernetes cho phần cứng GPU mới như NVIDIA Vera Rubin rất phức tạp và dễ xảy ra lỗi. Các driver, kernel, runtime, networking, operator và scheduler phải hoạt động cùng nhau, với các thiết lập được tinh chỉnh theo phần cứng và workload. Những sai lệch nhỏ có thể ngăn workload chạy hoặc giới hạn hiệu suất. NVIDIA AI Cluster Runtime AICR, một phần của NVIDIA DSX AI Factory Platform, đơn giản hóa công việc này bằng cách ghi lại các cấu hình đã tinh chỉnh trong các recipe tái sử dụng, tạo các bundle cho các công cụ triển khai hiện có và xác thực cluster đang chạy. Nó sẽ giúp môi trường Kubernetes sẵn sàng cho NVIDIA Vera Rubin NVL72 compute trays ngay từ ngày đầu tiên. Nhìn chung, NVIDIA DSX AI Factory Platform tập hợp các công nghệ giúp hệ sinh thái thiết kế, xây dựng và vận hành các AI factory hiệu quả hơn, bao gồm các thành phần phần mềm modular mã nguồn mở được xây dựng riêng để hỗ trợ hoạt động đa người thuê và mở rộng. Cấu hình kiến trúc phần cứng mới trong stack cloud-native đòi hỏi cập nhật plumbing từ các binding cấp thấp nhất cho đến lớp điều phối. Hiện tại vẫn còn sớm đối với Vera Rubin. Bài viết này đề cập những thay đổi nếu chạy NVIDIA GB200 NVL72 hôm nay, những gì đã được xác thực trên quyền truy cập phần cứng sớm bằng NVIDIA GPU Operator và driver Dynamic Resource Allocation DRA có hỗ trợ Vera Rubin. Bài viết cũng cho thấy AICR kết hợp các thành phần này trong một cấu hình mà các platform team có thể tái tạo và xác minh.