Hãy dùng NVIDIA DSX Air và NVIDIA Brev để kiểm tra các cấu hình được hỗ trợ và phần mềm tích hợp trước khi đưa vào sản xuất. Các AI factory là những hệ thống vận hành phức tạp bậc nhất thế giới, kết hợp GPU, CPU, switch, DPU và SuperNIC cùng với bộ lập lịch, dịch vụ điều phối, kiểm soát bảo mật và một ngăn xếp phần mềm thay đổi chóng mặt. Triển khai hạ tầng này hiệu quả là một thử thách. Nhưng việc xác thực hạ tầng, phần mềm và chính sách hoạt động ăn khớp với nhau cho các workload mà doanh nghiệp dự định chạy cũng khó không kém. Để giảm thiểu thời gian chờ token đầu tiên, các nhà vận hành AI factory không thể đợi phần cứng giao đến nơi mới bắt đầu kiểm tra. Mô phỏng digital twin dựa trên node là một bản sao độ trung thực cao, có thể thực thi của hạ tầng và giao diện vận hành trong AI factory. Không giống như bản sao vật lý, nó cung cấp cho các nhóm nền tảng một môi trường an toàn, có khả năng truy cập qua API để lập mô hình cấu trúc phần cứng cùng ngăn xếp phần mềm, thử nghiệm thay đổi, quan sát hành vi và xác thực kết quả trước khi đưa thay đổi vào môi trường production. Được tích hợp vào luồng CI/CD, hệ thống có thể tự động xác thực các thay đổi về cấu hình và phần mềm được hỗ trợ trước khi đưa lên. Nó mở rộng mô phỏng từ hoạt động lập kế hoạch thành một tính năng vận hành luôn sẵn sàng.
Nguồn chính
- SOURCEdeveloper.nvidia.com