Tăng tốc AI agentic với các mô hình NVIDIA Nemotron trên Amazon EKS và SageMaker HyperPod EKS

NVIDIA Nemotron 3.5 Super VL là một mô hình mixture-of-experts có 120B tham số kết hợp giữa reasoning và sử dụng công cụ với sự hiểu biết đa phương thức. Bài viết này khám phá kiến trúc và trường hợp sử dụng của nó, sau đó cho thấy cách triển khai trên Amazon EKS, EKS Auto Mode và Amazon SageMaker HyperPod EKS với NVIDIA Dynamo và vLLM.