Chạy reasoning model AV trong giới hạn compute và độ trễ trên thiết bị gắn trên xe

Các nhà phát triển AV cần reasoning model có thể hoạt động trong giới hạn compute và độ trễ của hệ thống gắn trên xe. Các model lớn cung cấp nền tảng phát triển khả năng này, nhưng đưa chúng vào xe cần thêm công việc để giảm kích thước model, giữ lại khả năng reasoning hữu ích và xác thực hiệu suất trên phần cứng mục tiêu. NVIDIA Alpamayo 2 Edge giải quyết nhu cầu này bằng một VLA model reasoning thích ứng, được thiết kế để hoạt động thời gian thực trên NVIDIA DRIVE AGX Thor. Dựa trên backbone reasoning Nemotron-based 2B của NVIDIA Cosmos 3 Edge và kết hợp với một diffusion action expert, nó tận dụng quan sát camera xung quanh, ngữ cảnh thời gian và đầu vào điều hướng để tạo ra reasoning Chain-of-Causation CoC và quỹ đạo lái xe tương lai. Nó reasoning thích ứng, chỉ tạo reasoning khi cần, giảm token generation không cần thiết và tiết kiệm inference compute trong quá trình lái xe thông thường. Alpamayo 2 Edge được post-trained bằng closed-loop reinforcement learning RL trong NVIDIA AlpaGym, cải thiện hiệu suất lái xe closed-loop thêm 48,9% so với checkpoint hoạt động tốt nhất không dùng closed-loop RL. Những khả năng này cung cấp cho các nhà phát triển một nền tảng vững chắc, sẵn sàng cho edge để đưa khả năng lái xe dựa trên reasoning vào stack gắn trên xe.