Nvidia Jetson Orin Nano 2 tăng gấp đôi hiệu suất inference, đưa LLM xuống phân khúc robot phổ thông

Máy tính edge AI mới này cung cấp sức mạnh tính toán 78 TOPS, đi kèm 8GB bộ nhớ và CPU Arm 8 nhân, hướng tới các dòng robot, drone giao hàng và hệ thống thị giác máy tính. So với phiên bản Orin Nano Super, thiết bị này có hiệu suất inference gấp đôi trong cùng kích thước nhưng lại tiết kiệm điện hơn 40% khi chạy ở chế độ 15W. Phần cứng này cho phép chạy cục bộ các mô hình vision-language và LLM như Gemma 4 hay Nemotron mà không cần kết nối đám mây.

Các doanh nghiệp như Cognex, Doosan Bobcat và Matic là những đơn vị đầu tiên áp dụng công nghệ này. Trong khi đó, Wing của Alphabet sẽ thử nghiệm module trên drone giao hàng để phục vụ khả năng suy luận thời gian thực. Nvidia dự kiến tung ra module và bộ kit dành cho nhà phát triển vào nửa đầu năm 2027.