Chip Jalapeno của OpenAI vượt mặt Nvidia Blackwell về hiệu suất và điện năng, giúp giảm chi phí trung tâm dữ liệu

Startup AI này vừa công bố bộ vi xử lý mới do Broadcom thiết kế, cho thời gian phản hồi nhanh hơn và tiết kiệm điện năng hơn so với chip GB300 của Nvidia trong các bài kiểm tra nội bộ về AI inference. Chip có tên Jalapeno, hoạt động ở mức 700 watt, hướng tới mục tiêu giảm chi phí hạ tầng khi triển khai các mô hình quy mô lớn. OpenAI dự kiến đưa phần cứng này vào vận hành cuối năm nay để hỗ trợ chính các mô hình của hãng. Công ty cho biết lợi thế về hiệu suất càng rõ rệt hơn khi xử lý các khối lượng công việc lớn, bao gồm cả mô hình Kimi của Moonshot, dù Jalapeno chưa được đem ra so sánh với thế hệ Vera Rubin sắp tới của Nvidia. Hiện chip thế hệ thứ hai đang tiến gần giai đoạn tape-out và quá trình phát triển thế hệ thứ ba cũng đã bắt đầu.