Infra30.09.2026 · 09:372 nguồn
OpenAI đạt tốc độ 300 token mỗi giây bằng GPU Nvidia thay vì Cerebras
Từ marketbrief.now
Công ty vừa ra mắt gói tốc độ cao cấp cho GPT-6 Astra, giúp tăng tốc độ tạo token lên đến gấp 8 lần. Các nhà phân tích tại SemiAnalysis tin rằng hiệu suất này, đạt mức 300 token mỗi giây, đến từ phần cứng thuộc dòng Nvidia Blackwell như các GPU GB300 chạy ở kích thước batch rất thấp. Việc triển khai này đi ngược lại kỳ vọng rằng OpenAI sẽ dùng phần cứng Cerebras để tăng tốc, trong khi phiên bản được hứa hẹn đạt 750 token mỗi giây từ Cerebras vẫn chưa xuất hiện.
Chế độ "Ultrafast" này dành cho khách hàng Enterprise, nhà phát triển API và cá nhân thông qua gói thuê bao mới giá 500 USD mỗi tháng. OpenAI đang mở rộng tính năng này sang mô hình GPT-6.1 Sol trong vài tuần tới. Để tăng tính hữu dụng cho các bên thứ ba, công ty giới thiệu tùy chọn đăng nhập một lần, cho phép người dùng áp dụng giới hạn token thuê bao của họ vào các ứng dụng bên ngoài thông qua hoạt động inference của chính họ.
Nguồn
Lịch sử nội dung (4)
- 2026-10-04 · Tóm tắt · vi · Thay nội dung đã lưuOpenAI đã đạt tốc độ 300 token mỗi giây bằng cách sử dụng các GPUs của Nvidia thay vì dùn…Công ty vừa ra mắt gói tốc độ cao cấp cho GPT-6 Astra, giúp tăng tốc độ tạo token lên đến…
- 2026-10-04 · Tiêu đề · vi · Thay nội dung đã lưuOpenAI đạt 300 token mỗi giây nhờ dùng GPUs Nvidia thay vì CerebrasOpenAI đạt tốc độ 300 token mỗi giây bằng GPU Nvidia thay vì Cerebras
- 2026-10-04 · Tóm tắt · vi · Thay nội dung đã lưuOpenAI đã cập nhật thông tin cho thấy mô hình của họ đạt tốc độ 300 token mỗi giây khi sử…OpenAI đã đạt tốc độ 300 token mỗi giây bằng cách sử dụng các GPUs của Nvidia thay vì dùn…
- 2026-10-04 · Tiêu đề · vi · Thay nội dung đã lưuOpenAI đạt 300 token/giây nhờ GPU Nvidia thay vì CerebrasOpenAI đạt 300 token mỗi giây nhờ dùng GPUs Nvidia thay vì Cerebras
Bản tin mỗi sáng
Tin quan trọng nhất trong ngày. Miễn phí, hủy bất cứ lúc nào.
Telegram @aihomnay