Infra24.09.2026 · 03:437 nguồn
TPUv7 vượt trội hơn Nvidia GB200 tới 56% nhờ megakernel Kimi K3 đầu tiên
Từ marketbrief.now
Nhóm duy trì vLLM và Inferact cho biết phần cứng TPUv7 đạt tốc độ 709 token mỗi giây trong quá trình giải mã ở mức độ đồng thời thấp đối với mô hình Kimi K3. Hiệu suất này đánh bại mốc 450 token mỗi giây do Nvidia GB200 ghi nhận cho cùng một khối lượng công việc, đánh dấu mức tăng 56% về thông lượng. Sự cải tiến này đến từ việc áp dụng tối ưu hóa megakernel TPU lần đầu tiên xuất hiện. Kết quả này nằm trong xu hướng rộng lớn hơn là đưa phần mềm ra bên ngoài cho phần cứng TPU, vượt ra khỏi các môi trường nội bộ của Google. Nhóm duy trì vLLM đã nêu bật benchmark này nhằm minh họa cách các thay đổi ở cấp độ phần mềm đối với kernel có thể thay đổi đáng kể khoảng cách hiệu suất giữa các bộ tăng tốc AI cạnh tranh.
Nguồn
Lịch sử nội dung (2)
- 2026-10-04 · Tóm tắt · vi · Thay nội dung đã lưuCác nhà duy trì vLLM và Inferact báo cáo rằng phần cứng TPUv7 đã đạt 709 token mỗi giây t…Nhóm duy trì vLLM và Inferact cho biết phần cứng TPUv7 đạt tốc độ 709 token mỗi giây tron…
- 2026-10-04 · Tiêu đề · vi · Thay nội dung đã lưuTPUv7 vượt trội hơn Nvidia GB200 56% với Megakernel Kimi K3 đầu tiênTPUv7 vượt trội hơn Nvidia GB200 tới 56% nhờ megakernel Kimi K3 đầu tiên
Bản tin mỗi sáng
Tin quan trọng nhất trong ngày. Miễn phí, hủy bất cứ lúc nào.
Telegram @aihomnay