Infra24.09.2026 · 03:437 nguồn

TPUv7 vượt trội hơn Nvidia GB200 tới 56% nhờ megakernel Kimi K3 đầu tiên

Từ marketbrief.now

Ảnh: marketbrief.now
AI;DR

Nhóm duy trì vLLM và Inferact cho biết phần cứng TPUv7 đạt tốc độ 709 token mỗi giây trong quá trình giải mã ở mức độ đồng thời thấp đối với mô hình Kimi K3. Hiệu suất này đánh bại mốc 450 token mỗi giây do Nvidia GB200 ghi nhận cho cùng một khối lượng công việc, đánh dấu mức tăng 56% về thông lượng. Sự cải tiến này đến từ việc áp dụng tối ưu hóa megakernel TPU lần đầu tiên xuất hiện. Kết quả này nằm trong xu hướng rộng lớn hơn là đưa phần mềm ra bên ngoài cho phần cứng TPU, vượt ra khỏi các môi trường nội bộ của Google. Nhóm duy trì vLLM đã nêu bật benchmark này nhằm minh họa cách các thay đổi ở cấp độ phần mềm đối với kernel có thể thay đổi đáng kể khoảng cách hiệu suất giữa các bộ tăng tốc AI cạnh tranh.

Đọc bài gốcĐăng nhập để góp ý

Nguồn

+ 2 nguồn khác
  1. SUPPORT@sawyermerritt“Next week, @SpaceX will be bringing online 220,000 Nvidia GB300 GPU (worth $15+ billion)”x.com
  2. SUPPORT@sawyermerritt“That's over $100 billion of GPUs combined, and brought online in record time. Over 2 GW of compute.”x.com
#tpu#nvidia#gb200#kimi#vllm#megakernel#elon-musk#chipsBản Markdown
Lịch sử nội dung (2)
  • 2026-10-04 · Tóm tắt · vi · Thay nội dung đã lưu
    Các nhà duy trì vLLM và Inferact báo cáo rằng phần cứng TPUv7 đã đạt 709 token mỗi giây t…
    Nhóm duy trì vLLM và Inferact cho biết phần cứng TPUv7 đạt tốc độ 709 token mỗi giây tron…
  • 2026-10-04 · Tiêu đề · vi · Thay nội dung đã lưu
    TPUv7 vượt trội hơn Nvidia GB200 56% với Megakernel Kimi K3 đầu tiên
    TPUv7 vượt trội hơn Nvidia GB200 tới 56% nhờ megakernel Kimi K3 đầu tiên

Bản tin mỗi sáng

Tin quan trọng nhất trong ngày. Miễn phí, hủy bất cứ lúc nào.

Telegram @aihomnay