← Về trang chính1 tin
Các nhà duy trì vLLM và Inferact báo cáo rằng phần cứng TPUv7 đã đạt 709 token mỗi giây trong quá trình giải mã với độ đồng thời thấp cho mô hình Kimi K3. Hiệu suất này...
Đăng nhập để góp ý, chỉnh sửa
Nguồn chính
- SOURCEmarketbrief.now
- SOURCEhuggingnewshuggingnews.com
- SOURCE@elonmusk“Another 220k GB300 will be fully operational next week and another 220k in November. If we get lucky, yet another 220k GB300 by late December.”x.com
- SUPPORT@sawyermerritt“Next week, @SpaceX will be bringing online 220,000 Nvidia GB300 GPU (worth $15+ billion)”x.com
- SUPPORT@sawyermerritt“That's over $100 billion of GPUs combined, and brought online in record time. Over 2 GW of compute.”x.com
- SOURCEhuggingnewshuggingnews.com
- SOURCEmarketbrief.now