Research25.08.2026 · 10:072 nguồn

SemiAnalysis ra mắt AgentX 1.0 với bộ dữ liệu 3 triệu USD để thách thức lĩnh thái CUDA

Từ huggingnews.com

Ảnh: huggingnews.com
AI;DR

Kiểm thử các tác vụ AI tầm dài giờ đây liên quan đến một tập hợp traces thực tế và hạ tầng tính toán sử dụng 1.000 chip và 2MW công suất. Benchmark mã nguồn mở AgentX 1.0 đánh giá hiệu suất lập trình đa lượt của agentic để xác định xem lợi thế phần mềm của Nvidia có vẫn chi phối trong khối lượng công việc cấp sản xuất. Nó hỗ trợ độ dài ngữ cảnh vượt 1M token để mô phỏng quy trình làm việc của nhà phát triển thực sự.

Dự án vLLM báo cáo hiệu suất 130.093 tok/s/chip cho DeepSeek V4 Pro, 77.079 cho Minimax M3 và 12.479 cho Kimi K3. Nhờ sparse retention và distributed KV cache offloading, engine đạt tỷ lệ hit trên 95% cho 14 yêu cầu đồng thời. Những kết quả này được phát triển trong hợp tác với Nvidia và AMD, mang lại mức tăng throughput 4,45x cho DeepSeek V4 Pro trên GB300 Dynamo so với B300.

Đọc bài gốcĐăng nhập để góp ý

Nguồn

+ 1 nguồn khác
  1. SUPPORT@vllm_project“4.45x higher throughput at a 60 tok/s interactivity for DeepSeek V4 Pro on GB300 Dynamo compared to B300”x.com
#agent#inference#chipsBản Markdown
Lịch sử nội dung (2)
  • 2026-10-16 · Tóm tắt · vi · Thay nội dung đã lưu
    Việc kiểm thử các tác vụ AI dài hạn hiện đã bao gồm một tập hợp các dấu vết thực tế cùng …
    Kiểm thử các tác vụ AI tầm dài giờ đây liên quan đến một tập hợp traces thực tế và hạ tần…
  • 2026-10-16 · Tiêu đề · vi · Thay nội dung đã lưu
    SemiAnalysis ra mắt AgentX 1.0 với bộ dữ liệu 3 triệu mẫu nhằm thách thức thế độc tôn của…
    SemiAnalysis ra mắt AgentX 1.0 với bộ dữ liệu 3 triệu USD để thách thức lĩnh thái CUDA

Bản tin mỗi sáng

Tin quan trọng nhất trong ngày. Miễn phí, hủy bất cứ lúc nào.

Telegram @aihomnay