Infra18.11.2026 · 03:071 nguồn
AMD MI355X đạt kỷ lục 1.129 output token mỗi giây trên MiniMax M3.1 Flash
Từ marketbrief.now
vLLM và Inferact đã tăng hiệu suất của AMD MI355X GPUs trên mô hình MiniMax M3.1 Flash lên gấp 4 lần trong chưa đầy 20 ngày. Quá trình tối ưu hóa này đã đạt được 1.129 output token mỗi giây (tps) ở mức P90 trong lưu lượng sản xuất thực tế.
Kết quả đạt được nhờ các AMD kernel mới được viết bằng FlyDSL. Các kernel này có tính xác định, nghĩa là chúng không sử dụng atomic adds để tích lũy đầu ra.
Đọc bài gốcĐăng nhập để góp ý
Nguồn
Bản tin mỗi sáng
Tin quan trọng nhất trong ngày. Miễn phí, hủy bất cứ lúc nào.
Telegram @aihomnay