Infra19.08.2026 · 21:587 nguồn
Inco AI ra mắt DFlash 2 với tốc độ xử lý nhanh gấp 4,6 lần cho suy luận AI cục bộ
Từ huggingnews.com
Hiệu suất cải thiện dành cho các mô hình frontier và máy tính cá nhân hiện đã có mặt thông qua phương pháp suy luận dự đoán mới. Inco AI phát hành công cụ mang tên DFlash 2 để vận hành bộ công cụ suy luận của hãng, mang lại khả năng tăng tốc xử lý lên tới 4,6 lần so với phương pháp giải mã tiêu chuẩn. Hệ thống này hướng tới cả các mô hình frontier quy mô lớn lẫn các phiên bản nhỏ hơn chạy trên phần cứng cục bộ.
Phần mềm hiện có sẵn trên dự án vLLM, một công cụ suy luận mã nguồn mở. DFlash 2 phát triển từ phương pháp khuếch tán khối trước đó dành cho giải mã dự đoán flash, đồng thời một bài viết kỹ thuật cũng đã được đăng tải trên Papers with Code.
Nguồn
Lịch sử nội dung (2)
- 2026-10-04 · Tóm tắt · vi · Thay nội dung đã lưuInco AI vừa trình làng DFlash 2, giải pháp mới giúp đẩy nhanh tốc độ inference AI ngay tr…Hiệu suất cải thiện dành cho các mô hình frontier và máy tính cá nhân hiện đã có mặt thôn…
- 2026-10-04 · Tiêu đề · vi · Thay nội dung đã lưuInco AI ra mắt DFlash 2, tăng tốc độ inference AI cục bộ lên gấp 4,6 lầnInco AI ra mắt DFlash 2 với tốc độ xử lý nhanh gấp 4,6 lần cho suy luận AI cục bộ
Bản tin mỗi sáng
Tin quan trọng nhất trong ngày. Miễn phí, hủy bất cứ lúc nào.
Telegram @aihomnay