Frameworks16.11.2026 · 07:001 nguồn
Năm ngoái chúng tôi xây dựng megakernel, năm nay chúng tôi xóa bỏ chúng: Con đường dẫn tới Together Compiler
Từ together.ai
Together Compiler dùng các AI agent để viết lại và hợp nhất các GPU kernel trong quá trình forward pass của một mô hình. Công cụ này vượt qua các megakernel viết tay tới 28% trên B200 (đạt 2.118 so với 1.649 token/s trên Llama 3.2 1B). Đây là cách hãng chuyển đổi từ phương pháp cũ sang phương pháp mới.
Đọc bài gốcĐăng nhập để góp ý
Nguồn
Bản tin mỗi sáng
Tin quan trọng nhất trong ngày. Miễn phí, hủy bất cứ lúc nào.
Telegram @aihomnay