--- format: "aidr-story-markdown/v1" id: "be58f6497da33a853d871f7a01a7a18a1f041641d5b45ee5533d45b16cc3a721" canonical_url: "https://aidr.today/be58f649?lang=vi" title: "Tối ưu Mamba-2 với các kernel forward pass hiệu năng cao trong NVIDIA CUDA Tile" lang: "vi" requested_lang: "vi" available_langs: ["en","vi"] translation_fallback: null fallback_fields: [] published_at: "2026-10-19T17:00:00.000Z" category: "Frameworks" topics: ["nvidia","inference","framework"] source_urls: ["https://developer.nvidia.com/blog/accelerating-mamba-2-with-high-performance-forward-pass-kernels-in-nvidia-cuda-tile/"] summary: "NVIDIA CUDA Tile (cuTile) là một ngôn ngữ DSL hướng Python và mô hình lập trình song song cho GPU của NVIDIA, tự động khai thác các khả năng phần cứng nâng cao để mang lại hiệu suất tối đa cho lập trình ở cấp độ tile. Bằng cách trừu tượng hóa lịch trình ở cấp độ thread và warp porver các nguyên tắc tile-centric cấp cao, cuTile cho phép bạn viết kernel GPU bằng Python trong khi các tối ưu hóa trình biên dịch tự động nhắm vào các tính năng phần cứng nâng cao như Tensor Cores. Là một nhà sáng lập sớm của cuTile, các kỹ sư học máy tại Jane Street đã cài đặt Mamba-2, một mô hình chuỗi trạng thái tiên tiến, bằng cuTile và hợp tác với NVIDIA để tối ưu kernel. Jane Street là một công ty giao dịch toàn cầu rất kỹ thuật, sử dụng deep learning để thúc đẩy đổi mới trong nghiên cứu định lượng nâng cao. Bài viết này sẽ hướng dẫn bạn qua ba kernel tùy chỉnh đang cầm quyền cho forward pass của Mamba-2 và các tối ưu cuTile đằng sau chúng. Để sử dụng cuTile, hãy đảm bảo môi trường của bạn đáp ứng các yêu cầu được nêu trong hướng dẫn nhanh Python cuTile. Nhập khẩu gói như cuda.tile và hiển thị nó dưới dạng ct trong toàn bộ cài đặt kernel được đề cập trong bài viết này. Các kiến trúc mô hình sequence…" --- # Tối ưu Mamba\-2 với các kernel forward pass hiệu năng cao trong NVIDIA CUDA Tile > [Open the canonical story]() **Published:** 2026-10-19T17:00:00.000Z **Category:** Frameworks **Topics:** nvidia, inference, framework ## Summary NVIDIA CUDA Tile \(cuTile\) là một ngôn ngữ DSL hướng Python và mô hình lập trình song song cho GPU của NVIDIA, tự động khai thác các khả năng phần cứng nâng cao để mang lại hiệu suất tối đa cho lập trình ở cấp độ tile\. Bằng cách trừu tượng hóa lịch trình ở cấp độ thread và warp porver các nguyên tắc tile\-centric cấp cao, cuTile cho phép bạn viết kernel GPU bằng Python trong khi các tối ưu hóa trình biên dịch tự động nhắm vào các tính năng phần cứng nâng cao như Tensor Cores\. Là một nhà sáng lập sớm của cuTile, các kỹ sư học máy tại Jane Street đã cài đặt Mamba\-2, một mô hình chuỗi trạng thái tiên tiến, bằng cuTile và hợp tác với NVIDIA để tối ưu kernel\. Jane Street là một công ty giao dịch toàn cầu rất kỹ thuật, sử dụng deep learning để thúc đẩy đổi mới trong nghiên cứu định lượng nâng cao\. Bài viết này sẽ hướng dẫn bạn qua ba kernel tùy chỉnh đang cầm quyền cho forward pass của Mamba\-2 và các tối ưu cuTile đằng sau chúng\. Để sử dụng cuTile, hãy đảm bảo môi trường của bạn đáp ứng các yêu cầu được nêu trong hướng dẫn nhanh Python cuTile\. Nhập khẩu gói như cuda\.tile và hiển thị nó dưới dạng ct trong toàn bộ cài đặt kernel được đề cập trong bài viết này\. Các kiến trúc mô hình sequence… ## Sources - [Story source]()