---
format: "aidr-story-markdown/v1"
id: "9ba31456eae40b886fc8fa0050bac216cd7292f15e2fe9e8633a7d306e688db8"
canonical_url: "https://aidr.today/9ba31456?lang=vi"
title: "SGLang v1.0 bổ sung hỗ trợ AWS Trainium và khả năng truy cập ngay lập tức cho 217 mô hình"
lang: "vi"
requested_lang: "vi"
available_langs: ["en","vi"]
translation_fallback: null
fallback_fields: []
published_at: "2026-11-17T19:21:46.000Z"
category: "Frameworks"
topics: ["meta","inference","framework"]
source_urls: []
summary: "SGLang v1.0 giới thiệu các megakernels và hot paths được viết lại bằng Rust, bổ sung hỗ trợ cho AWS Trainium và khả năng tương thích ngay lập tức cho 217 mô hình. Bản cập nhật này đã giúp tăng hiệu suất cho Muse Spark Open của Meta từ 517 lên 1.109 token mỗi giây trên các GPU GB300 8 GB. Thông tin phát hành được công bố tại SGLang Summit đầu tiên, nơi chứng kiến sự hình thành của một liên minh bao gồm Nvidia, AMD, Intel, Google, Meta, Thinky Machines, Cloudflare, Modal và RadixArk. Framework inference này hiện đang được 332 tổ chức sử dụng và vận hành các hệ thống production tại Meta cho các sản phẩm phục vụ hàng tỷ người dùng."
---

# SGLang v1\.0 bổ sung hỗ trợ AWS Trainium và khả năng truy cập ngay lập tức cho 217 mô hình

> [Open the canonical story](<https://aidr.today/9ba31456?lang=vi>)

**Published:** 2026-11-17T19:21:46.000Z
**Category:** Frameworks
**Topics:** meta, inference, framework

## Summary

SGLang v1\.0 giới thiệu các megakernels và hot paths được viết lại bằng Rust, bổ sung hỗ trợ cho AWS Trainium và khả năng tương thích ngay lập tức cho 217 mô hình\. Bản cập nhật này đã giúp tăng hiệu suất cho Muse Spark Open của Meta từ 517 lên 1\.109 token mỗi giây trên các GPU GB300 8 GB\. Thông tin phát hành được công bố tại SGLang Summit đầu tiên, nơi chứng kiến sự hình thành của một liên minh bao gồm Nvidia, AMD, Intel, Google, Meta, Thinky Machines, Cloudflare, Modal và RadixArk\. Framework inference này hiện đang được 332 tổ chức sử dụng và vận hành các hệ thống production tại Meta cho các sản phẩm phục vụ hàng tỷ người dùng\.

## Sources

_No safe source URL was recorded._

