Triển khai frontier AI models trên AWS Trainium với SGLang-Neuron

SGLang-Neuron hiện đã có sẵn công khai thông qua một AWS Deep Learning Container. Với SGLang-Neuron, người dùng có thể phục vụ các model và tạo ra reinforcement learning rollout với SGLang trên AWS Trainium bằng giao diện SGLang quen thuộc, tất cả đều chạy trên native PyTorch.