---
format: "aidr-story-markdown/v1"
id: "c876496118766282bf936d94e85af52c106c72c558b1b21810f2463c7a54d531"
canonical_url: "https://aidr.today/c8764961?lang=vi"
title: "vLLM v0.34.0"
lang: "vi"
requested_lang: "vi"
available_langs: ["en","vi"]
translation_fallback: null
fallback_fields: []
published_at: "2026-11-16T23:22:00.000Z"
category: "Open Source"
topics: ["llm","open-source"]
source_urls: []
summary: "v0.34.0 gồm 1.061 commits từ 412 người đóng góp (120 người mới). Cảm ơn các bạn! TL;DR - 10 mô hình mới (Mistral Large 4, MiniMax-M3.1-Flash, Nemotron-3.5-Transcribe, và nhiều hơn nữa!) - Extensible KV cache được bật theo mặc định: vLLM tính toán kích thước KV cache từ bộ nhớ thực sự còn trống sau khi warmup, nhờ đó hầu hết các mô hình sẽ có cache lớn hơn và throughput cao hơn. - Model Runner V1 đã bị loại bỏ. Model Runner V2 hiện là Runner GPU duy nhất. - Tăng tốc mạnh mẽ trên Blackwell và MI355X: decode nhanh tới 1,95 lần (Step5 trên GB200), throughput tăng 1,6 lần (GLM-5.3-Flash), TTFT cho long-prompt nhanh hơn từ 1,24–1,40 lần (GLM-5.3). - Kiểm tra nâng cấp: kích thước block mặc định hiện là 64, các image ROCm 7.2 đã bị loại bỏ, và yêu cầu huggingface_hub = 2.0.0. Xem phần Trước khi bạn nâng cấp. Trước khi bạn nâng cấp [!IMPORTANT] Những thay đổi này có thể làm hỏng các thiết lập hiện có. | Thay đổi | Việc cần làm | PR | |---|---|---| | Loại bỏ Model Runner V1 | Xóa VLLM_USE_V2_MODEL_RUNNER=0 ; nếu không sẽ bị lỗi khi khởi động. Chuyển đổi các bộ xử lý logits V1 sang vllm.v1.worker.gpu.sample.logits_processor . | 63373 | | Mặc định --block-size là 64 (trước đây là 16) | Pass -…"
---

# vLLM v0\.34\.0

> [Open the canonical story](<https://aidr.today/c8764961?lang=vi>)

**Published:** 2026-11-16T23:22:00.000Z
**Category:** Open Source
**Topics:** llm, open\-source

## Summary

v0\.34\.0 gồm 1\.061 commits từ 412 người đóng góp \(120 người mới\)\. Cảm ơn các bạn\! TL;DR \- 10 mô hình mới \(Mistral Large 4, MiniMax\-M3\.1\-Flash, Nemotron\-3\.5\-Transcribe, và nhiều hơn nữa\!\) \- Extensible KV cache được bật theo mặc định: vLLM tính toán kích thước KV cache từ bộ nhớ thực sự còn trống sau khi warmup, nhờ đó hầu hết các mô hình sẽ có cache lớn hơn và throughput cao hơn\. \- Model Runner V1 đã bị loại bỏ\. Model Runner V2 hiện là Runner GPU duy nhất\. \- Tăng tốc mạnh mẽ trên Blackwell và MI355X: decode nhanh tới 1,95 lần \(Step5 trên GB200\), throughput tăng 1,6 lần \(GLM\-5\.3\-Flash\), TTFT cho long\-prompt nhanh hơn từ 1,24–1,40 lần \(GLM\-5\.3\)\. \- Kiểm tra nâng cấp: kích thước block mặc định hiện là 64, các image ROCm 7\.2 đã bị loại bỏ, và yêu cầu huggingface\_hub \= 2\.0\.0\. Xem phần Trước khi bạn nâng cấp\. Trước khi bạn nâng cấp \[\!IMPORTANT\] Những thay đổi này có thể làm hỏng các thiết lập hiện có\. \| Thay đổi \| Việc cần làm \| PR \| \|\-\-\-\|\-\-\-\|\-\-\-\| \| Loại bỏ Model Runner V1 \| Xóa VLLM\_USE\_V2\_MODEL\_RUNNER\=0 ; nếu không sẽ bị lỗi khi khởi động\. Chuyển đổi các bộ xử lý logits V1 sang vllm\.v1\.worker\.gpu\.sample\.logits\_processor \. \| 63373 \| \| Mặc định \-\-block\-size là 64 \(trước đây là 16\) \| Pass \-…

## Sources

_No safe source URL was recorded._

