---
format: "aidr-story-markdown/v1"
id: "daa5b2afd1c7092cf88a127db80d519000d73e50c9f56d72995066553951148c"
canonical_url: "https://aidr.today/daa5b2af?lang=vi"
title: "Buoyant ra mắt Kinference: Một inference control plane mã nguồn mở cho Kubernetes và vLLM"
lang: "vi"
requested_lang: "vi"
available_langs: ["en","vi"]
translation_fallback: null
fallback_fields: []
published_at: "2026-11-07T08:16:33.000Z"
category: "Open Source"
topics: ["inference","open-source"]
source_urls: ["https://www.marktechpost.com/2026/11/07/buoyant-kinference-open-source-inference-control-plane-kubernetes-vllm/"]
summary: "Buoyant vừa phát hành Kinference, một inference control plane mã nguồn Apache 2.0 dành cho vLLM trên Kubernetes. Công cụ này bổ sung các chính sách định tuyến khai báo, khả năng load balancing KV-cache-aware và các chỉ số theo từng tenant, đồng thời giúp giảm 95% TTFT trung vị trong benchmark của chính Buoyant."
---

# Buoyant ra mắt Kinference: Một inference control plane mã nguồn mở cho Kubernetes và vLLM

> [Open the canonical story](<https://aidr.today/daa5b2af?lang=vi>)

**Published:** 2026-11-07T08:16:33.000Z
**Category:** Open Source
**Topics:** inference, open\-source

## Summary

Buoyant vừa phát hành Kinference, một inference control plane mã nguồn Apache 2\.0 dành cho vLLM trên Kubernetes\. Công cụ này bổ sung các chính sách định tuyến khai báo, khả năng load balancing KV\-cache\-aware và các chỉ số theo từng tenant, đồng thời giúp giảm 95% TTFT trung vị trong benchmark của chính Buoyant\.

## Sources

- [Story source](<https://www.marktechpost.com/2026/11/07/buoyant-kinference-open-source-inference-control-plane-kubernetes-vllm/>)