---
format: "aidr-story-markdown/v1"
id: "630214ef03cbaf0aa70c1ae954783d6eaffc3aa39610a78df6e8ee82e13e4941"
canonical_url: "https://aidr.today/630214ef?lang=vi"
title: "PhoneLLM ra mắt mô hình AI giọng nói mở với độ trễ dưới 100ms"
lang: "vi"
requested_lang: "vi"
available_langs: ["en","vi"]
translation_fallback: null
fallback_fields: []
published_at: "2026-10-15T22:39:01.000Z"
category: "Open Source"
topics: ["nvidia","llm","open-source"]
source_urls: ["https://marketbrief.now/ai/phonellm-debuts-open-voice-ai-models-with-sub-100ms-latency-ff609474","https://huggingnews.com/ai/phonellm-debuts-open-voice-ai-models-with-sub-100ms-latency-ff609474"]
summary: "Hai công cụ trí tuệ nhân tạo mới cho âm thanh trò chuyện đã xuất hiện để cải thiện cách trợ lý ảo xử lý đầu vào bằng giọng nói. Đội ngũ PhoneLLM đã ra mắt PhoneLLM Mini, một mô hình 30B tham số với thời gian đến token âm thanh đầu tiên (TTFAT) dưới 100ms, vừa chạy trên RTX 5090 và có thể chạy hơn 100 agent đồng thời trên Nvidia B200. PhoneLLM Max lớn hơn là mô hình 120B tham số được thiết kế cho các tác vụ phức tạp với TTFAT dưới 200ms, hoạt động với độ trễ và chi phí chỉ bằng 1/10 so với các mô hình tương đương. Cả hai mô hình đều là fine-tune của kiến trúc Nvidia Nemotron, với Mini sử dụng Nemotron 3 Nano và Max sử dụng Nemotron 3.5 Super VL. Các open-weight được lưu trữ trên HuggingFace, và công cụ có sẵn thông qua các đối tác inference là AWS, Baseten và Modal. Mô hình Mini cũng có sẵn trên Cloudflare Workers AI thông qua hợp tác với đội ngũ Pipecat để tối ưu hóa triển khai."
---

# PhoneLLM ra mắt mô hình AI giọng nói mở với độ trễ dưới 100ms

> [Open the canonical story](<https://aidr.today/630214ef?lang=vi>)

**Published:** 2026-10-15T22:39:01.000Z
**Category:** Open Source
**Topics:** nvidia, llm, open\-source

## Summary

Hai công cụ trí tuệ nhân tạo mới cho âm thanh trò chuyện đã xuất hiện để cải thiện cách trợ lý ảo xử lý đầu vào bằng giọng nói\. Đội ngũ PhoneLLM đã ra mắt PhoneLLM Mini, một mô hình 30B tham số với thời gian đến token âm thanh đầu tiên \(TTFAT\) dưới 100ms, vừa chạy trên RTX 5090 và có thể chạy hơn 100 agent đồng thời trên Nvidia B200\. PhoneLLM Max lớn hơn là mô hình 120B tham số được thiết kế cho các tác vụ phức tạp với TTFAT dưới 200ms, hoạt động với độ trễ và chi phí chỉ bằng 1/10 so với các mô hình tương đương\. Cả hai mô hình đều là fine\-tune của kiến trúc Nvidia Nemotron, với Mini sử dụng Nemotron 3 Nano và Max sử dụng Nemotron 3\.5 Super VL\. Các open\-weight được lưu trữ trên HuggingFace, và công cụ có sẵn thông qua các đối tác inference là AWS, Baseten và Modal\. Mô hình Mini cũng có sẵn trên Cloudflare Workers AI thông qua hợp tác với đội ngũ Pipecat để tối ưu hóa triển khai\.

## Sources

- [Story source](<https://marketbrief.now/ai/phonellm-debuts-open-voice-ai-models-with-sub-100ms-latency-ff609474>)
- [Story source](<https://huggingnews.com/ai/phonellm-debuts-open-voice-ai-models-with-sub-100ms-latency-ff609474>)