---
format: "aidr-story-markdown/v1"
id: "b33f2a4bcedc2b02a5a5a3e43d7e847662afbeefb96324ad047d7d8b23a2549d"
canonical_url: "https://aidr.today/b33f2a4b?lang=vi"
title: "Cloudflare tích hợp Clef AI vào SGLang để đạt độ trễ dưới 40 ms"
lang: "vi"
requested_lang: "vi"
available_langs: ["en","vi"]
translation_fallback: null
fallback_fields: []
published_at: "2026-10-12T17:12:52.000Z"
category: "Tools"
topics: ["inference","devtools"]
source_urls: ["https://huggingnews.com/ai/update-cloudflare-integrates-clef-ai-into-sglang-for-sub-40-ms-latency-32190193","https://marketbrief.now/ai/update-cloudflare-integrates-clef-ai-into-sglang-for-sub-40-ms-latency-32190193"]
summary: "Sau khi tích hợp kỹ thuật với framework SGLang, lập trình viên nay đã có thể truy cập các decision model thuộc họ Clef thông qua API /v1/systemone. Cloudflare đóng góp các tối ưu hiệu năng upstream, giúp decision model Clef-Flash đạt độ trễ dưới 40 ms trên một GPU H200 đơn lẻ và cho phép trả lời tới 64 câu hỏi trong một lần prefill. Hãng cũng đang chuẩn bị bổ sung hỗ trợ cho multimodal model Clef-Omni vào API. Động thái này nằm trong bản cập nhật lớn cho bộ công cụ AI của Cloudflare, gồm một decision model 27B tham số và pipeline đa phương thức gốc trong Clef-Omni để xử lý âm thanh, video và hình ảnh. Gần đây, hãng đã tăng gấp đôi tốc độ suy luận cho dòng model này và hạ giá Clef-Flash xuống 0,038 USD cho mỗi triệu token đầu vào. Các nhóm nội bộ đang dùng các mô hình này để nhận diện thông tin định danh cá nhân và phát hiện tên miền độc hại."
---

# Cloudflare tích hợp Clef AI vào SGLang để đạt độ trễ dưới 40 ms

> [Open the canonical story](<https://aidr.today/b33f2a4b?lang=vi>)

**Published:** 2026-10-12T17:12:52.000Z
**Category:** Tools
**Topics:** inference, devtools

## Summary

Sau khi tích hợp kỹ thuật với framework SGLang, lập trình viên nay đã có thể truy cập các decision model thuộc họ Clef thông qua API /v1/systemone\. Cloudflare đóng góp các tối ưu hiệu năng upstream, giúp decision model Clef\-Flash đạt độ trễ dưới 40 ms trên một GPU H200 đơn lẻ và cho phép trả lời tới 64 câu hỏi trong một lần prefill\. Hãng cũng đang chuẩn bị bổ sung hỗ trợ cho multimodal model Clef\-Omni vào API\. Động thái này nằm trong bản cập nhật lớn cho bộ công cụ AI của Cloudflare, gồm một decision model 27B tham số và pipeline đa phương thức gốc trong Clef\-Omni để xử lý âm thanh, video và hình ảnh\. Gần đây, hãng đã tăng gấp đôi tốc độ suy luận cho dòng model này và hạ giá Clef\-Flash xuống 0,038 USD cho mỗi triệu token đầu vào\. Các nhóm nội bộ đang dùng các mô hình này để nhận diện thông tin định danh cá nhân và phát hiện tên miền độc hại\.

## Sources

- [Story source](<https://huggingnews.com/ai/update-cloudflare-integrates-clef-ai-into-sglang-for-sub-40-ms-latency-32190193>)
- [Story source](<https://marketbrief.now/ai/update-cloudflare-integrates-clef-ai-into-sglang-for-sub-40-ms-latency-32190193>)