Tools02.10.2026 · 23:268 nguồn

Hiệu suất của Cloudflare Clef bị ảnh hưởng do giới hạn tốc độ nghiêm ngặt

Từ huggingnews.com

Ảnh: huggingnews.com
AI;DR

Các bài kiểm tra tải độc lập đối với các decision model Clef và Clef-flash của Cloudflare cho thấy tình trạng bóp băng thông và timeout nghiêm trọng khi sử dụng liên tục. Thử nghiệm từ các nhà phát triển cho thấy yêu cầu bắt đầu thất bại với lỗi 429 và timeout khi duy trì ở mức chỉ 5 đến 8 RPS, với tỷ lệ lỗi đạt 1% tại 8 RPS. Những con số này trái ngược với endpoint Jev chính thức của đối thủ TypeSafe, vốn duy trì được hơn 500 RPS trong các bài kiểm tra ngắn, trong khi Clef gây thêm khoảng 150ms độ trễ so với các endpoint chính thức khi chạy trên Cloudflare.

Cloudflare khẳng định các mô hình open-weight tự phát triển đầu tiên của hãng nhanh hơn 4 lần và chính xác hơn 2 lần so với Jev trên một số benchmark cụ thể, nhờ dùng backbone Qwen đóng băng và một schema head chuyên dụng để chấm điểm các câu trả lời song song. Clef dựa trên Qwen3.8-27B và Clef-flash dựa trên Qwen3.5-9B; cả hai đều tương thích Jev-API và được thiết kế cho các tác vụ phân loại và định tuyến trong agentic workflow. Các mô hình này hiện có sẵn dưới dạng open weights trên Hugging Face và được host trên nền tảng Workers AI của Cloudflare.

Đọc bài gốcĐăng nhập để góp ý

Nguồn

+ 6 nguồn khác
  1. SUPPORT@jiaxi_cui“持续跑 15 分钟,5 RPS 就有零星 429 和超时,8 RPS 失败率到 1% 左右”x.com
  2. SUPPORT@steipete“Today, we’re releasing two Cloudflare-trained decision models, Clef and Clef-flash”x.com
  3. SUPPORT@borisdayma“why is it so expensive compared to Jev?”x.com
  4. SUPPORT@hwchase17“your harness should be able to swap its decision model as easily as its main model”x.com
  5. SUPPORT@miaai_lab“it's 4x faster than Jev at 2x the accuracy on some benchmarks”x.com
  6. SUPPORT@lucataco“clef-flash runs ~13x faster than Jev”x.com
#inference#devtoolsBản Markdown
Lịch sử nội dung (3)
  • 2026-10-04 · Tóm tắt · vi · Thay nội dung đã lưu
    Hiệu suất của Cloudflare Clef đã ghi nhận nhiều chiến thắng, nhưng những chiến thắng này …
    Các bài kiểm tra tải độc lập đối với các decision model Clef và Clef-flash của Cloudflare…
  • 2026-10-04 · Tiêu đề · vi · Thay nội dung đã lưu
    Những lợi thế hiệu năng của Cloudflare Clef bị rate limiting nặng kéo xuống
    Hiệu suất của Cloudflare Clef bị ảnh hưởng do giới hạn tốc độ nghiêm ngặt
  • 2026-10-04 · Tiêu đề · vi · Sửa câu chữ
    Cloudflare Clef's Performance Wins Hit by Heavy Rate Limiting
    Những lợi thế hiệu năng của Cloudflare Clef bị rate limiting nặng kéo xuống

Bản tin mỗi sáng

Tin quan trọng nhất trong ngày. Miễn phí, hủy bất cứ lúc nào.

Telegram @aihomnay