1

Lỗ hổng KV cache liên yêu cầu trong mô hình GLM-5.3 Workers AI và cách khắc phục bằng SGLang

blog.cloudflare.com

Một cấu hình không khớp trong GLM 5.3 trên Workers AI đã kích hoạt một lỗi SGLang khiến các trang KV cache bị lộ ra giữa các yêu cầu. Dưới đây là cách chúng tôi đã xử lý vấn đề.

Đăng nhập để góp ý

Nguồn chính

  1. SOURCEblog.cloudflare.com
Bản Markdown