Z.ai GLM-5.3 Agent Tăng 3 Lần Thông Lượng GLM-5.3-Flash Trong 2 Tuần Xây Dựng Sản Xuất
Infra15 ngày trướcAgent cơ sở hạ tầng mới nhất của Z.ai đã tích hợp GLM-5.3-Flash vào môi trường sản xuất trên các bộ tăng tốc nội địa bằng cách sử dụng một vòng lặp phản hồi tự động. Hệ thống đã đạt đến mức sẵn sàng sản xuất trong vòng chưa đầy hai tuần, tăng thông lượng đầu cuối lên 3,2 lần so với đường cơ sở ban đầu. Các kỹ sư đã cung cấp các mục tiêu và ràng buộc, trong khi agent do GLM-5.3 điều khiển thực hiện các tối ưu hóa.
Agent đã sử dụng phản hồi dày đặc, bao gồm các microbenchmark và dấu vết thực thi, để xác định các nút thắt kỹ thuật. Nó đã giảm chi phí chuyển giao KV từ hơn 30% xuống dưới 1% và tái cấu trúc một kernel giải mã để đạt được tốc độ tăng 1,71 lần. Những cải tiến này được phát triển trong các ràng buộc về phần cứng, chẳng hạn như băng thông liên kết hạn chế và cửa sổ ngữ cảnh 1 triệu token.
Nguồn chính
- SOURCE@zai_org“end-to-end throughput tripling relative to the initial baseline”x.com
- SUPPORT@jietang“KV transfer overhead fell from over 30% to under 1%”x.com
- SUPPORT@zixuanli_“a GLM-5.3-powered agent helped bring a production inference system online in less than two weeks”x.com
- SOURCEmarketbrief.now