LangChain giảm 64% chi phí cho coding agent nhờ dùng open SWE model router

Coding agent mã nguồn mở Open SWE nay dùng một router để chuyển từng luồng sang mô hình rẻ nhất có khả năng hoàn thành công việc. Trong thử nghiệm trên 973 luồng, cách định tuyến thích ứng này giúp hạ chi phí trung vị xuống còn 0,94 USD mỗi luồng, so với 2,61 USD khi chỉ dùng GPT-6 Astra. Dù giảm chi phí, hiệu năng vẫn ổn định với tỷ lệ pull request được gộp đạt 29,2% ở các luồng có định tuyến, trong khi nhóm đối chứng dùng Astra chỉ đạt 27,3%. Router chuyển 56% số luồng sang một mô hình cân bằng, 34% sang mô hình nhanh và 10% sang mô hình hiệu năng cao. LangChain cho biết router hiện là bản chứng minh khái niệm và lưu ý rằng một thử nghiệm chỉ dùng mô hình nhanh đã phải dừng lại trong vòng một ngày do chất lượng đầu ra thấp. Logic này tích hợp trực tiếp vào harness thay vì qua gateway để duy trì nhận thức về tác vụ. Các AI agent khác đang áp dụng chiến lược tương tự; Max định tuyến 67% phiên lập trình sang mô hình Astra (Medium) rẻ hơn, đồng thời chia các phiên chat và làm việc giữa Astra (Max) và Fable 5.1 (Max).