Baseten tuyên bố Grid router mới giảm 72% chi phí coding AI so với Opus 5.5

Cổng model mới của Baseten tự động chọn các AI model dựa trên chất lượng và giá để ngăn kỹ sư chi tiêu quá mức cho các khả năng frontier đắt tiền cho các tác vụ đơn giản. Công ty cho biết Grid router đã giảm chi phí cho các tác vụ coding 72% so với Claude Opus 5.5 trong các benchmark nội bộ, vượt qua việc định tuyến ngẫu nhiên ở mọi ngưỡng đã kiểm tra. Công cụ này hỗ trợ các model từ OpenAI, Google, Anthropic và Amazon, đồng thời cung cấp governance và ngân sách theo team để quản lý chi tiêu AI. Router là bản cập nhật đầu tiên trong ba bản cập nhật cho inference platform của Baseten ra mắt tuần này nhằm hợp nhất training và execution. Công ty sẽ thêm sandbox vào thứ Năm để cung cấp môi trường cách ly VM cho AI agent, khả năng này được xây dựng trên việc mua lại Blaxel. Thứ Sáu, Baseten sẽ cho Loops khả dụng chung, cho phép các doanh nghiệp thực hiện reinforcement learning và fine-tune có giám sát trên model open-weight trực tiếp từ laptop.