Microsoft định tuyến tác vụ Copilot chạy cục bộ để giảm chi phí suy luận

Hệ thống định tuyến mới mang tên HydraFusion hiện phân phối các tác vụ AI giữa mô hình trên thiết bị và mô hình đám mây trong hệ sinh thái Windows nhằm giảm chi phí vận hành. GitHub Copilot nay chuyển giao công việc lập trình thông thường từ Claude Haiku 4.5 của Anthropic sang MAI-Code-1.1 Flash chạy cục bộ, một mô hình 137B tham số với context window 256K token. Các yêu cầu chạy trên thiết bị này không mất phí suy luận đối với người dùng, còn Microsoft Execution Containers (MXC), hiện đã chính thức phát hành trên Windows 11, giúp cô lập hoạt động của agent vào các tệp và vị trí mạng chỉ định để đảm bảo an ninh.

Phần mềm này phụ thuộc vào phần cứng Nvidia RTX Spark, trang bị GPU Blackwell và tối đa 128GB bộ nhớ hợp nhất để đạt hiệu năng 1 petaflop FP4. Microsoft đang bán mẫu máy Surface Laptop Ultra hỗ trợ phần cứng này với giá khởi điểm 2.599 USD cùng một thiết bị Surface RTX Spark Dev Box có giá 5.999 USD. Các trải nghiệm agent cục bộ từ Perplexity, Hermes và OpenClaw cũng sắp ra mắt trên Windows nhằm chuyển các tác vụ agentic ra khỏi các môi trường chỉ dùng đám mây.графіק