DeepSeek Elastic Compute (DSec): Cơ sở hạ tầng Sandbox cho Huấn luyện Agent hiệu quả ở quy mô lớn

Huấn luyện và đánh giá agent ở quy mô lớn với các mô hình ngôn ngữ lớn (LLM) đòi hỏi các môi trường thực thi cô lập, có trạng thái, trong đó các mô hình kiểm tra kho lưu trữ, gọi công cụ, thực thi lệnh và tương tác với các dịch vụ cụ thể. Các khối lượng công việc này tạo ra các sandbox theo từng đợt lớn, bao gồm các yêu cầu chức năng và cô lập khác nhau, duy trì trạng thái qua các tương tác dài và sử dụng các bộ ảnh lớn với khả năng tái sử dụng hạn chế. Do đó, việc hỗ trợ chúng yêu cầu một nền tảng thực thi linh hoạt hơn là một runtime sandbox đơn lẻ. Báo cáo này giới thiệu DeepSeek Elastic Compute (DSec), một nền tảng sandbox sản xuất cung cấp các backend FnCall, container, microVM và full-VM thông qua một SDK thống nhất. DSec điều phối việc đặt vị trí và quản lý vòng đời trên toàn cụm, đồng thời cung cấp các dịch vụ phụ trợ như lưu trữ phân tán, quản lý bí mật và giám sát hiệu suất. Chúng tôi trình bày các kết quả từ việc triển khai DSec trong các thí nghiệm huấn luyện agent, bao gồm việc đánh giá hiệu suất, phân tích chi phí và các bài học kinh nghiệm.