Models23.09.2026 · 07:51

DeepSeek Elastic Compute (DSec): Hạ tầng sandbox để huấn luyện agentic hiệu quả ở quy mô lớn

Từ arxiv.org

AI;DR

Việc huấn luyện và đánh giá agentic quy mô lớn với các LLMs dựa trên các môi trường thực thi biệt lập, có lưu trạng thái, nơi các mô hình kiểm tra kho lưu trữ, gọi công cụ, thực thi lệnh và tương tác với các dịch vụ đặc thù. Các khối lượng công việc này tạo ra sandbox theo từng đợt bùng phát lớn, trải dài trên nhiều chức năng và yêu cầu cô lập khác nhau, duy trì trạng thái qua các tương tác dài và khai thác từ các kho dữ liệu hình ảnh lớn với khả năng tái sử dụng hạn chế. Do đó, việc hỗ trợ chúng đòi hỏi một nền tảng thực thi Elastic thay vì một runtime sandbox đơn lẻ.

Báo cáo này giới thiệu DeepSeek Elastic Compute (DSec), một nền tảng sandbox thực tế cung cấp các backend FnCall, container, microVM và full-VM thông qua một SDK thống nhất. DSec điều phối việc sắp xếp và quản lý vòng đời trên toàn cụm, cấu thành các môi trường từ các lớp phiên bản độc lập, kết hợp chia sẻ bộ nhớ, thu hồi và lập lịch CPU để thực thi mật độ cao, đồng thời tải dữ liệu hình ảnh theo yêu cầu từ Fire-Flyer File System (3FS). DSec được thiết kế đồng bộ với khung RL, tách biệt việc thực thi rollout có trạng thái khỏi quá trình huấn luyện GPU có thể bị ưu tiên ngắt, điều phối vòng đời sandbox với việc huấn luyện để bảo toàn trạng thái rollout trong khi thu hồi tài nguyên nhàn rỗi, và giảm thiểu các hành vi sai trái của agent như reward hacking.

Một đơn vị quy mô sản xuất đơn lẻ của DSec trải rộng khoảng 160 node, phục vụ khoảng 3 triệu sandbox mỗi ngày; trong thực tế, hệ thống hỗ trợ hơn 380.000 sandbox đồng thời và duy trì tốc độ tạo hơn 5.000 sandbox mỗi giây. Kinh nghiệm đánh giá và triển khai của chúng tôi cho thấy các cơ chế này giúp giảm chi phí thiết lập môi trường và phân phối hình ảnh, cải thiện hiệu quả bộ nhớ và duy trì hiệu suất nhạy cảm với độ trễ trong điều kiện quá tải mật độ cao.

Đọc bài gốcĐăng nhập để góp ý

Nguồn

+ 1 nguồn khác
  1. THẢO LUẬNveqqlobste.rs
#anthropic#claude#multi-agent#open-sourceBản Markdown
Lịch sử nội dung (10)
  • 2026-10-04 · Tóm tắt · vi · Thay nội dung đã lưu
    DeepSeek Elastic Compute (DSec) cung cấp hạ tầng sandbox hỗ trợ việc huấn luyện agentic m…
    Việc huấn luyện và đánh giá agentic quy mô lớn với các LLMs dựa trên các môi trường thực …
  • 2026-10-04 · Tiêu đề · vi · Thay nội dung đã lưu
    DeepSeek Elastic Compute (DSec): Hạ tầng sandbox giúp huấn luyện agentic hiệu quả ở quy m…
    DeepSeek Elastic Compute (DSec): Hạ tầng sandbox để huấn luyện agentic hiệu quả ở quy mô …
  • 2026-10-04 · Tóm tắt · vi · Thay nội dung đã lưu
    DeepSeek công bố DeepSeek Elastic Compute (DSec), một hạ tầng sandbox được thiết kế chuyê…
    DeepSeek Elastic Compute (DSec) cung cấp hạ tầng sandbox hỗ trợ việc huấn luyện agentic m…
  • 2026-10-04 · Tiêu đề · vi · Thay nội dung đã lưu
    DeepSeek giới thiệu DSec: hạ tầng sandbox cho huấn luyện agentic agent ở quy mô lớn
    DeepSeek Elastic Compute (DSec): Hạ tầng sandbox giúp huấn luyện agentic hiệu quả ở quy m…
  • 2026-10-04 · Tóm tắt · vi · Thay nội dung đã lưu
    DeepSeek ra mắt DSec (DeepSeek Elastic Compute), một hạ tầng sandbox thiết kế để hỗ trợ v…
    DeepSeek công bố DeepSeek Elastic Compute (DSec), một hạ tầng sandbox được thiết kế chuyê…
  • 2026-10-04 · Tiêu đề · vi · Thay nội dung đã lưu
    DeepSeek Elastic Compute (DSec): Hạ tầng sandbox cho huấn luyện agentic hiệu quả quy mô l…
    DeepSeek giới thiệu DSec: hạ tầng sandbox cho huấn luyện agentic agent ở quy mô lớn
  • 2026-10-04 · Tóm tắt · vi · Thay nội dung đã lưu
    Huấn luyện và đánh giá agent ở quy mô lớn với các LLM đòi hỏi các môi trường thực thi cô …
    DeepSeek ra mắt DSec (DeepSeek Elastic Compute), một hạ tầng sandbox thiết kế để hỗ trợ v…
  • 2026-10-04 · Tiêu đề · vi · Thay nội dung đã lưu
    DeepSeek Elastic Compute: Cơ sở hạ tầng sandbox cho huấn luyện agent hiệu quả ở quy mô lớn
    DeepSeek Elastic Compute (DSec): Hạ tầng sandbox cho huấn luyện agentic hiệu quả quy mô l…
  • 2026-10-04 · Tiêu đề · vi · Sửa câu chữ
    DeepSeek Elastic Compute (DSec): Cơ sở hạ tầng Sandbox cho Huấn luyện Agent hiệu quả ở qu…
    DeepSeek Elastic Compute: Cơ sở hạ tầng sandbox cho huấn luyện agent hiệu quả ở quy mô lớn
  • 2026-10-04 · Tóm tắt · vi · Sửa câu chữ
    Huấn luyện và đánh giá agent ở quy mô lớn với các mô hình ngôn ngữ lớn (LLM) đòi hỏi các …
    Huấn luyện và đánh giá agent ở quy mô lớn với các LLM đòi hỏi các môi trường thực thi cô …

Bản tin mỗi sáng

Tin quan trọng nhất trong ngày. Miễn phí, hủy bất cứ lúc nào.

Telegram @aihomnay