Infra02.10.2026 · 05:393 nguồn

Modal ra mắt cụm đa node cho mô hình 1T tham số

Từ huggingnews.com

Ảnh: huggingnews.com
AI;DR

Các nhà phát triển trí tuệ nhân tạo giờ đây có thể triển khai và mở rộng quy mô khối lượng công việc bằng bộ công cụ cơ sở hạ tầng mở rộng trên nền tảng Modal. Việc phát hành rộng rãi các cụm đa node cho phép huấn luyện các mô hình có quy mô lên tới 1T tham số, một cột mốc mà người dùng Decagon đã đạt được. Các cụm này cung cấp các node kết nối RDMA có thể truy cập tức thì thông qua một decorator duy nhất sử dụng cấu hình rdma=True. Các bản cập nhật cho Modal's Runtime cũng bổ sung VM sandbox, sandbox sidecar và sticky sessions nhằm cải thiện khả năng cô lập khối lượng công việc cùng việc định tuyến yêu cầu. Những công cụ này cho phép tính toán phân tán hiệu năng cao bằng cách trao cho nhà phát triển quyền kiểm soát sâu hơn đối với cách khởi tạo và quản lý các compute node.

Đọc bài gốcĐăng nhập để góp ý

Nguồn

#llm#agentBản Markdown
Lịch sử nội dung (6)
  • 2026-10-04 · Tóm tắt · vi · Thay nội dung đã lưu
    Modal ra mắt multi node clusters nhằm hỗ trợ các mô hình có quy mô 1T parameter.
    Các nhà phát triển trí tuệ nhân tạo giờ đây có thể triển khai và mở rộng quy mô khối lượn…
  • 2026-10-04 · Tiêu đề · vi · Thay nội dung đã lưu
    Modal ra mắt multi node clusters cho các mô hình 1T parameter
    Modal ra mắt cụm đa node cho mô hình 1T tham số
  • 2026-10-04 · Tóm tắt · vi · Thay nội dung đã lưu
    Modal vừa ra mắt multi node clusters nhằm hỗ trợ các mô hình có quy mô 1T parameter.
    Modal ra mắt multi node clusters nhằm hỗ trợ các mô hình có quy mô 1T parameter.
  • 2026-10-04 · Tóm tắt · vi · Thay nội dung đã lưu
    Modal vừa ra mắt tính năng multi node clusters, cho phép chạy các mô hình có quy mô lên t…
    Modal vừa ra mắt multi node clusters nhằm hỗ trợ các mô hình có quy mô 1T parameter.
  • 2026-10-04 · Tóm tắt · vi · Thay nội dung đã lưu
    Modal vừa ra mắt giải pháp multi-node clusters được thiết kế để chạy các mô hình lớn lên …
    Modal vừa ra mắt tính năng multi node clusters, cho phép chạy các mô hình có quy mô lên t…
  • 2026-10-04 · Tiêu đề · vi · Thay nội dung đã lưu
    Modal ra mắt cụm đa nút tính toán hỗ trợ mô hình 1T tham số
    Modal ra mắt multi node clusters cho các mô hình 1T parameter

Bản tin mỗi sáng

Tin quan trọng nhất trong ngày. Miễn phí, hủy bất cứ lúc nào.

Telegram @aihomnay