Baseten ra mắt Sandboxes cung cấp môi trường lưu trạng thái cho AI agent

Baseten đã phát hành dịch vụ Sandboxes mới, cung cấp môi trường máy ảo an toàn và có trạng thái cho AI agent. Công cụ này chụp nhanh các tiến trình đang chạy, bộ nhớ và filesystem của agent khi ngắt kết nối, cho phép compute co về 0 cho đến khi agent được tiếp tục từ đúng điểm bị gián đoạn. Sản phẩm miễn phí cho người dùng đến ngày 16 tháng 11 và có khả năng khởi động từ chế độ chờ trong mili giây để hỗ trợ hàng nghìn instance. Đây là bản cập nhật thứ hai trong ba bản cập nhật nền tảng inference của Baseten tuần này, sau khi ra mắt bộ định tuyến model Grid và trước khi Loops, công cụ fine-tune serverless cho open-weight model, có sẵn rộng rãi vào thứ sáu.