Infra17.11.2026 · 22:572 nguồn
Cách ArisGlobal mở rộng quy mô inference cho generative AI trên Amazon Bedrock
Từ aws.amazon.com
ArisGlobal vận hành NavaX, engine AI cho khoa học đời sống của hãng, trên Amazon Bedrock. Bằng cách cache phần prompt prefix dùng chung thay vì cho từng tài liệu riêng biệt, ArisGlobal đã cắt giảm khoảng 50% chi phí đầu vào thực tế và khoảng 40% tổng chi tiêu inference hàng tháng, đồng thời tiếp nhận thêm nhiều tenants mà không làm chi phí tăng trưởng tương ứng.
Đọc bài gốcĐăng nhập để góp ý
Nguồn
Bản tin mỗi sáng
Tin quan trọng nhất trong ngày. Miễn phí, hủy bất cứ lúc nào.
Telegram @aihomnay