Infra17.11.2026 · 22:572 nguồn

Cách ArisGlobal mở rộng quy mô inference cho generative AI trên Amazon Bedrock

Từ aws.amazon.com

Ảnh: aws.amazon.com
AI;DR

ArisGlobal vận hành NavaX, engine AI cho khoa học đời sống của hãng, trên Amazon Bedrock. Bằng cách cache phần prompt prefix dùng chung thay vì cho từng tài liệu riêng biệt, ArisGlobal đã cắt giảm khoảng 50% chi phí đầu vào thực tế và khoảng 40% tổng chi tiêu inference hàng tháng, đồng thời tiếp nhận thêm nhiều tenants mà không làm chi phí tăng trưởng tương ứng.

Đọc bài gốcĐăng nhập để góp ý

Nguồn

Bản tin mỗi sáng

Tin quan trọng nhất trong ngày. Miễn phí, hủy bất cứ lúc nào.

Telegram @aihomnay