---
format: "aidr-story-markdown/v1"
id: "c6508b38273ac8df8a757a33775dc90a1b6d705214f63da2f8f940f83db99573"
canonical_url: "https://aidr.today/c6508b38?lang=vi"
title: "Cách ArisGlobal mở rộng quy mô inference cho generative AI trên Amazon Bedrock"
lang: "vi"
requested_lang: "vi"
available_langs: ["en","vi"]
translation_fallback: null
fallback_fields: []
published_at: "2026-11-17T15:57:09.000Z"
category: "Infra"
topics: ["amazon","inference","agent"]
source_urls: ["https://aws.amazon.com/blogs/machine-learning/how-arisglobal-scaled-generative-ai-inference-on-amazon-bedrock/","https://aws.amazon.com/blogs/machine-learning/how-loanpro-built-an-agentic-ai-loan-servicing-assistant-with-amazon-bedrock-agentcore/","https://aws.amazon.com/blogs/machine-learning/how-salesforce-is-advancing-global-scale-model-serving-with-cross-region-inference-routing-in-amazon-sagemaker-ai/"]
summary: "ArisGlobal vận hành NavaX, engine AI cho khoa học đời sống của hãng, trên Amazon Bedrock. Bằng cách cache phần prompt prefix dùng chung thay vì cho từng tài liệu riêng biệt, ArisGlobal đã cắt giảm khoảng 50% chi phí đầu vào thực tế và khoảng 40% tổng chi tiêu inference hàng tháng, đồng thời tiếp nhận thêm nhiều tenants mà không làm chi phí tăng trưởng tương ứng."
---

# Cách ArisGlobal mở rộng quy mô inference cho generative AI trên Amazon Bedrock

> [Open the canonical story](<https://aidr.today/c6508b38?lang=vi>)

**Published:** 2026-11-17T15:57:09.000Z
**Category:** Infra
**Topics:** amazon, inference, agent

## Summary

ArisGlobal vận hành NavaX, engine AI cho khoa học đời sống của hãng, trên Amazon Bedrock\. Bằng cách cache phần prompt prefix dùng chung thay vì cho từng tài liệu riêng biệt, ArisGlobal đã cắt giảm khoảng 50% chi phí đầu vào thực tế và khoảng 40% tổng chi tiêu inference hàng tháng, đồng thời tiếp nhận thêm nhiều tenants mà không làm chi phí tăng trưởng tương ứng\.

## Sources

- [Story source](<https://aws.amazon.com/blogs/machine-learning/how-arisglobal-scaled-generative-ai-inference-on-amazon-bedrock/>)
- [Story source](<https://aws.amazon.com/blogs/machine-learning/how-loanpro-built-an-agentic-ai-loan-servicing-assistant-with-amazon-bedrock-agentcore/>)
- [Story source](<https://aws.amazon.com/blogs/machine-learning/how-salesforce-is-advancing-global-scale-model-serving-with-cross-region-inference-routing-in-amazon-sagemaker-ai/>)

