---
format: "aidr-story-markdown/v1"
id: "43871841ab877df2a3b5574912749d96f2b8dfeffafa083fdfec62e39924ba51"
canonical_url: "https://aidr.today/43871841?lang=vi"
title: "Xây dựng LLM gateway tự phục vụ với Amazon Bedrock và LiteLLM"
lang: "vi"
requested_lang: "vi"
available_langs: ["en","vi"]
translation_fallback: null
fallback_fields: []
published_at: "2026-11-12T18:41:12.000Z"
category: "Tools"
topics: ["amazon","llm","devtools"]
source_urls: ["https://aws.amazon.com/blogs/machine-learning/building-a-self-service-llm-gateway-with-amazon-bedrock-and-litellm/"]
summary: "Sử dụng LiteLLM trên AWS Fargate để xây dựng LLM gateway tự phục vụ, đặt các foundation model của Amazon Bedrock phía sau một API tương thích với OpenAI. Các developer có thể truy cập ngay qua một API key duy nhất, trong khi các platform team được kiểm soát chi phí theo người dùng, cô lập quota và khả năng quan sát."
---

# Xây dựng LLM gateway tự phục vụ với Amazon Bedrock và LiteLLM

> [Open the canonical story](<https://aidr.today/43871841?lang=vi>)

**Published:** 2026-11-12T18:41:12.000Z
**Category:** Tools
**Topics:** amazon, llm, devtools

## Summary

Sử dụng LiteLLM trên AWS Fargate để xây dựng LLM gateway tự phục vụ, đặt các foundation model của Amazon Bedrock phía sau một API tương thích với OpenAI\. Các developer có thể truy cập ngay qua một API key duy nhất, trong khi các platform team được kiểm soát chi phí theo người dùng, cô lập quota và khả năng quan sát\.

## Sources

- [Story source](<https://aws.amazon.com/blogs/machine-learning/building-a-self-service-llm-gateway-with-amazon-bedrock-and-litellm/>)