Dừng đoán mục tiêu tự động mở rộng cho TTS trên Amazon SageMaker AI

Các nhóm triển khai mô hình chuyển đổi văn bản thành giọng nói tùy chỉnh trên Amazon SageMaker AI thường đoán ngưỡng tự động mở rộng, và một phỏng đoán sai sẽ tốn chi phí GPU hoặc vi phạm SLO độ trễ. Bài viết này triển khai Kokoro-82M dưới dạng container tùy chỉnh và suy ra một chính sách tự động mở rộng dựa trên hai phép đo endpoint trực tiếp, Q_max và T_total, thay vì đoán.