跳到正文
AWS Machine Learning Blog· Joseph Cottingham·· 2 小时前AI 评分40

别再猜 Amazon SageMaker AI 上 TTS 的自动扩缩容目标值了

Stop guessing auto scaling targets for TTS on Amazon SageMaker AI

AI 导读

针对自托管 TTS 端点自动扩缩容目标值靠猜的问题,AWS 在 Amazon SageMaker AI 实时端点上以自定义容器部署 82M 参数的 Kokoro-82M,用实测的 Q_max(单实例在 SLO 内可承受的最高并发)和 T_total(一次扩容端到端耗时)推算扩容阈值、缩容阈值与两个冷却时间。

来源:AWS Machine Learning Blog · aws.amazon.com

木叶资讯微信公众号二维码

关注公众号,每天收到精选与决策卡

长按识别二维码