AWS发布TTS自动扩缩容目标值实测方法

AWS在Amazon SageMaker AI实时端点上以自定义容器部署82M参数的Kokoro-82M语音合成模型，用实测的单实例最高并发Q_max和一次扩容端到端耗时T_total，推算扩容阈值、缩容阈值和两个冷却时间，替代凭经验猜测自动扩缩容目标值。 运行扩容测量前，需有ml.g5.xlarge服务配额，且比基线至少多一个空闲槽位。示例容器固定了带已知漏洞PYSEC-2026-2286的旧版PyTorch（该漏洞在torch 2.10.0修复），AWS提示非概念验证用途前应审查并升级。 AWS称，文中算例可用两份已提交的测量文件重跑plan独立复现，无需调用AWS、不产生新费用；清理步骤不会清空缓存模型权重的S3桶或删除容器镜像所在的ECR仓库，因为二者可跨模型共用。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。