AWS Machine Learning Blog· Joseph Cottingham·· 3 小时前精选AI 评分49
AWS 用实测数据替代 TTS 在 SageMaker AI 上的自动扩缩容猜测
Stop guessing auto scaling targets for TTS on Amazon SageMaker AI
AI 导读
AWS 在 Amazon SageMaker AI 实时端点上部署 Kokoro-82M 语音合成模型，用两项实测数据替代凭猜测设定的自动扩缩容目标：单实例在 SLO 内可承受的最高并发 Q_max 为 50，一次完整扩容耗时 T_total 为 320.2 秒。
推荐理由
文章用实测的并发上限和扩容耗时推导自动扩缩容阈值，给出可复用的五步测量流程。
来源：AWS Machine Learning Blog · aws.amazon.com