跳到正文
热点事件持续更新

AWS 教程:Kokoro TTS 端点实测扩缩容与逐句流式

2 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

AWS 发布教程,在 Amazon SageMaker AI 实时端点上部署 Kokoro-82M 语音合成模型,用两项实测数据替代凭猜测设定的自动扩缩容目标:单实例在 SLO 内可承受的最高并发 Q_max 为 50,一次完整扩容耗时 T_total 为 320.2 秒。教程称,示例中的全部数字可用两份已提交的测量文件重新运行复现,无需调用 AWS 服务、不产生新费用;运行扩容测量前,需在基线之上预留至少一个 ml.g5.xlarge 服务配额槽位。 AWS 另发布教程,把智能体生成的每个句子即时送入该模型合成,而不必等整段回复完成,以降低语音输出的首句延迟。两份教程均提示,示例容器固定了较早版本的 PyTorch,存在已知漏洞 PYSEC-2026-2286(已在 torch 2.10.0 修复),非验证用途前应检查并升级该版本。 按流式教程清理资源时,需按先智能体、后端点的逆序拆除以避免持续计费;该步骤不会清空缓存模型权重的 S3 存储桶,也不会删除存放容器镜像的 ECR 仓库,两者可跨模型共享,如不再需要须手动清空和删除,否则会继续产生少量存储费用。

AI 根据报道生成 · 53 分钟前更新

事件进展

2 个进展

  1. 10月23日 01:45 · 1 篇报道
    AWS 博客介绍语音 Agent 逐句流式 TTS 方案
    AWS Machine Learning Blog:在 Amazon SageMaker AI 上用 Kokoro TTS 为 AI 智能体流式输出低延迟语音
  2. 10月23日 00:30 · 1 篇报道
    发布TTS端点自动扩缩容测量方法教程
    AWS Machine Learning Blog:AWS 用实测数据替代 TTS 在 SageMaker AI 上的自动扩缩容猜测

报道时间线

沿着报道,了解事件的不同侧面。

10月23日
  1. AWS Machine Learning Blog精选
    在 Amazon SageMaker AI 上用 Kokoro TTS 为 AI 智能体流式输出低延迟语音

    AWS 发布教程,介绍如何在 Amazon SageMaker AI 上部署 Kokoro-82M 语音合成模型,把智能体生成的每个句子即时送入模型合成,而不必等整段回复完成。

  2. AWS Machine Learning Blog精选
    AWS 用实测数据替代 TTS 在 SageMaker AI 上的自动扩缩容猜测

    AWS 在 Amazon SageMaker AI 实时端点上部署 Kokoro-82M 语音合成模型,用两项实测数据替代凭猜测设定的自动扩缩容目标:单实例在 SLO 内可承受的最高并发 Q_max 为 50,一次完整扩容耗时 T_total 为 320.2 秒。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。