AWS Machine Learning Blog· Josh Longenecker·2026-10-22 04:00· 3 小时前精选AI 评分58

在 AWS Trainium 上用 torchtitan 训练 Qwen3

Train Qwen3 on AWS Trainium with torchtitan

AI 导读

AWS 官方博客给出在单台 trn2.48xlarge 上用 torchtitan 训练 Qwen3 的三种方式：以 Transformers v5 作为建模后端、切换到 torchtitan 原生 Qwen3 实现，以及接入 NKI MoE kernel。

推荐理由

AWS 官方给出在 Trainium 上用 torchtitan 训练 Qwen3 的三种配置路径，含可复现版本与首步 loss 对照。

来源：AWS Machine Learning Blog · aws.amazon.com