跳到正文
Hugging Face Blog·· 22 小时前精选AI 评分72

Hugging Face 推出 TorchNeuron,让 HF 模型在 AWS Trainium 上原生运行

TorchNeuron: running HF models on AWS Trainium is easier than ever

AI 导读

Hugging Face 发布 TorchNeuron,为 AWS Trainium 提供 PyTorch 原生后端,Transformers、Diffusers、Accelerate、PEFT 和 TRL 可直接在该设备上运行,无需再经过 Optimum Neuron。

推荐理由

原文给出了 Trainium 原生后端的支持范围与迁移方式,读者可据此判断现有 HF 工作流要改多少。

来源:Hugging Face Blog · huggingface.co