跳到正文
Google Developers Blog·· 9 天前AI 评分27

在 TPU 上加速视频扩散模型的时空注意力

Accelerating Spatio-Temporal Attention for Video Diffusion on TPUs

AI 导读

Google 分享了在 TPU 上将视频扩散模型稀疏注意力理论转化为端到端加速的案例。81 帧 720p 视频的序列长度达 50K 至 400K,从 720p 升至 1440p 时序列长度翻两番,全注意力在单层延迟中占比可从 55.5% 升至 88.2%。

来源:Google Developers Blog · developers.googleblog.com