Google Developers Blog·· 9 天前AI 评分27
在 TPU 上加速视频扩散模型的时空注意力
Accelerating Spatio-Temporal Attention for Video Diffusion on TPUs
AI 导读
Google 分享了在 TPU 上将视频扩散模型稀疏注意力理论转化为端到端加速的案例。81 帧 720p 视频的序列长度达 50K 至 400K,从 720p 升至 1440p 时序列长度翻两番,全注意力在单层延迟中占比可从 55.5% 升至 88.2%。
来源:Google Developers Blog · developers.googleblog.com