Hugging Face Daily Papers·· 2 天前精选AI 评分55
AB-Attention：用精确块注意力加速视频扩散 Transformer
AB-Attention: Accurate Block Attention for Accelerating Video Diffusion Transformers
AI 导读
论文提出 AB-Attention，一种免训练方法，通过块内聚类选择、按包含概率加权采样和细粒度 kernel 聚合，在高稀疏度下近似稠密视频扩散注意力。在 Wan2.1 和 HunyuanVideo 上，该方法跳过 89–92% 的注意力计算，基线计算量是其 1.8–3.6 倍，但 PSNR 仍比最强基线最高提升 4.4 dB，端到端最高加速 2.23 倍。代码已开源于 GitHub。
推荐理由
论文提出免训练的高稀疏注意力近似方法，在视频扩散模型上兼顾保真度与推理速度。
来源：Hugging Face Daily Papers · huggingface.co