Hugging Face Daily Papers·· 1 天前AI 评分34
ALLOT：面向视频扩散 Transformer 的免训练块稀疏注意力分配方法
Sparsity Should Be ALLOTted by Output: Training-Free Allocation of Block-Sparse Attention for Video Diffusion Transformers
AI 导读
ALLOT 是一种免训练的块稀疏注意力密度分配方法，按层与去噪步的组合（layer-step）分配稀疏度，在延迟预算内最大化视频输出保真度。在 HunyuanVideo 上搭配 XAttention 时，ALLOT 在相同或更短的实际耗时下取得 11.8 dB 的 PSNR 提升。
来源：Hugging Face Daily Papers · huggingface.co