Hugging Face Daily Papers·· 2 天前AI 评分22
reViT：单块循环、深度编程专家的循环视觉 Transformer
One Block, Multiple Depths: Recurrent Vision Transformers with Depth-Programmed Experts
AI 导读
reViT 用单个 Transformer 块循环复用，在同等推理 FLOPs 下达到全深度视觉编码器的精度，且无需中间特征蒸馏。它把每个循环深度的 FFN 表示为小型共享专家库的凸组合，由归一化深度坐标编程，可重采样出 FFN 参数空间轨迹。
来源：Hugging Face Daily Papers · huggingface.co