Looped Uniform Diffusion Language Models：循环早期层提升 UDLM 训练与推理效率

研究在不改变训练目标和采样器的前提下，将选择性循环引入 uniform diffusion language models（UDLMs），循环 UDLM 在 OpenWebText 上以最多 2.8x 更少训练 FLOPs、FineWeb-Edu 上 3.3x 更少 FLOPs 达到非循环 UDLM 约 0.5 万亿 token 训练的验证 NLL。