Hugging Face Daily Papers·· 5 天前精选AI 评分46
ELR：让循环语言模型在单次循环下不损失精度的训练方案
One Model to Loop Them All: Elastic Latent Recurrence for Language Models
AI 导读
论文提出 Elastic Latent Recurrence（ELR），一种训练循环语言模型的方法，使模型在单次循环时与同规模非循环模型服务成本相同、精度相近，每增加一次循环则用更多推理算力换取更高精度。
推荐理由
论文提出消除循环模型单次循环精度损失的训练方案，并给出4B与30B-A3B模型上的多任务对比数据。
来源：Hugging Face Daily Papers · huggingface.co