Hugging Face Daily Papers·· 2 天前精选AI 评分58
LoCo:用局部偏好学习压缩推理模型的思考长度
Think Less, Locally: Local Preference Learning for Reasoning Compression
AI 导读
LoCo 提出一种局部偏好学习方法,从模型自身推理轨迹中识别过度思考状态,冻结对应前缀后重新生成更短的已验证续写,再用 DPO 训练模型判断何时继续推理、何时结束。
推荐理由
论文提出用局部偏好学习判断推理何时该停,在数学和代码任务上同时压缩输出长度并保持准确率。
来源:Hugging Face Daily Papers · huggingface.co