跳到正文
Hugging Face Daily Papers·· 2 天前精选AI 评分58

LoCo:用局部偏好学习压缩推理模型的思考长度

Think Less, Locally: Local Preference Learning for Reasoning Compression

AI 导读

LoCo 提出一种局部偏好学习方法,从模型自身推理轨迹中识别过度思考状态,冻结对应前缀后重新生成更短的已验证续写,再用 DPO 训练模型判断何时继续推理、何时结束。

推荐理由

论文提出用局部偏好学习判断推理何时该停,在数学和代码任务上同时压缩输出长度并保持准确率。

来源:Hugging Face Daily Papers · huggingface.co