Hugging Face Daily Papers·· 1 天前精选AI 评分50
DoubtLess：免训练对比解码让推理更简洁
DoubtLess: Training-Free Contrastive Decoding for Efficient Reasoning
AI 导读
DoubtLess 是一种免训练的解码方法，让一个更小的推理模型引导大模型缩短思维链。小模型对当前 CoT 分别以简洁和冗长两种提示各读一遍，两次 logit 向量之差按强度缩放后加到每一步大模型的 logits 上。
推荐理由
提出免训练对比解码方法，用更小模型引导大模型缩短思维链，读者可了解其在不损失准确率下的压缩效果。
来源：Hugging Face Daily Papers · huggingface.co