Hugging Face Daily Papers·· 5 天前精选AI 评分51
不确定性引导渐进收缩框架：用 0.22% 优化预算完成推理后训练
Learning More by Training Less: Uncertainty-Guided Progressive Contraction for Efficient Reasoning Post-Training
AI 导读
论文提出不确定性引导渐进收缩框架，围绕中间推理状态构建蒙特卡洛推理树以刻画过程级不确定性，先把原始语料收缩为紧凑的教师信息池，再在 SFT 中按学生实时学习状态做在线路由，两阶段同时压缩监督与优化。实验显示该方法仅用全量数据 SFT 的 0.22% 优化预算、训练曝光减少 450 倍以上，仍能维持或提升推理表现，并可跨不同学生模型族、黑盒教师和弱到强迁移场景泛化。
推荐理由
论文提出用不确定性收缩推理监督数据，把训练曝光降到全量 SFT 的 0.22%，为降低推理后训练成本提供了一条可迁移思路。
来源：Hugging Face Daily Papers · huggingface.co