Hugging Face Daily Papers·· 1 天前AI 评分31
推理模型中的“wait”是继承而非发明:追溯其来源
Inherited, Not Invented: Tracing the Provenance of Wait in Reasoning Models
AI 导读
研究追踪开放模型训练历史后发现,推理模型中的“wait”标记来自训练数据而非强化学习:在缺少该词的基座模型上,RL 虽大幅提升 MATH-500 准确率,但“wait”几乎不出现。
来源:Hugging Face Daily Papers · huggingface.co