TraceForge 提出两阶段推理轨迹蒸馏方法

TraceForge 论文作者提出一种两阶段的有监督加对抗方法，用于蒸馏推理轨迹：以教师模型的答案和上下文为输入，按学生模型自身家族的风格生成推理轨迹，从而不依赖闭源模型隐藏的推理输出。 论文作者称，该方法已通过验证。其核心变化在于推理轨迹不再取自教师模型的原始输出，而由方法自行生成，因此蒸馏过程不需要访问闭源模型的隐藏推理内容。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。