论文提出统一算法整合基础模型训练阶段

一篇论文提出“统一训练”框架，试图把基础模型的预训练、midtraining、SFT 和 RL 等阶段合并到同一个基于似然的训练算法下。作者称，通过把各阶段的 RL 目标推导为对模型生成目标分布的最大似然拟合，可以在单一训练器中混合静态数据与 RL 生成数据。 作者在受控和真实实验中称，这一方式改善了精度与算力的权衡和任务覆盖，同时保留更广泛能力，并为持续学习提供更好的起点。这些效果目前均为论文作者的说法。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。