Proximal KL:离策略RLVR的token级采样方法
热点事件观察中
Proximal KL:离策略RLVR的token级采样方法
1 篇报道1 个报道来源2 天前更新
先了解这件事
AI 综述
研究者提出一种名为 Proximal KL 的离策略 RLVR 训练方法,将“近端参考策略”与“采样策略”分离,并用有界未来 KL 信用替代 PPO 裁剪。 在 Qwen3-1.7B 和 Qwen3-4B 上的七组匹配离策略对比中,该方法在八项数学基准上的微平均准确率最高超过 GRPO 2.58%。
AI 根据报道生成 · 2 小时前更新
最新进展10月13日 04:00
Proximal KL:面向 Off-Policy RLVR 的 Token 级重要性采样方法报道时间线
沿着报道,了解事件的不同侧面。
10月13日
- Hugging Face Daily PapersProximal KL:面向 Off-Policy RLVR 的 Token 级重要性采样方法
研究者提出 Proximal KL,一种 off-policy RLVR 方法,将近端参考策略与采样策略分离,并用有界未来 KL 信用替代 PPO 裁剪。在 Qwen3-1.7B 和 Qwen3-4B 的七组匹配 off-policy 对比中,其八项数学基准微平均准确率最高超过 GRPO 2.58%。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。