跳到正文
热点事件观察中

Proximal KL:离策略RLVR的token级采样方法

1 篇报道1 个报道来源2 天前更新

先了解这件事

AI 综述

研究者提出一种名为 Proximal KL 的离策略 RLVR 训练方法,将“近端参考策略”与“采样策略”分离,并用有界未来 KL 信用替代 PPO 裁剪。 在 Qwen3-1.7B 和 Qwen3-4B 上的七组匹配离策略对比中,该方法在八项数学基准上的微平均准确率最高超过 GRPO 2.58%。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月13日
  1. Hugging Face Daily Papers
    Proximal KL:面向 Off-Policy RLVR 的 Token 级重要性采样方法

    研究者提出 Proximal KL,一种 off-policy RLVR 方法,将近端参考策略与采样策略分离,并用有界未来 KL 信用替代 PPO 裁剪。在 Qwen3-1.7B 和 Qwen3-4B 的七组匹配 off-policy 对比中,其八项数学基准微平均准确率最高超过 GRPO 2.58%。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。