Hugging Face Daily Papers·· 7 天前精选AI 评分47
论文揭示 LLM 强化学习中的思维泄漏现象
The Thinking Leakage in Reinforcement Learning for LLMs
AI 导读
作者在论文《The Thinking Leakage in Reinforcement Learning for LLMs》中研究以 RL 训练的 Qwen3 模型(1.7B–8B),发现 NO-THINK 模式模型在 RL 后行为越来越接近其原本的 THINK 模式,即思维泄漏。
推荐理由
论文用权重与注意力头干预给出因果证据,说明 RL 提升可能来自复用已有推理能力而非学习新能力。
来源:Hugging Face Daily Papers · huggingface.co