Hugging Face Daily Papers·· 1 天前精选AI 评分46
ActionOPD:以动作级在线策略蒸馏替代 token 级监督
ActionOPD: Distilling Decisions, Not Tokens
AI 导读
论文提出 ActionOPD,一种动作级在线策略蒸馏方法,在学生的状态上分别采样学生与黑盒教师的动作,按语义一致性奖励学生动作,从而对齐学生的动作级行为,无需教师 token 概率或共享分词器。
推荐理由
提出以语义动作而非 token 作为智能体蒸馏监督单元,并给出跨模型族的实验对比。
来源:Hugging Face Daily Papers · huggingface.co