Hugging Face Daily Papers·· 1 天前精选AI 评分52
Cortex:将上下文整合进参数化记忆
Cortex: Consolidating Context into Parametric Memory
AI 导读
论文提出 Memory Consolidation 任务,目标是在移除上下文后仍保留上下文带来的性能增益,同时不损失非目标能力,并给出覆盖单次、批量与顺序更新的五类任务测试集。
推荐理由
论文把上下文收益固化进模型参数,并给出可对照的固化与保留权衡数据。
来源:Hugging Face Daily Papers · huggingface.co