Google Research 提出 LLM 睡眠持续学习框架

Google Research 提出一种用于大语言模型持续学习的“睡眠”框架，把模型学习设计为“清醒交互 + 离线睡眠”的周期性流程：在睡眠阶段，模型通过 MoE 参数扩展、知识蒸馏和合成数据自训练，把短期上下文巩固进长期参数。 该团队称，这一设计受人类大脑在休息时处理和稳定记忆的方式启发，目标是让模型持续学习，并把脆弱的短期上下文转化为稳定的长期参数。目前公开信息为方法层面的提出，未给出验证效果。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。