Hugging Face Daily Papers·· 2 天前精选AI 评分53
游戏中的缩放:面向虚拟世界具身智能体的持续预训练研究
Scaling in Games: Continued Pre-Training For Embodied Agents In Diverse Virtual Worlds
AI 导读
研究团队在虚拟世界中开展持续预训练(CPT)的受控实验,覆盖 0.8B 到 27B 四种模型规模、50 到 1600 小时六档数据预算,以及从仅 Minecraft 到多世界混合的五种数据配比,共 120 组训练配置。
推荐理由
论文用 120 组训练配置量化数据量、多样性与模型规模对虚拟世界具身智能体的影响,并给出经验缩放律。
来源:Hugging Face Daily Papers · huggingface.co