Hugging Face Daily Papers·· 2 天前精选AI 评分47
面向线性注意力架构自主发现的多智能体 AI 研究团队
Building AI Research Teams for Autonomous Discovery of Linear Attention Architectures
AI 导读
论文提出由不同学科背景的持久化 AI 研究者组成团队,各自保留私有研究历史、共享实验证据,并通过自适应分配获得研究机会,用于搜索线性注意力架构。在 1.3B 规模的语言建模、常识推理以及合成与真实检索任务上,该团队表现优于 GDN2。对照实验显示,去掉任一组织组件都会让发现明显变弱:没有学科背景时搜索会较早停滞,没有私有历史时进展更少,而在相同预算下,统一选择不如自适应分配。
推荐理由
论文用消融实验说明多智能体科研团队中学科背景、私有历史与自适应分配各自的作用。
来源:Hugging Face Daily Papers · huggingface.co