KronLSTM线性注意力架构论文发布
热点事件观察中
KronLSTM线性注意力架构论文发布
1 篇报道1 个报道来源2 天前更新
先了解这件事
AI 综述
论文作者提出 KronLSTM,一种基于 Kronecker Delta Rule 的线性注意力架构,并开源了代码与模型。作者称,该架构用新的关联矩阵记忆更新规则扩展 xLSTM 家族,只沿矩阵空间的单一方向修正目标关联,以减少对已存信息的干扰。 作者将 KronLSTM 定位为对长上下文线性注意力的改进,其代码和模型已在 GitHub 与 Hugging Face 上公开。
AI 根据报道生成 · 2 小时前更新
最新进展10月19日 04:00
KronLSTM 提出 Kronecker Delta Rule,改进长上下文线性注意力报道时间线
沿着报道,了解事件的不同侧面。
10月19日
- Hugging Face Daily PapersKronLSTM 提出 Kronecker Delta Rule,改进长上下文线性注意力
作者提出 KronLSTM,一种基于 Kronecker Delta Rule 的线性注意力架构,用新的关联矩阵记忆更新规则扩展 xLSTM 家族,只沿矩阵空间的单一方向修正目标关联,减少对已存信息的干扰。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。