跳到正文
热点事件观察中

KronLSTM线性注意力架构论文发布

1 篇报道1 个报道来源2 天前更新

先了解这件事

AI 综述

论文作者提出 KronLSTM,一种基于 Kronecker Delta Rule 的线性注意力架构,并开源了代码与模型。作者称,该架构用新的关联矩阵记忆更新规则扩展 xLSTM 家族,只沿矩阵空间的单一方向修正目标关联,以减少对已存信息的干扰。 作者将 KronLSTM 定位为对长上下文线性注意力的改进,其代码和模型已在 GitHub 与 Hugging Face 上公开。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月19日
  1. Hugging Face Daily Papers
    KronLSTM 提出 Kronecker Delta Rule,改进长上下文线性注意力

    作者提出 KronLSTM,一种基于 Kronecker Delta Rule 的线性注意力架构,用新的关联矩阵记忆更新规则扩展 xLSTM 家族,只沿矩阵空间的单一方向修正目标关联,减少对已存信息的干扰。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。