Hugging Face Daily Papers·· 2 天前AI 评分40
KronLSTM 提出 Kronecker Delta Rule，改进长上下文线性注意力
Kronecker Delta Rule for Long Context Linear Attention
AI 导读
作者提出 KronLSTM，一种基于 Kronecker Delta Rule 的线性注意力架构，用新的关联矩阵记忆更新规则扩展 xLSTM 家族，只沿矩阵空间的单一方向修正目标关联，减少对已存信息的干扰。
来源：Hugging Face Daily Papers · huggingface.co