llama.cpp 修复无缓存注意力 KV 维度填充
热点事件持续更新
llama.cpp 修复无缓存注意力 KV 维度填充
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
llama.cpp 发布 b11576，修复 no-cache attention 路径的 KV 维度填充问题：将 no-cache attention 的 KV 维度补齐至 256。 据该版本说明，此前 no-cache 路径构建 [n_tokens, n_tokens] 掩码并传入未填充的 K 和 V，导致 FLASH_ATTN_EXT 看到 K->ne[1] == n_tokens；此次按 llama_kv_cache::get_n_kv 的方式填充掩码，并将 K 和 V 用零补齐到掩码的 KV 维度。
AI 根据报道生成 · 25 分钟前更新
最新进展10月13日 05:00
llama.cpp b11576 发布：为 no-cache attention 的 KV 维度补齐至 256报道时间线
沿着报道，了解事件的不同侧面。
10月13日
- llama.cpp Releasesllama.cpp b11576 发布：为 no-cache attention 的 KV 维度补齐至 256
llama.cpp 发布 b11576，将 no-cache attention 的 KV 维度补齐至 256。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。