llama.cpp 为 ggml-zdnn 后端新增 flash attention 算子
热点事件持续更新
llama.cpp 为 ggml-zdnn 后端新增 flash attention 算子
1 篇报道1 个报道来源10 小时前更新
先了解这件事
AI 综述
llama.cpp 发布 b11759，为 ggml-zdnn 后端新增 flash attention 算子，并以 scratch buffer pool 取代原有的 scratch slots。该实现由 IBM 的 Aaron Teo 提交，文档同步补充了 fattn 说明。
AI 根据报道生成 · 7 分钟前更新
最新进展10月20日 19:31
llama.cpp b11759 发布：ggml-zdnn 后端引入 flash attention报道时间线
沿着报道，了解事件的不同侧面。
10月20日
- llama.cpp Releasesllama.cpp b11759 发布：ggml-zdnn 后端引入 flash attention
llama.cpp 发布 b11759，ggml-zdnn 后端新增 flash attention 算子并引入 scratch buffer pool，替代原有 scratch slots。该实现由 IBM 的 Aaron Teo 提交，文档同步补充了 fattn 说明。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。