llama.cpp b11647 优化 AMD Vulkan 显存读取
热点事件持续更新
llama.cpp b11647 优化 AMD Vulkan 显存读取
1 篇报道1 个报道来源8 小时前更新
先了解这件事
AI 综述
llama.cpp 发布 b11647，Vulkan 后端在 AMD 上对 strided f16 KV 只做一次拷贝，使读取分散到各内存通道。改动复用通用 copy shader 完成 f16 KV scratch 填充，并将 strided KV scratch 拷贝扩展到 bf16，同时在 RDNA4 上禁用。相关测试覆盖了 f16 KV 到 scratch 的拷贝。
AI 根据报道生成 · 2 小时前更新
最新进展10月15日 15:09
llama.cpp b11647 发布：Vulkan 后端在 AMD 上优化 f16 KV 拷贝报道时间线
沿着报道，了解事件的不同侧面。
10月15日
- llama.cpp Releasesllama.cpp b11647 发布：Vulkan 后端在 AMD 上优化 f16 KV 拷贝
llama.cpp 发布 b11647，Vulkan 后端在 AMD 上对 strided f16 KV 只做一次拷贝，使读取分散到各内存通道。该改动复用通用 copy shader 完成 f16 KV scratch 填充，并将 strided KV scratch 拷贝扩展到 bf16，同时在 RDNA4 上禁用。相关测试覆盖了 f16 KV 到 scratch 的拷贝。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。