llama.cpp Releases· github-actions[bot]·· 3 小时前AI 评分22
llama.cpp b11573 发布:Vulkan 后端为 f16 累加打包 FMA,无需 dot product 指令
b11573
AI 导读
llama.cpp 发布 b11573 版本,其 Vulkan 后端为 f16 累加打包 FMA,不再依赖 dot product 指令,dot_product 每次 f16 FMA 可打包两行,并将 dot_product 重命名为 dot_product_v2。
来源:llama.cpp Releases · github.com