跳到正文
llama.cpp Releases· github-actions[bot]·· 2 小时前AI 评分22

llama.cpp b11786 发布:ggml-cpu 无需 fp16 表即可计算 f32 gelu_quick 与 geglu_quick

b11786

AI 导读

llama.cpp 发布 b11786,ggml-cpu 后端改为不依赖 fp16 表直接计算 f32 的 gelu_quick 和 geglu_quick,同时保留 GGML_GELU_QUICK_FP16 表路径,并新增 VXE gelu_quick 路径。此次还加入针对 f32 CPU kernel 的 test-gelu-quick 测试,并从该测试中移除 inf/nan 输入。

来源:llama.cpp Releases · github.com