llama.cpp Releases· github-actions[bot]·· 2 小时前AI 评分30
llama.cpp b11540 发布:SYCL 加速 MXFP4 MoE 推理
b11540
AI 导读
llama.cpp 发布 b11540 版本,通过算术解码与权重重排为 SYCL 后端加速 MXFP4 MoE 推理。该改动对应 PR #29809,主要面向 Intel GPU 等 SYCL 平台的 MoE 模型推理优化。
来源:llama.cpp Releases · github.com