llama.cpp Releases· github-actions[bot]·· 3 小时前AI 评分22
llama.cpp b11710 发布:CUDA 新增分组专家 top-k 融合
b11710
AI 导读
llama.cpp 发布 b11710,CUDA 后端新增分组专家 top-k 融合(#29181),并补充测试、修复 HIP 相关问题、接入 graph_optimize。该改动按 HIP 版本进行门控,构建产物覆盖 macOS、Linux、Windows、Android 及 openEuler 多平台。
来源:llama.cpp Releases · github.com