llama.cpp Releases· github-actions[bot]·· 6 小时前AI 评分22
llama.cpp b12060 新增 Clover MoE 模型支持
b12060
AI 导读
llama.cpp 发布 b12060,新增仅含自回归(AR-only)的 Clover MoE 模型支持,包含 GGUF 转换、模型加载与因果混合注意力,并复用共享注意力、循环状态、MoE 和 LoRA 辅助模块。转换脚本使用 filter_tensors 过滤 Clover 张量,并改用标准 ssm_a 张量名,同时更新了 tests/test-llama-archs.cpp 测试。
来源:llama.cpp Releases · github.com