跳到正文
llama.cpp Releases· github-actions[bot]·· 4 小时前AI 评分42

llama.cpp b11709 新增 Kolibri-1 模型支持

b11709

AI 导读

llama.cpp 发布 b11709 版本,新增对 Aleph-Alpha 的 Kolibri-1 支持。Kolibri-1 是德英双语 MoE 推理模型,78B 参数、每 token 激活 3.46B,含 50 层、384 个路由专家加 1 个共享专家,注意力在 513 窗口的滑动层与全层之间交替。

来源:llama.cpp Releases · github.com