跳到正文
llama.cpp Releases· github-actions[bot]·· 6 小时前AI 评分17

llama.cpp b11695 为 Mellum2.1 增加 MTP 支持

b11695

AI 导读

llama.cpp 发布 b11695 版本,为 Mellum2.1 模型增加 MTP 支持,并在 Mellum 中改用内联 rope 构建。该版本同步更新了 macOS、Linux、Windows、Android 及 openEuler 等多平台构建产物,覆盖 CUDA 12/13、ROCm 10.0、Vulkan、OpenVINO、SYCL 等后端。

来源:llama.cpp Releases · github.com