跳到正文
llama.cpp Releases· github-actions[bot]·· 3 小时前AI 评分12

llama.cpp b11571 发布:支持 vllm decision 2 模型

b11571

AI 导读

llama.cpp 发布 b11571 版本,新增对 vllm decision 2 模型的支持,并支持 pplx-decider vllm d2。该版本同时更新了命名规则、加强了校验、修复了 CI,并移除了冗余的 filter_tensors。构建产物覆盖 macOS、Linux、Windows、Android 及 openEuler 等多平台。

来源:llama.cpp Releases · github.com