llama.cpp Releases· github-actions[bot]·· 4 小时前AI 评分12
llama.cpp b11572 发布:支持 vLLM d3 模型
b11572
AI 导读
llama.cpp 发布 b11572 版本,新增对 vLLM d3 模型的支持,并支持 pplx-decider vLLM d2,同时更新了命名规则并加强了校验。该版本继续提供覆盖 macOS、Linux、Windows、Android 及 openEuler 的多平台构建,包含 CUDA 12/13、ROCm 10.0、Vulkan、SYCL、OpenVINO 等后端。
来源:llama.cpp Releases · github.com