跳到正文
llama.cpp Releases· github-actions[bot]·· 16 小时前AI 评分20

llama.cpp b11997 发布:复用张量暂存缓冲区并跳过 direct-io bounce buffer

b11997

AI 导读

llama.cpp 发布 b11997 版本,复用张量暂存缓冲区并跳过 direct-io bounce buffer(#31321)。该版本同步更新 macOS/iOS、Linux、Android、Windows 及 openEuler 等多平台预编译产物,覆盖 CUDA 12/13、ROCm 10.0、Vulkan、SYCL、OpenVINO 等后端。

来源:llama.cpp Releases · github.com