跳到正文
llama.cpp Releases· github-actions[bot]·· 4 小时前AI 评分22

llama.cpp b11678 发布:CUDA 固定主机内存缓冲区上限设为 4 GB

b11678

AI 导读

llama.cpp 发布 b11678 版本,将 CUDA pinned host buffer 的最大尺寸限制为 4 GB(#30449)。该版本同时提供 macOS、Linux、Windows、Android 及 openEuler 等多平台构建产物,覆盖 CUDA 12/13、ROCm 10.0、Vulkan、SYCL、OpenVINO 等后端。

来源:llama.cpp Releases · github.com