跳到正文
llama.cpp Releases· github-actions[bot]·· 3 小时前AI 评分34

llama.cpp b11714 发布:UI 支持从 HuggingFace Hub 发现并下载模型

b11714

AI 导读

llama.cpp b11714 为 UI 加入从 HuggingFace Hub 发现与下载 GGUF 模型的能力,该功能由 Enable Discover Models 设置控制且默认关闭。下载支持暂停后从磁盘断点续传,重启后未完成的下载会以暂停状态恢复,主模型下载还会自动拉取匹配的 draft sidecar 以支持投机解码。

来源:llama.cpp Releases · github.com