llama.cpp Releases· github-actions[bot]·· 3 小时前AI 评分34
llama.cpp b11714 发布:UI 支持从 HuggingFace Hub 发现并下载模型
b11714
AI 导读
llama.cpp b11714 为 UI 加入从 HuggingFace Hub 发现与下载 GGUF 模型的能力,该功能由 Enable Discover Models 设置控制且默认关闭。下载支持暂停后从磁盘断点续传,重启后未完成的下载会以暂停状态恢复,主模型下载还会自动拉取匹配的 draft sidecar 以支持投机解码。
来源:llama.cpp Releases · github.com