跳到正文
llama.cpp Releases· github-actions[bot]·· 2 小时前AI 评分20

llama.cpp b11700 发布:新增 Granite Switch 决策模型支持

b11700

AI 导读

llama.cpp 发布 b11700,新增对 IBM Granite Switch 决策模型的支持,并加入 granite switch decision 模型枚举。该版本最初引入 decision.chat 以支持可同时对话的决策模型,随后相关改动被回滚,改为 Granite Switch 支持决策时始终支持文本。

来源:llama.cpp Releases · github.com