跳到正文
llama.cpp Releases· github-actions[bot]·· 5 小时前AI 评分12

llama.cpp b12023 发布:server 修复共享决策前缀截断问题

b12023

AI 导读

llama.cpp 发布 b12023,server 端将共享决策前缀限制在父任务与各子任务的第一个必需输出位置,修复了问题 #30482。该改动确保问题共享选项 token 时,决策输出嵌入向量仍保留在最终批次中。构建产物覆盖 macOS、Linux、Windows、Android 及 openEuler 多平台。

来源:llama.cpp Releases · github.com