llama.cpp Releases· github-actions[bot]·· 5 小时前AI 评分12
llama.cpp b12023 发布:server 修复共享决策前缀截断问题
b12023
AI 导读
llama.cpp 发布 b12023,server 端将共享决策前缀限制在父任务与各子任务的第一个必需输出位置,修复了问题 #30482。该改动确保问题共享选项 token 时,决策输出嵌入向量仍保留在最终批次中。构建产物覆盖 macOS、Linux、Windows、Android 及 openEuler 多平台。
来源:llama.cpp Releases · github.com