llama.cpp Releases· github-actions[bot]·· 11 小时前AI 评分25
llama.cpp b11776 发布:server 支持投机解码下的 logprobs
b11776
AI 导读
llama.cpp 发布 b11776,server 端在投机解码路径中支持返回 logprobs(#27196)。新增回归测试验证被接受的 draft token 会报告目标模型的 logprobs,并与无投机解码基线对比;该测试在 master 上失败(top_logprobs 为空、logprob 为 0.0),应用修复后通过。
来源:llama.cpp Releases · github.com