跳到正文
llama.cpp Releases· github-actions[bot]·· 11 小时前AI 评分25

llama.cpp b11776 发布:server 支持投机解码下的 logprobs

b11776

AI 导读

llama.cpp 发布 b11776,server 端在投机解码路径中支持返回 logprobs(#27196)。新增回归测试验证被接受的 draft token 会报告目标模型的 logprobs,并与无投机解码基线对比;该测试在 master 上失败(top_logprobs 为空、logprob 为 0.0),应用修复后通过。

来源:llama.cpp Releases · github.com