llama.cpp b11776 修复投机解码 logprobs
热点事件持续更新
llama.cpp b11776 修复投机解码 logprobs
1 篇报道1 个报道来源11 小时前更新
先了解这件事
AI 综述
llama.cpp 发布 b11776，server 端在投机解码路径中支持返回 logprobs（#27196）。此前该路径下被接受的 draft token 无法正确报告目标模型的 logprobs。 新增的回归测试验证被接受的 draft token 会报告目标模型的 logprobs，并与无投机解码基线对比；该测试在 master 上失败，表现为 top_logprobs 为空、logprob 为 0.0，应用修复后通过。
AI 根据报道生成 · 42 分钟前更新
最新进展10月21日 01:36
llama.cpp b11776 发布：server 支持投机解码下的 logprobs报道时间线
沿着报道，了解事件的不同侧面。
10月21日
- llama.cpp Releasesllama.cpp b11776 发布：server 支持投机解码下的 logprobs
llama.cpp 发布 b11776，server 端在投机解码路径中支持返回 logprobs（#27196）。新增回归测试验证被接受的 draft token 会报告目标模型的 logprobs，并与无投机解码基线对比；该测试在 master 上失败（top_logprobs 为空、logprob 为 0.0），应用修复后通过。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。