llama.cpp Releases· danbev·· 5 小时前AI 评分12
llama.cpp b11568 修复投机解码示例的草稿采样与拒绝处理
b11568: examples : fix draft sampling and rejection handling (#30095)
AI 导读
llama.cpp 发布 b11568 版本，修复了投机解码示例中的草稿采样与拒绝处理两个问题，并解决了并行数大于 1 时需 kv-unified 的要求。
来源：llama.cpp Releases · github.com