跳到正文
llama.cpp Releases· github-actions[bot]·· 2 小时前AI 评分12

llama.cpp b11922 修复多序列 split replay 与部分状态测试

b11922

AI 导读

llama.cpp 发布 b11922,修复多序列 split replay 测试中针对已训练模型的回滚状态比对问题,改为只比较每个序列首个重放 token,并在 seq-1 尾部前将回滚状态恢复到参考上下文。

来源:llama.cpp Releases · github.com