llama.cpp Releases· github-actions[bot]·· 2 小时前AI 评分12
llama.cpp b11922 修复多序列 split replay 与部分状态测试
b11922
AI 导读
llama.cpp 发布 b11922,修复多序列 split replay 测试中针对已训练模型的回滚状态比对问题,改为只比较每个序列首个重放 token,并在 seq-1 尾部前将回滚状态恢复到参考上下文。
来源:llama.cpp Releases · github.com