llama.cpp Releases· ServeurpersoCom·· 7 小时前AI 评分20
llama.cpp b12006 修复循环记忆与 DSV4 缓存的回滚越界问题
b12006: memory: refuse rollbacks past the snapshots of the last ubatch (#31368)
AI 导读
llama.cpp b12006 让循环记忆与 DSV4 缓存记录上一个 ubatch 实际保证的最深回滚点,seq_rm 拒绝超出该边界的回滚请求。循环记忆在 ubatch 为 n ≤ n_rs_seq + 1 个 token 时保证 n - 1,更长 ubatch 仅保证最终状态;DSV4 保证 min(n, n_rs_seq)。
来源:llama.cpp Releases · github.com