跳到正文
llama.cpp Releases· ServeurpersoCom·· 9 小时前AI 评分22

llama.cpp b11644 修复普通 KV cache 的 PARTIAL_ONLY 处理

b11644: kv-cache: honor PARTIAL_ONLY in the plain KV cache (#30514)

AI 导读

llama.cpp 发布 b11644 版本,修复普通 KV cache 对 PARTIAL_ONLY 标志的处理:非 SWA 的 llama_kv_cache 此前在 state_write 时忽略该标志并序列化全部 cell。

来源:llama.cpp Releases · github.com