llama.cpp Releases· ServeurpersoCom·· 9 小时前AI 评分22
llama.cpp b11644 修复普通 KV cache 的 PARTIAL_ONLY 处理
b11644: kv-cache: honor PARTIAL_ONLY in the plain KV cache (#30514)
AI 导读
llama.cpp 发布 b11644 版本,修复普通 KV cache 对 PARTIAL_ONLY 标志的处理:非 SWA 的 llama_kv_cache 此前在 state_write 时忽略该标志并序列化全部 cell。
来源:llama.cpp Releases · github.com