llama.cpp Releases· frank-2077·· 7 小时前AI 评分12
llama.cpp b12070：CUDA 修复即将使用的计算图被提前驱逐问题
b12070: cuda : prevent premature eviction of graphs about to be used (#30662)
AI 导读
llama.cpp 发布 b12070 版本，CUDA 后端修复了即将被使用的计算图被提前驱逐的问题，并为整个 CUDA graph map 新增 last_graph_use_time 记录及对应测试用例。该提交由 Codex 辅助完成，同时删除了相关测试。
来源：llama.cpp Releases · github.com