llama.cpp 修复缓冲区映射并开启 macOS 预取
热点事件持续更新
llama.cpp 修复缓冲区映射并开启 macOS 预取
1 篇报道1 个报道来源7 小时前更新
先了解这件事
AI 综述
llama.cpp 发布构建 b11599,修复了后端缓冲区映射问题:此前从宿主指针创建的缓冲区会把其包裹的所有内容一并 pin 住,包括其他上下文拥有的文件范围,导致整个 lazy tensor 被钉进 GPU 缓冲区(在 Qwen3.8-Flash-Next IQ4_NL 下为 27 GiB)。新版本改为按各上下文的文件范围分别创建缓冲区,不再把外部范围映射进后端缓冲区。 该构建同时为 macOS 开启预取。
AI 根据报道生成 · 1 小时前更新
最新进展10月13日 22:28
llama.cpp b11599 修复后端缓冲区映射并开启 macOS 预取报道时间线
沿着报道,了解事件的不同侧面。
10月13日
- llama.cpp Releasesllama.cpp b11599 修复后端缓冲区映射并开启 macOS 预取
llama.cpp 发布 b11599,修复了从宿主指针创建的缓冲区会把其他上下文拥有的文件范围一并 pin 住的问题,改为按各上下文的文件范围分别创建缓冲区,避免把整个 lazy tensor 钉进 GPU 缓冲区(Qwen3.8-Flash-Next IQ4_NL 下为 27 GiB)。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。