跳到正文
热点事件持续更新

llama.cpp 修复缓冲区映射并开启 macOS 预取

1 篇报道1 个报道来源7 小时前更新

先了解这件事

AI 综述

llama.cpp 发布构建 b11599,修复了后端缓冲区映射问题:此前从宿主指针创建的缓冲区会把其包裹的所有内容一并 pin 住,包括其他上下文拥有的文件范围,导致整个 lazy tensor 被钉进 GPU 缓冲区(在 Qwen3.8-Flash-Next IQ4_NL 下为 27 GiB)。新版本改为按各上下文的文件范围分别创建缓冲区,不再把外部范围映射进后端缓冲区。 该构建同时为 macOS 开启预取。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月13日
  1. llama.cpp Releases
    llama.cpp b11599 修复后端缓冲区映射并开启 macOS 预取

    llama.cpp 发布 b11599,修复了从宿主指针创建的缓冲区会把其他上下文拥有的文件范围一并 pin 住的问题,改为按各上下文的文件范围分别创建缓冲区,避免把整个 lazy tensor 钉进 GPU 缓冲区(Qwen3.8-Flash-Next IQ4_NL 下为 27 GiB)。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。