llama.cpp b12080 优化 CUDA 批量张量读取
热点事件观察中
llama.cpp b12080 优化 CUDA 批量张量读取
1 篇报道1 个报道来源1 天前更新
先了解这件事
AI 综述
llama.cpp 发布 b12080 版本，CUDA 后端新增一项优化：将批量张量读取聚合到映射主机内存。按改动说明，小读取走 gather 拷贝，大读取改用 pinned DMA，并加入 8 字节 gather 拷贝与 128k 描述符 pinned 缓冲。 该改动来自 PR #31391，已合入 master。
AI 根据报道生成 · 21 小时前更新
最新进展11月3日 18:01
llama.cpp b12080 发布：CUDA 后端将批量张量读取聚合到映射主机内存报道时间线
沿着报道，了解事件的不同侧面。
11月3日
- llama.cpp Releasesllama.cpp b12080 发布：CUDA 后端将批量张量读取聚合到映射主机内存
llama.cpp 发布 b12080，CUDA 后端新增将批量张量读取聚合到映射主机内存的优化，小读取走 gather 拷贝、大读取改用 pinned DMA，并加入 8 字节 gather 拷贝与 128k 描述符 pinned 缓冲。该改动来自 PR #31391，已合入 master。
本事件热度走势
- 可比范围当前
- 4
- 可比范围峰值
- 711月4日 07:00
- 近 24 小时变化
- –
02468
12:0018:0011月5日
趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。