热点事件持续更新

llama.cpp 减少 GDN 层卷积状态拷贝

1 篇报道1 个报道来源20 小时前更新

先了解这件事

AI 综述

llama.cpp 发布 b12086，修复了 build_conv_state_at 中多余的连续拷贝。此前每个 GDN 层每生成一个 token 会发起两次设备拷贝，在 36 层 GDN 的 Qwen3.8-Flash-Next 上每 token 共 72 次，现降至 36 次。据提交说明，ggml_cpy 可直接读取带步长的视图，与共享的 build_conv_state 做法一致，因此去掉了这次额外拷贝。

AI 根据报道生成 · 20 小时前更新

报道时间线

沿着报道，了解事件的不同侧面。

11月4日

08:16
llama.cpp Releases
llama.cpp b12086 优化 Qwen3.8-Flash-Next 卷积状态写入
llama.cpp b12086 修复了 build_conv_state_at 中多余的连续拷贝：此前每个 GDN 层每生成一个 token 会发起两次设备拷贝，在 36 层 GDN 的 Qwen3.8-Flash-Next 上每 token 共 72 次，现降至 36 次。

本事件热度走势

可比范围当前: 6
可比范围峰值: 1011月4日 09:00
近 24 小时变化: –

趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。