llama.cpp 修复 gemma 模型 token_embd 加载顺序
热点事件持续更新
llama.cpp 修复 gemma 模型 token_embd 加载顺序
1 篇报道1 个报道来源1 小时前更新
先了解这件事
AI 综述
llama.cpp 在 b12008 版本中调整了 gemma3n 与 gemma4 的模型加载顺序：先创建 token_embd，再绑定输出，避免输入与输出共享同一 buffer 类型时重复持有词表。 据 llama.cpp 发布说明，在 CPU-only（-ngl 0）、无 mmap 的 gemma-4-E2B-it Q4_K_M 上，模型 buffer 占用从 3163.73 MiB 降至 2947.73 MiB。该修复针对 gemma3n 和 gemma4 两个模型系列。
AI 根据报道生成 · 1 小时前更新
最新进展10月30日 22:07
llama.cpp b12008 修复 gemma3n/gemma4 重复 token_embd 内存占用报道时间线
沿着报道，了解事件的不同侧面。
10月30日
- llama.cpp Releasesllama.cpp b12008 修复 gemma3n/gemma4 重复 token_embd 内存占用
llama.cpp b12008 调整 gemma3n 与 gemma4 的加载顺序，在绑定输出前先创建 token_embd，避免输入输出共享 buffer 类型时重复持有词表。在 CPU-only（-ngl 0）、无 mmap 的 gemma-4-E2B-it Q4_K_M 上，模型 buffer 从 3163.73 MiB 降至 2947.73 MiB。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。