llama.cpp 修复 qwen2 NVFP4 FFN 缩放
热点事件持续更新
llama.cpp 修复 qwen2 NVFP4 FFN 缩放
1 篇报道1 个报道来源3 小时前更新
先了解这件事
AI 综述
llama.cpp 在 b12126 版本中修复了 qwen2 模型 FFN 部分的 NVFP4 scales 传递问题：此前 qwen2 的 build_ffn 调用把 NVFP4 scales 传为 NULL，转换为 NVFP4 的模型在 FFN 中加载了 scales 却未应用，导致崩溃。 据 llama.cpp 发布说明，attention 部分此前已应用 scales，FFN 缺失，使 llama-completion 触发 llama_sampler_dist_apply 断言失败；本次提交为 build_ffn 补上 scales。
AI 根据报道生成 · 58 分钟前更新
最新进展11月5日 13:29
llama.cpp b12126：qwen2 的 build_ffn 补上 NVFP4 scales报道时间线
沿着报道，了解事件的不同侧面。
11月5日
- llama.cpp Releasesllama.cpp b12126：qwen2 的 build_ffn 补上 NVFP4 scales
llama.cpp b12126 为 qwen2 的 build_ffn 调用补上此前传 NULL 的 NVFP4 scales，修复转换为 NVFP4 的模型在 FFN 中加载了 scales 却未应用而崩溃的问题。此前 attention 已应用 scales，FFN 缺失，导致 llama-completion 触发 llama_sampler_dist_apply 断言失败。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。