llama.cpp 修复 conv_1d 批量输入布局错误
热点事件持续更新
llama.cpp 修复 conv_1d 批量输入布局错误
1 篇报道1 个报道来源15 小时前更新
先了解这件事
AI 综述
llama.cpp 发布 b11630,修复 ggml 中 conv_1d 在批量输入下的结果布局错误。conv_1d 背后的 GEMM 把 batch 折进行维度,结果在内存中实际为 [OL, N, OC],而 reshape 却按 [OL, OC, N] 解读,导致通道与批次交错,且过程中没有任何断言报错。 修复后,测试的七种几何配置全部通过,此前有五种失败;N == 1 和 OC == 1 的情况因交换的维度中有一个为 1 而前后均通过。N == 1 路径保留原有直接 reshape,现有调用方构建的图不变、不额外付出拷贝开销。
AI 根据报道生成 · 43 分钟前更新
最新进展10月14日 19:16
llama.cpp b11630 修复 conv_1d 批量输入结果布局报道时间线
沿着报道,了解事件的不同侧面。
10月14日
- llama.cpp Releasesllama.cpp b11630 修复 conv_1d 批量输入结果布局
llama.cpp 发布 b11630,修复 ggml 中 conv_1d 在批量输入下的结果布局错误:GEMM 将 batch 折进行维度后实际内存为 [OL, N, OC],reshape 却按 [OL, OC, N] 解读,导致通道与批次交错且无任何断言报错。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。