llama.cpp 修复 set_rows 多线程越界
热点事件持续更新
llama.cpp 修复 set_rows 多线程越界
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
llama.cpp 发布 b11633,修复 ggml-cpu 中 SET_ROWS 算子的 F16→F32 转换缓冲区越界写入。据该版本说明,SET_ROWS 按 n_tasks = 1 规划,但每个线程都会执行并占用各自的转换缓冲行,当计算图中存在其他多线程算子时,线程号大于 0 的线程会写出工作缓冲区之外。 修复方式是将 set_rows 改为按 n_task = n_threads 分组执行,使转换缓冲区按全部线程分配。
AI 根据报道生成 · 59 分钟前更新
最新进展10月15日 11:41
llama.cpp b11633 修复 ggml-cpu 多线程 set_rows 缓冲区越界报道时间线
沿着报道,了解事件的不同侧面。
10月15日
- llama.cpp Releasesllama.cpp b11633 修复 ggml-cpu 多线程 set_rows 缓冲区越界
llama.cpp 发布 b11633,修复 ggml-cpu 中 SET_ROWS 的 F16→F32 转换缓冲区越界问题:该算子按 n_tasks = 1 规划,但每个线程都会执行并占用各自的转换缓冲行,当图中存在其他多线程算子时,线程号大于 0 的线程会写出工作缓冲区之外。此次将 set_rows 改为按 n_task = n_threads 分组执行。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。