llama.cpp 修复零空闲显存致层分配崩溃
热点事件持续更新
llama.cpp 修复零空闲显存致层分配崩溃
1 篇报道1 个报道来源16 小时前更新
先了解这件事
AI 综述
llama.cpp 发布 b11626 版本，修复了所有设备上报空闲显存为零时加载崩溃的问题。据该版本说明，此时层切分点会因零和归一化产生 NaN，把层分配到越界设备索引，触发 vector::_M_range_check 中止加载。 新版本在无设备报告空闲显存时改为均匀切分模型层。
AI 根据报道生成 · 1 小时前更新
最新进展10月14日 14:30
llama.cpp b11626 修复设备空闲显存为零时的层分配崩溃报道时间线
沿着报道，了解事件的不同侧面。
10月14日
- llama.cpp Releasesllama.cpp b11626 修复设备空闲显存为零时的层分配崩溃
llama.cpp 发布 b11626 版本，修复了当所有设备上报空闲显存为零时，层切分点因零和归一化产生 NaN、导致层被分配到越界设备索引并触发 vector::_M_range_check 中止加载的问题。该版本在无设备报告空闲显存时改为均匀切分模型层。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。