llama.cpp Releases· ServeurpersoCom·· 16 小时前AI 评分15
llama.cpp b11626 修复设备空闲显存为零时的层分配崩溃
b11626: model: split layers evenly when no device reports free memory (#29677)
AI 导读
llama.cpp 发布 b11626 版本,修复了当所有设备上报空闲显存为零时,层切分点因零和归一化产生 NaN、导致层被分配到越界设备索引并触发 vector::_M_range_check 中止加载的问题。该版本在无设备报告空闲显存时改为均匀切分模型层。
来源:llama.cpp Releases · github.com