跳到正文
热点事件持续更新

llama.cpp 修复 Metal mul_mat_id 重复 id 问题

1 篇报道1 个报道来源56 分钟前更新

先了解这件事

AI 综述

llama.cpp 发布 b11569,修复 Metal 后端 mul_mat_id 内核在 id 重复时的错误。此前该内核在 id 重复时会出现输出行错误或丢失,甚至溢出到相邻专家切片。 修复方式改为按专家构建紧凑的 (token, slot) 条目列表,并优化调度。

AI 根据报道生成 · 55 分钟前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月12日
  1. llama.cpp Releases
    llama.cpp b11569 发布:修复 Metal 后端 mul_mat_id 重复 id 问题

    llama.cpp 发布 b11569,修复 Metal 后端 mul_mat_id 在 id 重复时输出行错误或丢失、甚至溢出到相邻专家切片的问题,改为按专家构建紧凑的 (token, slot) 条目列表。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。