跳到正文
热点事件持续更新

llama.cpp Vulkan 后端新增张量并行 all-reduce

1 篇报道1 个报道来源7 小时前更新

先了解这件事

AI 综述

llama.cpp 发布 b12051 版本,为 Vulkan 后端加入张量并行 all-reduce 通信,使该后端具备张量并行所需的跨设备归约通信能力。 同一版本还修复了 3 卡以上环形 all-reduce 的竞态问题,该修复针对多卡环形通信场景。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月2日
  1. llama.cpp Releases精选
    llama.cpp b12051 为 Vulkan 后端加入张量并行 all-reduce

    llama.cpp 发布 b12051,为 Vulkan 后端加入张量并行 all-reduce 通信,并修复 3 卡以上环形 all-reduce 的竞态问题。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。