llama.cpp SYCL 后端新增张量分片批量上传
热点事件持续更新
llama.cpp SYCL 后端新增张量分片批量上传
1 篇报道1 个报道来源5 小时前更新
先了解这件事
AI 综述
llama.cpp 发布 b11902，为 SYCL 后端新增 set_tensor_2d，用于加速张量分片模型的加载：当目标行在设备上连续时，把主机行打包进已有的固定暂存槽，每批最大 64 MiB，用单次设备拷贝完成上传。 对于非连续的目标行、超大行或暂存不可用的情况，仍回退为逐行拷贝。
AI 根据报道生成 · 1 小时前更新
最新进展10月26日 22:12
llama.cpp b11902 为 SYCL 后端新增 set_tensor_2d 加速张量分片加载报道时间线
沿着报道，了解事件的不同侧面。
10月26日
- llama.cpp Releasesllama.cpp b11902 为 SYCL 后端新增 set_tensor_2d 加速张量分片加载
llama.cpp 发布 b11902，为 SYCL 后端新增 set_tensor_2d，在目标行连续时把主机行打包成最大 64 MiB 的块，用单次设备拷贝完成上传，非连续目标仍走逐行拷贝。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。