llama.cpp Releases· github-actions[bot]·· 2 小时前AI 评分40
llama.cpp b11741 为 q4_0、q4_k、q6_k 新增 OpenCL cooperative-k dp4a GEMM
b11741
AI 导读
llama.cpp 发布 b11741 版本,在 OpenCL 后端为 q4_0、q4_k 和 q6_k 量化新增 cooperative-k dp4a GEMM,并修复对齐问题。
来源:llama.cpp Releases · github.com