跳到正文
llama.cpp Releases· github-actions[bot]·· 1 天前AI 评分35

llama.cpp b11723 发布:Hexagon 后端 FLASH_ATTN_EXT 优化长上下文与 SWA 模型

b11723

AI 导读

llama.cpp 发布 b11723,Hexagon 后端 FLASH_ATTN_EXT 针对长上下文和 SWA 模型改进,新增 masked block skipping 以减少 DMA 数据搬运,并微调 hmx→hvx 切换阈值以提升 gemma-4 表现。

来源:llama.cpp Releases · github.com