llama.cpp Releases· github-actions[bot]·· 1 天前AI 评分35
llama.cpp b11723 发布:Hexagon 后端 FLASH_ATTN_EXT 优化长上下文与 SWA 模型
b11723
AI 导读
llama.cpp 发布 b11723,Hexagon 后端 FLASH_ATTN_EXT 针对长上下文和 SWA 模型改进,新增 masked block skipping 以减少 DMA 数据搬运,并微调 hmx→hvx 切换阈值以提升 gemma-4 表现。
来源:llama.cpp Releases · github.com