跳到正文
llama.cpp Releases· ServeurpersoCom·· 3 小时前精选AI 评分62

llama.cpp b11671 新增 Muse Spark Open 支持,覆盖文本、视觉与音频

b11671: model: add Muse Spark Open (text, vision and audio) (#30616)

AI 导读

llama.cpp 发布 b11671,新增对 Muse Spark Open 的支持,覆盖文本、视觉和音频三种模态。该模型是潜在空间 MoE,残差流保持 8192 维、256 个专家位于 4096 维,采用 top-8 sigmoid 路由与修正偏置;视觉复用 Muse Glimmer tower,音频为无注意力、无频谱图的因果卷积金字塔。

推荐理由

llama.cpp 新增 Muse Spark Open 支持,读者可了解该 MoE 模型的架构细节与量化取舍。

来源:llama.cpp Releases · github.com