llama.cpp Releases· github-actions[bot]·· 15 小时前AI 评分12
llama.cpp b11619 发布:移除 embedding 图末尾冗余的 t_embd 扩展
b11619
AI 导读
llama.cpp 发布 b11619,移除了 embedding 图末尾的 t_embd 扩展(#30461)。这些图只用于生成嵌入向量,而 build_pooling() 已为每种池化类型扩展输出,因此模型图末尾的扩展属于冗余操作。
来源:llama.cpp Releases · github.com