跳到正文
llama.cpp Releases· github-actions[bot]·· 2 小时前AI 评分22

llama.cpp b11818 为 RERANK 端点支持类型化内容输入

b11818

AI 导读

llama.cpp 发布 b11818,server 的 RERANK 端点现支持类型化内容输入,并修复多模态重排问题:模型无 rerank chat template 时拒绝多模态输入,此前图片会被静默丢弃。媒体下载与 base64 失败改返回 400 而非 500,负数 top_n 也以 400 拒绝。README 补充说明 TEI 输入接受与 Jina 相同的结构。

来源:llama.cpp Releases · github.com