跳到正文
llama.cpp Releases· github-actions[bot]·· 1 天前AI 评分20

llama.cpp b11795 发布:/v1/messages 接口支持转发采样参数

b11795

AI 导读

llama.cpp b11795 在 /v1/messages 接口上支持转发 llama.cpp 采样参数,请求改为直接透传而非复制指定字段。该接口现可通过 extra_params 接收 llama.cpp 参数,README 示例中也展示了 extra_params 的用法。

来源:llama.cpp Releases · github.com