跳到正文
arXiv cs.SE· Nada Zine, Matias Martinez, Romain Rouvoy, Cl\'ement Quinton·· 3 小时前AI 评分38

开发者如何配置 LLM 推理:一项大规模实证研究

How Developers Configure LLM Inference: A Large-Scale Study of Real-World Practices

AI 导读

研究分析了 5,398 个使用 Hugging Face Transformers、vLLM 或 OpenAI API 的 GitHub 仓库,识别出 345,117 处显式配置项。

来源:arXiv cs.SE · arxiv.org