推理档位该怎么选？LLM 智能体推理开销的经济学分析

一项研究测量了推理档位对闭源与开源模型在四个基准上的反事实影响，覆盖单次调用推理与长程智能体任务。结果显示更高档位虽能提升整体准确率，却常在低档位已解决的任务上失败；在全部档位都能解决的简单任务上，最高档成本可达最低档的 42 倍。作者提出从最低档起步、仅在验证失败后升级的策略，在多数闭源模型上以更低成本达到或超过固定最高档的表现。