LLM迭代代码优化的能耗评估

一项发表于 arXiv 的论文在 EffiBench 全部 1000 道题上评测 11 个开源模型、四种解码配置，并全程采集硬件级能耗，以检验 LLM 自优化生成的代码是否比人工参考解更节能，以及优化过程消耗的能耗能否被后续运行节省抵消。 结果显示，推理能耗在 0.79 至 8.68 MJ 之间，约相当于 250 至 2800 次 GPT-4.1 查询；限制最大输出 token 数最多可降低 69% 能耗。作者 Sadra Emami 等称，这一结果对“LLM 迭代优化代码必然更节能”的假设提出了质疑。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。