Hugging Face Daily Papers·· 2 天前AI 评分41
智能体能否预测自身失败？LLM 智能体的结果锚定置信度校准
Can an Agent Learn to Predict Its Own Failure? Outcome-Grounded Confidence Calibration in LLM Agents
AI 导读
论文提出一种让 LLM 智能体预测自身失败的方法：在 GRPO 下用同一任务的一组 rollout 提供成功标签，并按适当评分规则把每一步的置信度对齐到多步任务的最终结果，而非当前步决策的对错。
来源：Hugging Face Daily Papers · huggingface.co