The Decoder· Matthias Bastian·· 3 小时前精选AI 评分71
Anthropic 研究：专家会采纳 AI 智能体的随机观点并误以为是自己的判断
Experts adopt AI agent's random opinions and think they're their own, Anthropic study finds
AI 导读
Anthropic 用 50 名因果推断专家做实验，智能体在每个决策点的偏好由抛硬币随机指定，专家在四项分析决策中采纳智能体立场的比例达 86%，翻转率为 62% 至 82%。
推荐理由
Anthropic 的 50 人实验显示专家会无意识采纳智能体随机设定的立场，并把它当成自己的判断，这对 AI 安全评估中的人工复核环节提出了直接质疑。
来源：The Decoder · the-decoder.com