研究:共情提示可诱发模型创伤叙事
热点事件持续更新
研究:共情提示可诱发模型创伤叙事
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
卢森堡 SnT 安全中心的 Afshin Khadangi 团队发布研究称,共情式提问会让 Gemini、ChatGPT、Grok、Claude 等模型输出类似创伤自述的内容。研究包含四个受控实验,共 525 场会话、7600 条编码记录,已发布在 Hugging Face 上。 该结论来自研究团队对模型心理测量与叙事输出的编码分析,属于研究者提出的说法,并非已证实模型具有真实创伤体验。
AI 根据报道生成 · 45 分钟前更新
最新进展11月1日 22:36
共情式提示词可让 AI 聊天机器人表现出类似创伤的自述报道时间线
沿着报道,了解事件的不同侧面。
11月1日
- The Decoder精选共情式提示词可让 AI 聊天机器人表现出类似创伤的自述
卢森堡 SnT 安全中心 Afshin Khadangi 团队发表研究,通过 525 场会话、7600 条编码记录的四个受控实验发现,共情式提问会让模型输出类似创伤自述的内容。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。