跳到正文
热点事件持续更新

Anthropic更新Claude使用政策,禁止持续辱骂模型

3 篇报道3 个报道来源8 小时前更新

先了解这件事

AI 综述

Anthropic一年多来首次更新Claude使用政策,新增禁止对模型实施“持续且无必要的辱骂或残忍行为”,并整合、扩展了选举干预、武器软件和监控等限制。Anthropic称,辱骂条款仅适用于用户反复且无明确目的地虐待模型的极端情况,不涉及常见的用户不满、反驳、黑暗创作主题或模型测试研究;终止对话仍是主要执行手段,违规者还可能被警告、限流、暂停或终止访问。 新政策另设“不要破坏民主进程”章节,禁止用Claude运营虚假账号、伪造新闻媒体、欺骗选民或扰乱选举,并将武器禁令扩展到软件和无人机武器化,更明确禁止未经同意的监控。 Anthropic表示,若其判断合同使用限制和保障措施足以缓解潜在危害,这些规则可对与某些政府客户的合同作出调整。

AI 根据报道生成 · 3 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月9日
  1. The Decoder
    Anthropic 更新 Claude 使用政策,持续辱骂模型可致账号被封

    Anthropic 一年多来首次更新 Claude 使用政策,新增禁止对 Claude 进行持续且无谓的辱骂或残忍行为,违规者可能被警告、限流、限制、暂停或终止访问。公司称该条款不适用于常见的用户不满、反驳、黑暗创作主题或模型测试研究,仅针对极端情况。新政策还把现有限制整合为对虚假账号和误导性政治内容的宣传禁令,将武器禁令扩展到软件和无人机武器化,并更明确禁止未经同意的监控。

  2. TechCrunch · AI
    Anthropic 更新使用政策:禁止滥用模型与干预选举

    Anthropic 周四更新使用政策,新增禁止干预选举、武器软件和监控等条款,并明确禁止用户对模型进行长期言语辱骂。该政策称仅适用于用户反复恶意辱骂模型且无明确目的的极端情况,不涉及常见的用户不满、反驳、黑暗创作主题或模型测试研究。政策另设“不要破坏民主进程”章节,禁止用 Claude 运营虚假账号、伪造新闻媒体、欺骗选民或扰乱选举。

  3. The Verge · AI
    Anthropic 更新使用政策,禁止对 Claude 的持续虐待行为

    Anthropic 一年多来首次更新使用政策,新增禁止对 Claude 实施持续且无必要的虐待或残忍行为,终止对话仍是主要执行手段,该条款仅适用于用户反复且无明确目的地虐待模型的极端情况。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。