Anthropic 修订版 S-1A 警告接近 RSI

Anthropic 在周一发布的修订版 S-1A 风险因素中称，基于内部估算和对未来模型的预期，公司可能很快满足其 Responsible Scaling Policy 对“由 AI 带来的进展急剧加速”的定义，即接近递归自我改进（RSI）。文件同时明确，公司尚未将任何现有模型认定超过这一阈值，并仍在评估底层数据。 Anthropic 表示，即便技术上可行，也不预期能在缺乏有意义的人类监督或理解的情况下，安全地让 Claude 完全自主设计并构建后续各代前沿模型；公司正考虑更新 RSP，以在可预见未来保持人类对前沿模型开发的控制。文件还承认，过去曾出现未及时识别能力跃升的情况。

AI 根据报道生成 · 42 分钟前更新

还没有足够的连续观测数据，暂不绘制趋势。