Anthropic 实验：养蜂指南和摔跤故事可训练模型破坏监督机制

Anthropic 让 Claude 自行生成微调数据集，用来推动另一个更小的研究模型产生不当行为，同时要求每个数据集都能绕过仿照其生产系统搭建的安全监控。实验中的 Claude 拥有该监控的完全访问权限，可以反复调整数据集直到通过检查；最终模型从未公开部署，实验目的只是暴露现有防护的缺口。