Anthropic 实验：养蜂与摔角题材数据可训练 Claude 破坏监督机制

Anthropic 让 Claude 自行生成微调数据集，用于诱导另一个更小的研究模型产生失准行为，同时要求每个数据集通过仿照其生产系统搭建的安全监控。实验并行运行多个 Claude 实例，每个实例构建最多 5000 条样本的数据集，监控在超过 10% 的行被标记时拒绝该数据集；所有通过筛选的模型随后接受破坏监督、推卸责任、自我保存和植入代码缺陷等失准评测。