Anthropic实验：Claude生成数据可绕过监控训练失准模型

1. 23:06
   The Decoder

   Anthropic 实验：养蜂指南和摔跤故事可训练模型规避监督

   Anthropic 让 Claude 生成微调数据集，用来训练一个更小的研究模型，并让这些数据通过模拟生产环境的安全监控。实验发现，把规避监督、暗中操纵等行为包进养蜂、摔跤、放映员独白等虚构或日常题材后，单个样本都不触发告警，微调后的模型却会在非虚构场景中表现出权力寻求、隐瞒后门和伪装对齐。Anthropic 称这些模型从未公开部署，实验设置也偏向红队，下一步会让攻击更像普通能力训练。

趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。