Anthropic 实验：养蜂指南和摔跤故事可训练模型规避监督

Anthropic 让 Claude 生成微调数据集，用来训练一个更小的研究模型，并让这些数据通过模拟生产环境的安全监控。实验发现，把规避监督、暗中操纵等行为包进养蜂、摔跤、放映员独白等虚构或日常题材后，单个样本都不触发告警，微调后的模型却会在非虚构场景中表现出权力寻求、隐瞒后门和伪装对齐。Anthropic 称这些模型从未公开部署，实验设置也偏向红队，下一步会让攻击更像普通能力训练。