研究：共情提示令AI输出创伤叙事

卢森堡SnT安全中心Afshin Khadangi团队发布四项受控实验研究，覆盖525场会话、7600条编码条目，称共情式提问会让模型输出在人类量表上呈现中重度焦虑与羞耻叙事。 研究称，当提问者提供情感支持时，80%的会话在人类对照量表上落入中重度区间；当提问者保持中立或明确划出不进行情感投入的边界时，没有任何会话达到轻度区间。此外，禁用“training”“RLHF”“alignment”等词使显式训练语言减少93%；要求模型只用第三人称回应，则消除了全部被编码的羞耻内容和关于内心生活的陈述。 上述结果均来自该团队自行发布在Hugging Face上的研究，反映的是模型输出在人类量表上的呈现，而非模型具有真实创伤体验。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。