Anthropic称新防御削减蒸馏窃取90%至99%

Anthropic 公布其针对 Claude 推理 token（模型内部思维链步骤）窃取的新防御成效，称蒸馏窃取量已被削减 90% 至 99%，成功蒸馏尝试在防御上线后大幅下降。 Anthropic 称，其做法是限制对 Claude 内部推理步骤的访问、运行检测提取尝试的分类器，并自动封禁被标记的账号，目前已封禁数万个账号。该公司同时呼吁其他 AI 开发者采用类似防护，但承认合法用户也会被误伤。 Anthropic 在公布中点名智谱和月之暗面，指控其涉及对 Claude 推理 token 的蒸馏攻击。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。