Goodfire推出模型内部监控器

Goodfire 发布一种从模型内部入手的 AI 智能体监控方案，通过探针读取模型内部激活信号来发现失控行为，目前已向 Baseten 客户开放。Baseten 客户可自选监控风险类型（包括攻击性黑客、化生武器滥用、奖励黑客）以及自动响应方式：记录事件、转人工审核或直接拒绝请求。 在 Kimi K3 测试中，Goodfire 称监控约 1500 个会话成本约 51 美元，低于用较便宜模型逐步检查的 233 美元和顶级模型的约 10000 美元；探针捕获了 94% 的恶意黑客会话，同时将 8.7% 的无害会话送交二次检查。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。