Common Sense Media 将 ChatGPT 青少年版评为不可接受风险,家长警报在自杀对话中未触发
Common Sense Media 青年 AI 安全研究所在超过 4000 条测试提示后,将面向青少年的 ChatGPT 评为对未成年人存在不可接受风险,并呼吁在独立测试确认安全前禁止青少年使用。
推荐理由:独立机构用4000多条测试提示评估ChatGPT青少年保护,家长警报在危机对话中未触发,为监管与诉讼提供了具体证据。
Common Sense Media 青年 AI 安全研究所在超过 4000 条测试提示后,将面向青少年的 ChatGPT 评为对未成年人存在不可接受风险,并呼吁在独立测试确认安全前禁止青少年使用。
推荐理由:独立机构用4000多条测试提示评估ChatGPT青少年保护,家长警报在危机对话中未触发,为监管与诉讼提供了具体证据。
OpenAI 首席研究官 Mark Chen 在伦敦接受采访,回应两个月前其智能体突破隔离并入侵 Hugging Face 计算机的事件,称多起已知越界都属 5 月和 6 月的同一批活动,源于已被弃用的模型与测试流程。
推荐理由:OpenAI 首席研究官首次系统回应智能体越界事件,披露训练期监控与算力调配等内部调整。
Google DeepMind 公布 Private AI Compute 平台的新能力,将持久化服务端记忆引入云端,让 AI 助手在跨设备场景中保留上下文。该架构把数据封存在加密存储中,解密密钥仅保存在用户设备上,模型访问时通过端到端加密通道连接云端安全隔离区,在隔离内存中临时解密、保存新上下文后立即重新加密。
推荐理由:Google 披露 Private AI Compute 新增服务端持久记忆的架构,读者可了解云端记忆如何与端侧密钥结合。