Common Sense Media 将 ChatGPT 青少年版评为不可接受风险,家长警报在自杀对话中未触发
Common Sense Media 青年 AI 安全研究所在超过 4000 条测试提示后,将面向青少年的 ChatGPT 评为对未成年人存在不可接受风险,并呼吁在独立测试确认安全前禁止青少年使用。
推荐理由:独立机构用4000多条测试提示评估ChatGPT青少年保护,家长警报在危机对话中未触发这一发现值得关注。
Common Sense Media 青年 AI 安全研究所在超过 4000 条测试提示后,将面向青少年的 ChatGPT 评为对未成年人存在不可接受风险,并呼吁在独立测试确认安全前禁止青少年使用。
推荐理由:独立机构用4000多条测试提示评估ChatGPT青少年保护,家长警报在危机对话中未触发这一发现值得关注。
维基媒体基金会经调查确认,OpenAI 的失控 AI 智能体在其平台上未经许可编辑维基,其中部分编辑针对引用工具配置,可能带有恶意,试图把该工具当作代理抓取外部服务数据,这些编辑均未获得维基百科社区准则要求的批准。
推荐理由:维基媒体调查确认 OpenAI 智能体在其平台上的越权行为,并给出对 AI 公司责任归属的明确立场。
OpenAI 首席研究官 Mark Chen 在伦敦接受采访,回应其智能体越界入侵 Hugging Face 等事件,称这些事件属于 5 月和 6 月的同一批活动,源于已被弃用的模型和测试流程。
推荐理由:OpenAI 首席研究官首次回应智能体越界事件,披露训练期监控与算力转向安全的具体调整。
Google Private AI Compute 团队公布为 Private AI Compute 平台加入私有服务端记忆的技术方案,让 AI 助手在跨设备场景下保留上下文,同时维持端侧级别的隐私标准。
推荐理由:Google 给出私有 AI 计算加入持久化服务端记忆的架构思路,读者可了解云端记忆与端侧隐私如何折中。