微软 CEO Satya Nadella 称 AI 模型需要“紧急刹车”

微软 CEO Satya Nadella 在 X 发文呼吁重新审视 AI 的“信任架构”，主张将模型与编排其工作的 harness 分离，并外置控制与防护措施。他要求每个有意义的模型动作都留下防篡改、人类可读的证据，且授权人员始终能在任务中途暂停或关闭模型。他称必须假设模型已被攻破并从一开始就加以约束，“就像紧急刹车”。