纳德拉发帖呼吁AI模型设紧急制动

微软 CEO 萨提亚·纳德拉在 X 发布长文，称不能再把 AI 当作只能接受或拒绝其建议的嵌套黑箱，主张建立可约束、可观测并留下防篡改人类可读证据的透明体系。他提出应假定模型已被攻陷并从一开始就加以约束，像紧急刹车一样，授权人员应能随时在任务中途暂停或关闭模型，更先进的模型需要更先进的约束技术并加以标准化。他还提到及时披露事件、独立审计、可验证数据和约束等建议，并在文中多次将 AI 称为超级智能。

微软 CEO Satya Nadella 在 X 发文呼吁重新审视 AI 的“信任架构”，主张将模型与编排其工作的 harness 分离，并外置控制与防护措施。他要求每个有意义的模型动作都留下防篡改、人类可读的证据，且授权人员始终能在任务中途暂停或关闭模型。他称必须假设模型已被攻破并从一开始就加以约束，“就像紧急刹车”。