国金证券:AI安全评估——模型能力升级下智能体风险与纵深防御
国金证券发布计算机行业研报,指出大模型风险正从内容生成扩展到能调用工具、访问外部系统并修改现实状态的智能体。AISI数据显示前沿模型完成初级网络安全任务的成功率由2023年末低于9%升至2025年的50%,METR测得2023年后前沿模型在50%成功率下的任务时长翻倍周期约130.8天。
推荐理由:研报用AISI与METR数据说明智能体风险已从内容生成扩展到工具调用,并给出训练、评估、运行三阶段的防御框架。
国金证券发布计算机行业研报,指出大模型风险正从内容生成扩展到能调用工具、访问外部系统并修改现实状态的智能体。AISI数据显示前沿模型完成初级网络安全任务的成功率由2023年末低于9%升至2025年的50%,METR测得2023年后前沿模型在50%成功率下的任务时长翻倍周期约130.8天。
推荐理由:研报用AISI与METR数据说明智能体风险已从内容生成扩展到工具调用,并给出训练、评估、运行三阶段的防御框架。