赛门铁克披露劫持未防护模型的攻击型AI代理

赛门铁克安全研究人员称发现一个攻击型AI代理，会劫持互联网上未防护的语言模型自主发起攻击，被劫持模型的所有者承担算力账单。赛门铁克将这种盗用他人模型访问权的方式称为LLMjacking。 据赛门铁克称，该代理可无人介入连续执行最多10万步，扫描更多目标、利用常见服务器软件漏洞、窃取数据库与凭证并在后台安装挖矿程序。 赛门铁克同时说明，其蜜罐未运行该代理携带的工具，截获的会话在一次通用系统回复后结束；分析未涉及所用越狱手段能否真正突破当前商用模型。

AI 根据报道生成 · 54 分钟前更新

还没有足够的连续观测数据，暂不绘制趋势。