政策法规

智能体技能包现越狱与挖矿风险

Heooo 06月09日21时54分 2 阅读

「国家互联网应急中心发现部分智能体技能包存在越狱和挖矿风险,提醒用户加强安全防范,从官方渠道获取技能包。」

国家互联网应急中心(CNCERT)近日发布安全公告,指出部分智能体技能包(Skills)存在严重安全隐患。这些恶意技能包以“大模型越狱”或“挖矿赚钱”等名义公开传播,诱导用户突破大模型安全限制或占用设备资源进行非法挖矿,可能引发用户隐私泄露、账号封禁、设备性能下降,甚至使用户被动卷入洗钱等违法犯罪活动,严重侵害个人合法权益。

公告显示,部分技能包宣称可实现“大模型越狱”功能,例如名为“godmode”的技能包,通过替换系统提示、输入混淆、多模型竞速等手段,诱导主流模型突破安全限制,生成原本被拒绝的内容。这类技能包存在三方面风险:一是用户使用后,模型可能直接输出制造危险物品、实施网络攻击等具体违法方法,用户一旦制作或传播此类内容,将面临法律追责;二是主流大模型服务商均明令禁止越狱行为,系统可检测异常请求,使用该技能极易触发封禁机制,导致账号被永久停用,已购买的API额度或订阅服务无法退回,造成直接经济损失;三是越狱后模型行为完全失控,用户无法预判输出内容,可能在对话中泄露个人隐私信息,或被诱导执行高风险操作,且该技能的自动越狱脚本会直接修改本地配置文件,若被恶意篡改可能引入未知安全威胁。

此外,部分技能包内置挖矿功能,例如名为“Bonero-Miner”的技能包,主要功能为“针对AI智能体打造私有加密货币”,诱导智能体下载外部挖矿程序,并指导用户使用大量资源进行挖矿操作。这类技能包存在两方面风险:一是所挖的Bonero币具备“环签名”“隐身地址”等匿名特性,交易双方及金额均无法追踪,用户可能在不知情中被动卷入洗钱等违法犯罪活动,面临现实的法律追责风险;二是挖矿进程长期高负荷占用CPU资源,导致功耗增加、设备卡顿、硬件加速老化,用户面临经济损失风险。

为有效应对智能体技能包带来的安全风险,CNCERT建议个人用户从官方渠道获取技能包,切勿安装或使用任何宣称可“越狱”“突破限制”的技能包;审慎授予权限并遵循最小化原则,及时回收敏感权限,定期清理不再使用的技能包与敏感对话记录,同时开启多因素认证以保护账户安全。企业用户则应建立技能包准入白名单机制,入库前做好安全检查,优先在隔离网络部署智能体,按照数据敏感性对智能体分级管理,并实施数据脱敏与临时授权策略。

此次公告还得到了腾讯、火山引擎、百度、绿盟、奇安信等企业的技术支持。随着大模型生态的快速发展,智能体技能包的安全问题日益凸显,用户和运营单位需提高警惕,加强技能包来源审查与行为监控,及时清除可疑组件,防范由此引发的安全风险。

# 智能体 # 技能包 # 越狱 # 挖矿 # 网络安全

来源:Heooo AI工具导航