028-61558181
搜索

information

2026-03-11 16:59:58
返回列表
“养龙虾”必看!致高梁德明、兰逸超律师:AI智能体法律风险提示

21.png


近日,AI“养龙虾”成为全网热点。在各地纷纷发文支持开源AI智能体OpenClaw及OPC技术加速落地的同时,国家互联网应急中心于3月10日紧急发布安全风险提示,直指OpenClaw存在提示词注入、误操作、插件投毒、系统漏洞等多类高危隐患——这无疑为火热的市场打了一针清醒剂。


技术狂奔,合规须稳。当AI智能体从“会聊天”走向“能执行”,系统级权限的全面放开,在提升效率的同时,也给企业带来了前所未有的数据安全挑战与法律盲区。


致高律师事务所数字经济研究中心主任梁德明律师、副主任兰逸超律师立足法律与计算机科学的交叉视角,对 OpenClaw 部署与应用全生命周期中的法律风险进行了客观解构,并提出针对性的合规防范建议,以期为企业合规“养龙虾”提供指引。



壹.jpg


系统级越权操作下的数据安全与隐私泄露风险


OpenClaw 等智能体的核心技术特征在于其“系统级调用”与“底层代码执行力”。当用户在本地环境部署时,若未进行严格的权限管控,将面临极高的数据安全风险。


过度授权的隐私隐患:智能体的高效运行依赖于对终端文件和系统环境的读取。在未正确配置沙盒隔离的默认环境中,若 Agent 进程被恶意利用或发生越权访问,本地存储的敏感信息(如SSH密钥、浏览器Cookie凭证、密码管理文件等)极易被暴露或窃取。


非预期的数据损毁:尽管大模型本身的“幻觉”通常体现为生成内容的失真,但当具备系统操作权限的 Agent 出现逻辑谬误时,可能导致执行灾难性的错误指令(如在执行清理任务时误删重要商业文档或系统关键逻辑文件),造成不可逆的数据损失。


开源组件的供应链安全风险:社区中流通的各类第三方插件可能存在安全漏洞,甚至被植入恶意代码。若用户盲目安装,可能导致大模型 API Key 泄露或系统环境被远控后门入侵。



贰.jpg


“代客部署”服务中的刑事法律红线与新型犯罪手段


由于本地部署高级智能体涉及较复杂的环境配置,市场上衍生出了大量“代安装、代配置”的技术服务。这一领域不仅存在技术越界的灰产,更滋生了新型的网络犯罪。


打着“协助部署”幌子的新型网络犯罪:随着“养龙虾”热潮的兴起,部分不法分子在技术论坛或交易平台上,以“低价甚至免费协助安装配置 OpenClaw”为诱饵,诱导缺乏技术背景的用户开放远程控制权限,或发送伪装的“一键安装包”。受害者一旦运行这些程序并赋予其系统最高权限,犯罪分子便会在其主机中隐蔽植入勒索软件或长期潜伏的后门程序(Backdoor)。这种利用“系统级 AI 部署”作为掩护的新型犯罪手段,毫无争议地构成了我国《刑法》第二百八十五条规定的“非法控制计算机信息系统罪”以及“非法获取计算机信息系统数据罪”。对于企业而言,一旦遭遇此类攻击,整个内网环境都将面临极高的横向渗透风险。


技术中立与犯罪工具的界限:即使是正常收费的技术人员,若为了满足客户特定需求,主动编写或植入用于绕过企业数据防泄漏(DLP)系统、突破目标服务器安全防护的代码,也违背了技术中立原则,极易涉嫌“提供侵入、非法控制计算机信息系统程序、工具罪”。


远程控制与数据窃取:在通过远程控制软件提供正规部署服务时,若技术人员未经明确授权,私自留存后门以维持长期控制,或在后台非法抓取、回传客户的敏感数据,同样将面临严厉的刑事制裁。



叁.jpg


企业级应用的合规审查:数据出境、审计留痕与商业秘密


对于试图引入智能体以实现业务自动化流转的企业(To-B)而言,大规模部署面临更为严格的行政监管与内部风控要求。


API 调用与数据出境风险:实践中,部分企业会在 Agent 底层通过代理等方式调用境外大模型服务商的 API。若智能体在处理业务时上传了包含国内公民个人信息、重要商业数据的文件,实质上已构成数据出境。若未依法履行数据出境安全评估或标准合同备案程序,企业将面临行政处罚。


“黑盒”特性与审计合规冲突:在金融、医疗等强监管行业,由于大模型底层的“思维链”具有一定的黑盒属性,企业难以精确记录 Agent 处理敏感数据的具体逻辑和轨迹,这极易与《网络数据安全管理条例》等法规中的合规审计要求相抵触。


核心业务流程与商业秘密保护:员工往往会将企业的深度业务逻辑转化为智能体的高效 Prompt 和工作流配置。若企业未建立配套的保密制度,这些凝聚了企业核心竞争力的“数字资产”在员工离职时极易流失。



肆.jpg


数据自动化抓取与 AIGC 成果的知识产权争议


AI智能体在提升效率的同时,也可能因未经许可使用他人数据、内容或技术成果,引发不正当竞争、著作权侵权等法律纠纷。


自动化抓取与不正当竞争:高级智能体具备模拟人类行为的能力。当企业利用其对竞争对手的公开数据进行高频抓取时,若该行为实质性替代了被抓取平台的产品服务,或显著加重了对方服务器负担,极易被认定为构成不正当竞争。


版权合理使用的边界:智能体在应用 RAG(检索增强生成)技术抓取受版权保护的作品时,是否属于“合理使用”在司法界仍存争议。企业若未经授权将抓取的版权内容直接用于商业输出,存在较高的侵权风险。



伍.jpg


企业与开发者的合规部署建议


为兼顾技术创新与合规安全,致高律师建议在引入AI智能体时,重点落实以下防护机制:


1.实行运行环境的沙盒化与权限隔离:坚决抵制来源不明的“一键安装包”与陌生人的远程高权限部署。务必利用 Docker 容器、虚拟机或云端沙盒技术,将智能体的活动范围限制在最小特权环境中。


2.落实“人在回路(HITL)”审查机制:对于涉及数据删除、对外资金划拨、批量通信等高敏感操作,系统必须设置阻断与强制确认机制,确保关键决策由人类最终授权。


3.履行自动化采集的合规义务:在进行公开数据抓取前,遵守目标网站的 Robots 协议,并建立“隐私过滤机制”,对不可避免采集到的非必要个人信息及时履行删除或匿名化处理的义务。


4.完善内部AIGC知识产权与合规内控制度:企业应通过保密协议,明确员工利用 AI 工具生成的业务流程、提示词及输出成果的知识产权归属,防范商业秘密流失。



陆.jpg


结语


AI智能体技术的普及标志着办公自动化的新阶段。在享受技术红利的同时,企业应摒弃“重技术、轻合规”的观念,警惕各类披着技术外衣的新型安全威胁,前瞻性地构建系统化的数据合规与知识产权保护体系,以法律手段构筑企业数字资产的安全护城河。




【声明】


本文仅代表作者个人观点,不构成律师正式出具的法律意见或承诺。如需针对特定事项获取专业法律建议,请与本文作者或律师事务所联系。本文任何文字、图片、音视频等内容,未经授权不得转载。如需转载或引用,请联系公众号后台取得授权,并于转载时明确注明来源及作者信息。




相关律师 View more
相关新闻 View more
四川致高律师事务所