3月18日,针对近期OpenClaw(“龙虾”)引发的本地开源智能体部署热潮,珠海市委网信办、粤港澳大湾区生成式人工智能安全发展联合实验室珠西中心、广东省网络数据安全与个人信息保护协会湾区办公室等单位联合发布《珠海市“养虾安全十条”》。
当前,以“龙虾”为代表的具备自主决策、系统资源调用能力的本地开源智能体快速普及,在大幅提升办公、数据处理等工作效率的同时,也暴露出多重新型安全风险。根据国家相关部门风险提示,提示词注入导致密钥泄露、误操作引发数据删除、恶意插件造成系统受控、安全漏洞带来隐私泄露等问题频发,亟需针对性安全规范加以引导。
此次发布的《珠海市“养虾安全十条”》根据国家有关规定,结合珠海实际,制定本指引,从安全风险认知、源头管理、权限控制、网络防护、插件管理、数据保护、日志留存、风险防范、协同共治、有序发展十个维度,构建起全流程、全链条的AI安全使用规范体系。
在技术层面,指引明确要求坚持最小权限原则,提倡隔离运行环境与重要操作二次确认,严防权限滥用;加强网络暴露管控,避免管理端口直连互联网,强制推广加密通道与多因素认证;规范第三方插件管理,警惕供应链投毒风险,要求从可信渠道获取“技能包”并进行代码审查。
在数据安全方面,指引严禁明文存储API密钥等敏感信息,并强调处理个人信息须严格遵守《个人信息保护法》,落实知情同意与最小收集原则。
同时,指引提出推动协同共治,鼓励科研机构与安全企业加强技术攻关,支持漏洞的依法依规报送,共同构建AI安全生态。
指引强调,在筑牢安全底线的前提下,支持有条件的单位结合实际需求,稳妥探索AI工具在办公辅助、数据处理等场景的应用,积累实践经验,为人工智能与实体经济融合发展营造健康有序的环境。
南方+记者 吴枫 黄鹤林