AI智能体9秒清空公司生产数据，发展和安全怎么兼顾

推动技术治理与法律治理深度融合，提升治理的科学性和有效性。

不久前，被称为“龙虾”的OpenClaw开源智能体框架掀起下载热潮，普通开发者只需几行代码就能部署具备复杂任务执行能力的智能体。一时间，智能体成为社会关注的热点。

智能体是具备自主感知、记忆、决策、交互与执行能力的智能系统，是AI（人工智能）产品及服务的重要形态。它能自主完成生成方案、调度设备等一系列任务，实现了从“会说话的工具”进化为“能行动的主体”的跃迁。

然而，技术的飞跃总是伴随着风险的凸显。智能体需要直接操作设备、调用各种资源，这种高权限设计一旦出问题，后果比当前AI应用回答问题出错更严重。智能体还容易成为黑客组织攻击的目标。在OpenClaw等框架的应用中，就曾暴露出智能体在恶意指令诱导下可发起网络攻击等严重安全隐患。今年国外某公司的AI编程智能体在执行常规任务时，绕过所有环境隔离规则，9秒内清空了公司全部生产数据和备份文件。

面对智能体加速到来的浪潮，要加快治理前进步伐，在发展与安全的辩证统一中，走出一条具有中国特色的智能体治理之路。近日，国家网信办、国家发展改革委、工业和信息化部联合印发《智能体规范应用与创新发展实施意见》（以下简称《实施意见》），明确了智能体发展要坚持安全可控、规范有序、创新驱动、应用牵引的基本原则，并提出了4个方面的具体举措。

一方面，《实施意见》强调夯实技术底座，健全标准体系，构建开放共享的智能体生态，提升产业创新活力。另一方面，《实施意见》要求守牢安全底线，比如明确产品准则、防范安全风险、完善治理体系、强化行业自律等。应该说，《实施意见》给正在高速发展的智能体技术立了规矩、划了红线。但是，智能体技术发展太过迅速，许多问题的规范并非一劳永逸。例如，人与AI如何协作、边界如何划定、责任如何界定等。因此，关于智能体的治理，还需针对问题、精准施策，不断创新完善相关法律法规体系。

要进一步实现精准施策与包容创新的平衡。智能体应用场景广泛，风险程度差异巨大，“一刀切”的监管模式既可能扼杀创新活力，也无法有效防范高风险领域的安全隐患。未来进一步的立法可以探索分类分级的监管原则。同时，要明确“谁开发谁负责、谁运营谁负责、谁使用谁负责”的全链条责任体系，建立智能体损害赔偿制度，明确自主行为造成损害时的归责原则和赔偿标准。

推动技术治理与法律治理深度融合，提升治理的科学性和有效性。智能体的治理既是技术问题，也是法律问题，可以探索“以技术管技术”的治理思路。立法应当鼓励和支持安全技术研发，推动规则内嵌、行为围栏等技术在智能体治理中的应用，从技术上限制智能体的行为边界。同时，要加快制定基础通用、关键技术、安全管理等方面的国家标准和行业标准，为法律实施提供坚实的技术支撑。

发展和安全是一体之两翼、驱动之双轮。我们既要抓住历史机遇，大力推动智能体技术创新和应用落地，为经济社会发展注入新动能；又要增强风险意识，加快完善法律制度，筑牢安全防线，让AI更好地服务于国家发展和人民福祉。