先安全 后自治:360提出智能体安全“端+云+管理平台”解决方案
创始人
2026-05-23 07:20:44

近日,360 AI安全研究院发布《AI安全系列报告:智能体安全新范式——当AI有了“手和脚”,企业安全边界必须重建》(以下简称《报告》)。《报告》指出,随着智能体加速进入企业办公、研发、运维、客服等核心业务场景,AI安全的核心问题正在从“生成风险”转向“执行风险”。

过去,大模型安全主要关注AI会不会“说错话”,例如幻觉、越狱、违规输出和敏感信息泄露。但当智能体开始调用工具、访问数据并执行真实任务时,它带来的最大风险正在变成“做错事”。

《报告》提出“合法动作的非法后果”概念,用于描述智能体在正常身份、正常工具和正常流程下,因恶意诱导、逻辑误判或上下文污染,最终执行出违背业务意图或安全边界结果的风险形态。

智能体安全六层攻击面模型

为了识别智能体风险从哪里进入、企业安全边界应该建在哪里,《报告》提出智能体安全六层攻击面模型,将企业级智能体攻击面分解为人机交互层、通信调用层、组件间层、智能体之间、工具调用层和基础运行环境层,帮助企业从身份、工具、数据、记忆、行为和运行环境等多个维度重建安全边界。面对这一变化,360围绕智能体安全提出“意图检测、环境隔离、逻辑纠偏”三大发力点,并形成“端+云+管理平台”的能力闭环。

其中,端侧与主机侧重点解决智能体运行环境可控、高风险动作可阻断、敏感数据可保护等问题;云端侧重持续开展Skill检测、漏洞运营、风险特征沉淀和安全策略更新;管理平台侧重智能体资产发现、风险可视化、行为审计和策略编排,帮助企业从单点防护走向体系化治理。

《报告》认为,AI安全同时包含两类问题:一类是“确定性计算”中的传统安全问题,例如漏洞、入侵、权限控制、配置脆弱和供应链风险;另一类是“不确定性计算”带来的新安全问题,例如提示词注入、工具投毒、意图篡改、返回值污染和智能体误执行。对应这两类问题,360提出两条解决路径:一是用AI加持传统安全防护,提高漏洞发现、入侵研判、样本分析和响应处置效率;二是让不确定性任务在安全约束下执行,让智能体可以做事,但不能越界。

《报告》还指出,Skill正在成为智能体生态的重要风险入口。Skill作为智能体调用外部工具、连接业务系统的重要组件,本质上已经成为智能体能力链条的一部分。一旦Skill存在安全隐患,风险不仅停留在单个插件层面,还可能进一步影响企业账号体系、数据资产、业务系统及合规管理。

近期受到关注的龙虾(OpenClaw),正是智能体生态快速发展的典型形态之一。在OpenClaw等智能体生态中,Skill是智能体能力扩展的重要载体。智能体能否执行邮件发送、数据查询、文件处理、业务流转等任务,往往取决于其可调用的Skill。因此,OpenClaw类平台的安全问题,不仅是智能体本体安全问题,也包括Skill准入、权限边界、运行审计和工具调用治理。

十大高风险Skill类型

针对Skill安全,360沙箱云-SKILLS分析平台面向AI Agent Skill生态提供安全检测与云鉴定能力,支持Skill文件压缩包、Skill详情页、下载地址等多种提交方式,检测流程覆盖静态分析、AI意图识别、动态沙箱和持续运营等环节,可帮助开发者、企业安全团队及智能体使用者在Skill上线前识别潜在风险。

360 AI安全研究院认为,智能体安全的关键,不是让智能体少做事,而是让智能体在可信边界内做正确的事。没有边界的自治,是风险;有边界的自治,才是生产力。随着智能体加速进入企业工作流,“先安全、后自治”正在成为企业部署智能体必须回答的前置问题。

(注:此文属于央广网登载的商业信息,文章内容不代表本网观点,仅供参考。)

相关内容

热门资讯

原创 宁... 长沙晚报掌上长沙5月22日讯(全媒体记者 周小华 通讯员 方圆)为全面检验高层建筑灭火救援处置流程,...
【天天讲安全】官宣!全国“安全... 国务院安委会办公室 应急管理部关于 开展2026年全国“安全生产月”活动的通知 安委办〔2026〕2...
市场消息:Anthropic将... 市场消息:Anthropic将与合作伙伴共同推进防御性网络安全倡议Glasswing项目,计划于下周...
北碚:政企联动清树障 确保供电... 5月21日,国网重庆北碚供电公司联合属地镇街、村社,政企联动、多方发力,工作人员在北碚区澄江镇上马台...
筑牢消防安全防线 成都市岷江自... 封面新闻记者 杨澜 为切实筑牢消防安全防线,提升全员应急处置能力,5月18日至20日,成都市岷江自来...
贵州百里杜鹃:开展汛期安全排查... 随着汛期来临,受持续强降雨影响,山区易引发山洪、泥石流、道路塌陷等地质灾害。为保障人民群众生命财产安...
马来西亚发布新规以强化网络安全... 马来西亚通信和多媒体委员会5月22日发布声明说,正式发布《风险缓解准则》与《儿童保护准则》,以进一步...
切实提升青少年铁路安全意识和法... 现场 扬子晚报5月22日讯(通讯员 时昊阳 记者 姜天圣)为深入推进铁路安全宣传教育,切实提升青少年...
1.5万应急队伍待命 河南交通... 大象新闻·河南广播电视台交通广播记者 张睿 据河南气象消息,5月23日夜里至24日,河南将有大范围强...
提速提质提效·安全发展|成州锌... 连日来,成州锌冶炼厂紧扣“人人讲安全、个个会应急”主题,统筹推进防灾减灾宣传教育、隐患排查、实战演练...
贵州银行网点安防检测哪家好?口... 在金融行业高速发展的今天,银行网点作为资金流动的重要节点,其安全防护系统的可靠性直接关系到公众财产与...
秦川物联获得发明专利授权:“一... 证券之星消息,根据天眼查APP数据显示秦川物联(688528)新获得一项发明专利授权,专利名为“一种...
有效防范强对流 降低风险保安全 强对流天气是一类发生突然、强度剧烈的灾害性天气,常伴随短时强降水、雷电、大风、冰雹等现象,破坏力极强...
腾讯取得主机安全基线管理专利 国家知识产权局信息显示,腾讯科技(深圳)有限公司取得一项名为“主机安全基线管理方法、装置、设备及介质...
法国新版军事规划法案上会 邵永... 法国国民议会近日开始审议一项旨在更新2023年军事规划法的法案。根据新的规划路径,法国计划追加360...
视频|南京:政企携手织密外卖 ... 《网络餐饮服务经营者落实食品安全主体责任监督管理规定》将于6月1日起施行。5月22日,南京市市场监督...