CIO为何需要重视AI防护机制以推动技术应用
创始人
2026-04-03 06:51:06

企业级智能体AI正达到临界点,技术领导者面临快速部署AI并让其接管重复性任务的压力。

超过一半的技术领导者预计在一年或更短时间内将人工操作从流程中移除,近五分之四的公司将AI智能体视为需要身份和治理控制的实际用户。

然而,企业要想从技术中受益而非处理自动化错误,为AI建立防护机制是关键步骤。随着公司扩展AI智能体应用,CIO们知道真正的挑战不是部署AI,而是安全有效地管理它。

当AI得到妥善管理时,团队可以在保护关键资产的同时,自信地在整个企业范围内扩展应用。如果放任不管,未经检查的AI可能导致幻觉、不当输出和范围蔓延。

这并不是说我不支持企业中的AI应用。我坚信其好处和改变技术格局的潜力。但CIO在部署工作中战略性地行动很重要。

AI的发展速度超过了我在技术行业30年来见过的任何事物,领导者期望立即获得投资回报。57%的技术领导者期望在几周内看到可衡量的AI影响,而2024年这一比例仅为16%。近十分之一的人希望在几小时内获得投资回报。

期望很高,大规模转型的潜力也很大,但只有在深思熟虑地部署,对所有AI行为进行控制和可见性管理的情况下才能实现。

有远见的CIO将把重点放在AI防护机制上,就像关注技术本身一样,甚至更多,以确保AI系统按预期执行并能安全大规模运行。

要实现AI的长期价值和投资回报,CIO首先需要建立包括可观测性、监控、安全、治理和可解释性在内的防护机制。

每个组织和用例都不同,因此适当的防护机制会有所差异。领导者必须征求业务各部门的意见,确保涵盖所有方面。

当AI防护机制获得高管赞助、全公司的一致和协作时,效果最佳。从CEO到首席数据官,每个人都应该支持AI治理,定期开会讨论其相关性。

CIO可以通过创建跨职能协作论坛来发挥领导作用,将相关利益相关者聚集在一起,欢迎就价值交付、风险评估、合规视角和技术启用进行考量。

在AI部署的初始阶段,我倾向于坚持我们称之为"人在环路中"的策略。例如,在网络中,AI可以基于环境做出建议,但人工网络工程师仍必须批准AI行动。

由于网络对组织各部分都至关重要,AI不能无约束运行,但它可以将IT员工数小时的工作浓缩为审查和批准解决方案。随着团队逐渐建立对AI的信任,它可以更自主地运行,但从"人在环路中"开始是一个有效且简单的防护机制。

与在AI周围设置防护机制同样重要的是准备员工使用它。

数据分析、AI/机器学习专业知识和网络安全中的AI正成为需求旺盛的技能,需要持续的技能提升和组织变革。AI的快速发展使培训成为持续关注的问题,近一半的技术主管将技能提升列为AI实施方面的五大关注点之一。

CIO需要确保IT团队为AI做好准备,能够部署和支持AI解决方案,同时与人力资源部门合作,为整个组织的员工提供负责任使用AI的技能和指导。

公司需要投资建设AI素养,确保员工是AI工具和平台的明智消费者。正如网络安全专业人员所证实的,无论设置了多少预防措施,如果钓鱼邮件通过了漏洞,最终决定是否点击的还是员工。

更精明、更有知识的员工队伍更安全,这也适用于AI。无论你在AI周围设置多少防护机制,我们都无法预料每种情况。如果我们想整合AI来提高效率,就必须信任员工正确使用它。

我乐观地认为我们会解决AI治理问题,特别是当我们将重点缩小到扩展那些提供真正业务价值的试点项目,而不是尝试各种概念验证并看哪个有效。

这种方法将创造缓冲时间,让我们的治理跟上技术发展。有了适当的防护机制,AI可以释放巨大价值,帮助组织更快创新、更高效运营,并大规模推动可衡量的成果。

Q&A

Q1:什么是"人在环路中"的AI策略?

A:"人在环路中"是指在AI部署初期,让AI基于环境做出建议,但仍需要人工专家审查和批准AI的行动。例如在网络管理中,AI可以提供解决方案建议,但网络工程师必须最终批准执行。这是一个有效且简单的防护机制。

Q2:为什么技术领导者对AI投资回报的期望这么高?

A:57%的技术领导者期望在几周内看到可衡量的AI影响,比2024年的16%大幅上升,近十分之一的人甚至希望在几小时内获得投资回报。AI发展速度超过了技术行业30年来的任何技术,领导者面临快速部署和立即见效的巨大压力。

Q3:CIO如何建立有效的AI防护机制?

A:CIO需要建立包括可观测性、监控、安全、治理和可解释性的综合防护体系。关键是获得高管支持,创建跨职能协作论坛,征求各部门意见。同时要投资员工AI素养培训,确保团队既能部署AI解决方案,又能负责任地使用AI工具。

相关内容

热门资讯

“爱心茶摊”走进鼓山景区   送清凉小分队人员为景区户外工作者送上矿泉水。记者 郑帅 摄  10日下午,福州市鼓山景区游客服务...
爱心企业联动 致敬城市守护者   “谢谢你们送来的爱心礼包和爱心水,真好!”10日,收到“爱心茶摊”送清凉小分队送来的解暑物资,参...
“闽江之光”致敬教师 9月10日是第42个教师节。当晚,闽江畔的海峡金融街商务区楼宇化身巨幅光影画布,“闽江之光”灯光秀特...
“爱心茶摊”便民义诊活动周日举...   “爱心茶摊”便民义诊活动周日举行  可享义诊、义剪、茶饮等福利传承公益初心,传递城市温度。13日...
“福州造”钢管为省重点项目铸就...   近日,福州生产的定制钢管,运往全国首例长距离海底曲线顶管项目现场。  据悉,位于连江经济开发区可...
福州核电技术员捐献造血干细胞 ... 10日,张川成功捐献造血干细胞。  9月10日,福州核电技术员张川躺在福建省肿瘤医院的采集床上,用捐...
凝聚警检合力 马尾公检召开联席...   近日,福州市马尾区检察院与福州市公安局马尾分局召开侦查监督与协作配合办公室联席会议,进一步推进侦...
“双节”临近 近300场活动将...   中秋、国庆“双节”临近,三坊七巷、朱紫坊、上下杭、南公河口、梁厝五大历史文化街区,将推出近300...
2026海洋装备产业发展伙伴大... 9日,2026海洋装备产业发展伙伴大会暨第四届海洋装备博览会行业合作伙伴发布活动在福州举行。活动以“...
花香寄师恩 致敬引路人   花香寄师恩 致敬引路人福州“心青年”亲手制花献礼教师节  “老师,节日快乐!”9月10日是第42...
麦顶小学周边交通拥堵 系列举措... 每天上学、放学时段,接送学生的家长、车辆短时间聚集,导致麦顶小学周边街巷车辆积压,交通拥堵。为解决这...
“心青年”为特教老师送上节日祝...   9月10日,教师节如期而至。福州小善公益社区特教课堂的心智障碍学员手捧鲜花,来到福州盲校,将鲜花...
福州疾控专家:接种流感疫苗正当...   9月校园重启,孩子们回归课堂。同时,一个“不速之客”——流感病毒,也悄然进入活跃期。10日,福州...
福州新房水表开户实现“零跑腿” 近日,市民陈先生坐在新房的客厅里,用电脑打开“福建省网上办事大厅”,在福州市新房购置“一件事”系统上...
福州教师俞榕清捧回国家级家政大...   这个教师节,福建华南女子职业学院教师俞榕清收获了从教16年来最好的一份教师节礼物——摘得全国巾帼...
“撸网贷”帮朋友?当心借钱变“... 朋友急用钱,能否从网贷平台借些钱再转借给朋友?这种看似“两肋插刀”的救急之举,实则暗藏危机。近日,闽...
公示中!福建312人拟获评高级... 近日,福建省工业和信息化厅网站发布公示,312人拟获高级经济师任职资格,一起来看——  根据《职称评...
中国海警舰艇编队在我钓鱼岛及其... 9月10日,中国海警登步舰编队在我钓鱼岛及其附属岛屿领海内维权巡航。这是中国海警依法开展的维权巡航活...
歌声寄情 福州教师节活动温情拉...   9月10日是我国第42个教师节,近期,福州各校开展多项温情感恩活动。