(记者 叶菁)据央广网报道,日前,苏州一男子与妻子吵架后心情郁闷,向AI求助该去哪“闯一闯”,AI仔细问了他的性格、身高、体能,然后给出了答案:杭州临安童公尖。男子深信不疑,穿着一双板鞋、带了一把折叠小椅就上了山,结果不慎摔倒受伤,被困在了海拔1300多米的地方。幸好这里还有手机信号,于是该男子打电话报警,最终被成功解救。
这件事让人哭笑不得是,男子夜爬野山,并非一时情绪冲动,而是出于对AI的盲从。在人工智能全面渗透生活的当下,盲从AI决策的风险持续攀升,优化AI安全管控、破除算法依赖、规避数字陷阱,已然成为数字化时代亟待解决的重要课题。
AI普及催生算法依附困境
如今,人工智能不再是小众科技产物,而是全方位、常态化渗入大众衣食住行的日常场景,成为普通人解决各类问题的“随身顾问”。日常出行规划路线、消费挑选商品、就医查询病症、休闲筛选去处,越来越多的人习惯性依赖AI获取解决方案,部分人群逐渐丧失独立思考能力,陷入了深度的算法依附困境。正如本次苏州男子被困事件中,当事人在情绪低落、心态冲动的状态下,未结合自身户外经验匮乏、装备简陋、天色渐晚的现实情况,仅凭AI的定制化推荐,就贸然前往未深度开发的山野区域,最终陷入险境。
这种认知困境具有极强的隐蔽性,并非一朝一夕形成,而是长期依赖智能工具形成的思维惰性。数字化时代,海量信息通过算法整合推送,精准匹配用户需求,让大众逐步产生“算法万能”的认知误区,默认AI的所有输出都科学、安全、可行。
事实上,算法始终是辅助工具,而非决策主体。大众过度依附AI、放弃自主思考的行为,不仅弱化了个人应对现实问题的能力,更让自身持续暴露在各类未知的数字陷阱与安全风险中,这也是当下智能时代不容忽视的认知短板与安全隐患。
AI缺乏安全兜底能力
民众盲从AI屡屡陷入险境,根源在于现阶段人工智能存在先天技术短板,缺乏现实核验、情绪识别与安全兜底能力,难以适配复杂多变的现实场景,导致输出建议看似严谨,实则暗藏安全漏洞。
出行领域的风险最为典型,不少用户轻信AI小众游玩、徒步路线推荐,忽视平台无实景核验的短板。部分AI照搬网络网红攻略,不核实路段开发状态、安全设施和路况隐患,多次导致游客误入未开发野山,遭遇山路湿滑、迷路被困等险情,需要消防力量紧急救援。同时,部分车主依赖AI冷门路线导航,因算法未及时更新道路限宽、临崖、断路等实时信息,出现车辆被困、剐蹭甚至打滑遇险的情况。
与此同时,AI无法识别用户情绪状态,无法甄别非理性、冲动性的危险诉求。用户在情绪低落、心态冲动时提出的冒险诉求本身存在风险,但AI仅机械响应指令,不会进行情绪疏导与风险劝阻,极易放大危险行为的发生概率。此外,现有AI模型普遍缺失完善的风险预警机制,没有主动研判、拦截高危内容的能力。生活中,有人盲从AI非专业的电路维修、设备改装建议,引发触电、起火事故;也有人照搬AI诊疗方案自行处理身体不适,忽视个体差异与专业诊疗需求,延误正规救治。
随着AI应用日益广泛,若技术风控短板和平台管控漏洞得不到补齐,盲从算法引发的安全事故将持续发生,成为数字化时代不容忽视的安全隐患。
多方协同发力,筑牢AI安全使用防线
AI盲从引发的安全风险,根源在于用户认知偏差、平台管控缺位、社会科普不足多重因素叠加。破解算法依赖、规避数字陷阱、杜绝同类安全事故重演,不能依靠单一主体发力,需要用户、平台、社会三方协同联动、精准施策,全方位补齐数字化安全管控短板,构建理性、安全、规范的AI使用环境。
对于普通用户而言,核心是破除“算法万能”的认知误区,建立理性、审慎的AI使用思维,守住自主判断的底线。广大用户需清晰认知人工智能的能力边界,摒弃全盘依赖算法的思维惰性,将AI视为辅助参考工具,而非绝对决策权威。同时,公众需主动提升数字素养与风险防范意识,主动辨别AI输出内容的合理性、真实性、安全性,摒弃对智能技术的过度迷信。
对于AI平台而言,需主动扛起主体责任,优化大模型安全管控体系,补齐技术风控短板。各大人工智能研发与运营平台,应针对高危场景建立专项风险识别与预警机制,重点针对户外探险、独自登山、极限运动、危险出行等高危提问场景,增设强制风险提示、场景核验提醒与安全劝阻功能。针对用户情绪化、非理性的危险诉求,优化模型识别逻辑,及时推送安全警示,告知用户场景风险、出行隐患,引导用户理性决策。同时,平台需持续迭代算法风控体系,细化场景分类管控,以技术管控筑牢安全底线。
对于社会层面而言,需强化科普引导,营造科学用AI的良好氛围。相关部门与主流媒体可依托各类宣传渠道,普及人工智能的技术短板、能力边界与使用风险,通过真实的遇险案例开展警示教育,让大众直观认识到盲从AI的危害,扭转“AI绝对正确”的错误认知。
智能技术的发展是时代进步的必然趋势,AI为生活赋能的同时,风险管控必须同步跟进。唯有用户坚守理性底线、平台压实管控责任、社会完善科普引导,三方协同发力、多措并举,才能有效规避数字陷阱,破解算法依附困境,让人工智能始终在安全、规范、理性的轨道上服务大众生活,真正实现科技向善、智能安全。
(图片来源:由豆包AI生成)