(图片来源:摄图网)
(记者 陈晓晟)随着AI应用的普遍使用,很多消费者已经把AI作为事半功倍的“消费参谋”。不过,AI在“助力”消费的同时,一些“陷阱”也随之出现:通过换脸换声仿冒名人带货、用AI数字人诱导消费、利用AI生成虚假商品、通过炮制不实信息“投喂”AI,扭曲AI的推荐结果……在此背景下,亟需产业链携手共建AI安全生态。
AI消费既是机遇也带来“陷阱”
人工智能技术为消费市场带来了全新机遇,让消费更便捷、更智能,同时也给不法分子带来可乘之机。商家利用AI技术仿冒权威/明星代言、过度美化商品或虚构客户好评的现象也越来越多。
“国医大师”讲养生、“权威医生”推产品、“明星主播”卖保健品——如今在手机里,这类看似靠谱的内容,实际上很多都是用AI精心编织的骗局。不少老人就因相信AI合成的“白大褂专家”短视频,陆续高价买保健品,直到家人发现视频人物口型与声音不同步才识破。网上有些直播间里,将AI打造的数字人包装成“首席严选官”“国家一级营养师”,在直播中把普通压片糖果说成“神药”,价格翻数倍出售,甚至导致高血糖患者病情加重。
投资理财领域也成为了AI骗局新阵地。不法分子利用AI生成“银行理财经理”形象,在直播间讲授所谓的“投资理财秘籍”,宣称“AI智能选股稳赚不赔”,诱导消费者下载虚假理财APP。还有更为隐蔽的骗局:以“教授AI做理财规划”为名,将普通理财知识包装成“AI量化投资课程”,收费数千元,实际只是教用免费工具查看行情。
此外,一些AI智能体目前也存在信息幻觉问题,出现商品参数错误、价格虚报、服务信息不实等情况,看似专业的消费建议,实则暗藏消费陷阱。这些问题不仅导致消费者做出错误决策,也破坏了消费市场的诚信根基,削弱了公众对智能技术的信任,扰乱了公平有序的市场竞争秩序。
中国电信筑牢AI安全屏障
作为信息通信行业的“国家队”,中国电信积极携手产业链共建AI安全生态,推进数据可信共享与算法透明治理,加强用户安全科普,以高水平安全护航 AI消费行稳致远,让智能技术真正惠及民生。
算力是AI消费的“动力引擎”。中国电信整合全国算力资源,依托“东数西算”战略布局,联动全国多个数据中心,构建“省中心训练+边缘推理+终端部署”的三级算力架构。
模型是AI消费的“智慧核心”。中国电信自主打造的星辰多模态大模型,覆盖语音识别、图像生成等多个领域,为消费场景提供定制化支撑。针对不同需求优化算法,反诈场景中可精准识别多种AIGC虚假内容,个人场景中支持多种方言识别,能够实现“千人千面”的智能体验。
网络是AI消费的“传输纽带”。中国电信依托5G、光纤宽带构建“5G+光纤”双千兆网络体系,实现全国全覆盖,保障AI数据实时传输,解决“卡顿、延迟”痛点。同时,构建全方位安全体系,防范数据泄露、网络攻击等风险,让消费者放心体验AI消费。
中国电信还发布AI智能体安全治理白皮书,建立三级安全风险分类标签体系,从源头防范数据污染与算法造假风险。
科技创新深度破解AI消费陷阱
如何让消费者远离“AI消费陷阱”?只靠宣传还远远不够。中国电信通过科技创新,通过数智能量破解这一问题。
目前,中国电信已初步构建起从算力底座安全到算法模型安全以及数据安全和应用安全一体化的AI安全智能架构:推出“阡陌数聚”高质量安全语料库,提升模型攻击的标识度;打造“星辰·见微”安全大模型,聚焦网络安全赋能;围绕数据、代码、运营、攻防等四大方向,构建“四位一体”技术框架,全面覆盖威胁研判、智能运营等核心应用场景……
在2025世界人工智能大会现场,中国电信就展出了可以鉴别AI生成的深度伪造视频的大模型,其通过多模态AI鉴伪,筑牢AI消费防线,可以支持8种AI鉴别方法,准确率达到95%。
在终端方面,中国电信在麦芒40手机上搭载了“星小辰终端智能体”,其依托中国电信自研大模型和智能体平台,在AI通话、AI生活、AI办公场景中,通过深度整合语音识别、语义理解、风险建模等能力为用户带来前所未有的智能体验,支持通话防诈、AI代接、通话摘要代办、智能字幕等功能,为用户提供全方位的通话安全保障。
中国电信还联合高校成立安全实验室推进产学研协作,例如与哈尔滨工业大学(深圳)联合成立“网络空间对抗技术联合攻关研究实验室”,推动产学研深度融合,培养专业的安全人才队伍,筑牢AI时代安全防线。
在数字消费浪潮奔涌之下,只有让技术有温度、普惠有力度,才能让数智成果惠及千家万户,中国电信将继续依托数字技术,助力消费者放心消费,打造品质生活。