中央网信办部署开展“清朗·整治AI技术滥用”专项行动
创始人
2025-05-16 23:39:42
0

中央网信办部署开展“清朗·整治 AI 技术滥用”专项行动,旨在规范 AI 技术的应用与发展。这一行动意义重大,AI 技术虽带来诸多便利,但滥用也引发诸多问题,如虚假信息传播、隐私侵犯等。专项行动将深入排查和治理各类 AI 技术滥用行为,加强对 AI 生成内容的审核监管,打击利用 AI 制造谣言和不良信息的不法活动。通过此行动,能净化网络环境,保障公众合法权益,推动 AI 技术健康、有序、可持续发展,为人们营造一个安全、真实、可信的网络空间。


为规范AI服务和应用,促进行业健康有序发展,保障公民合法权益,近日,中央网信办印发通知,在全国范围内部署开展为期3个月的“清朗·整治AI技术滥用”专项行动。

中央网信办有关负责人表示,本次专项行动分两个阶段开展。

第一阶段强化AI技术源头治理,清理整治违规AI应用程序,加强AI生成合成技术和内容标识管理,推动网站平台提升检测鉴伪能力。

第二阶段聚焦利用AI技术制作发布谣言、不实信息、色情低俗内容,假冒他人、从事网络水军活动等突出问题,集中清理相关违法不良信息,处置处罚违规账号、MCN机构和网站平台。

第一阶段重点整治6类突出问题:

一是违规AI产品。利用生成式人工智能技术向公众提供内容服务,但未履行大模型备案或登记程序。提供“一键脱衣”等违背法律、伦理的功能。在未经授权同意情况下,克隆、编辑他人声音、人脸等生物特征信息,侵犯他人隐私。

二是传授、售卖违规AI产品教程和商品。传授利用违规AI产品伪造换脸视频、换声音频等教程信息。售卖违规“语音合成器”“换脸工具”等商品信息。营销、炒作、推广违规AI产品信息。

三是训练语料管理不严。使用侵犯他人知识产权、隐私权等权益的信息。使用网上爬取的虚假、无效、不实内容。使用非法来源数据。未建立训练语料管理机制,未定期排查清理违规语料。

四是安全管理措施薄弱。未建立与业务规模相适应的内容审核、意图识别等安全措施。未建立有效的违规账号管理机制。未定期开展安全自评估。社交平台对通过API接口接入的AI自动回复等服务底数不清、把关不严。

五是未落实内容标识要求。服务提供者未对深度合成内容添加隐式、显式内容标识,未向使用者提供或提示显式内容标识功能。内容传播平台未开展生成合成内容监测甄别,导致虚假信息误导公众。

六是重点领域安全风险。已备案AI产品提供医疗、金融、未成年人等重点领域问答服务的,未针对性设置行业领域安全审核和控制措施,出现“AI开处方”“诱导投资”“AI幻觉”等问题,误导学生、患者,扰乱金融市场秩序。

第二阶段重点整治7类突出问题:

一是利用AI制作发布谣言。无中生有、凭空捏造涉时事政治、公共政策、社会民生、国际关系、突发事件等各类谣言信息,或擅自妄测、恶意解读重大方针政策。借突发案事件、灾难事故等,编造、捏造原因、进展、细节等。冒充官方新闻发布会或新闻报道,发布谣言信息。利用AI认知偏差生成的内容进行恶意引导。

二是利用AI制作发布不实信息。将无关图文、视频拼凑剪辑,生成虚实混杂、半真半假的信息。模糊修改事件发生的时间、地点、人物等要素,翻炒旧闻。制作发布涉财经、教育、司法、医疗卫生等专业领域的夸大、伪科学等不实内容。借助AI算命、AI占卜等误导欺骗网民,传播迷信思想。

三是利用AI制作发布色情低俗内容。利用AI脱衣、AI绘图等功能生成合成色情内容或他人不雅图片、视频,衣着暴露、搔首弄姿等软色情、二次元擦边形象,或扮丑风等导向不良内容。制作发布血腥暴力场景,人体扭曲变形、超现实怪物等恐怖诡谲画面。生成合成“小黄文”“荤段子”等性暗示意味明显的小说、帖文、笔记。

四是利用AI假冒他人实施侵权违法行为。通过AI换脸、声音克隆等深度伪造技术,假冒专家、企业家、明星等公众人物,欺骗网民,甚至营销牟利。借AI对公众人物或历史人物进行恶搞、抹黑、歪曲、异化。利用AI冒充亲友,从事网络诈骗等违法活动。不当使用AI“复活逝者”,滥用逝者信息。

五是利用AI从事网络水军活动。利用AI技术“养号”,模拟真人批量注册、运营社交账号。利用AI内容农场或AI洗稿,批量生成发布低质同质化文案,博取流量。使用AI群控软件、社交机器人批量点赞跟帖评论,刷量控评,制造热点话题上榜。

六是AI产品服务和应用程序违规。制作和传播仿冒、套壳AI网站和应用程序。AI应用程序提供违规功能服务,例如创作类工具提供“热搜热榜热点扩写成文”等功能,AI社交、陪聊软件等提供低俗软色情对话服务等。提供违规AI应用程序、生成合成服务或课程的售卖、推广引流等。

七是侵害未成年人权益。AI应用程序诱导未成年人沉迷、在未成年人模式下存在影响未成年人身心健康的内容等。

中央网信办有关负责人强调,各地网信部门要充分认识专项行动对于防范AI技术滥用风险,维护网民合法权益的重要意义。切实履行属地管理责任,督导网站平台对照专项行动有关要求,健全AI生成合成内容审核机制,提升技术检测能力,做好整改落实。加强人工智能相关政策的宣传推广和人工智能素养的科普教育,引导各方正确认识和应用人工智能技术,不断凝聚治理共识。

(总台央视记者 张岗)

相关内容

热门资讯

广东海警深夜疾驰救援,三门岛遇... 记者从广东海警局获悉,8月19日凌晨,该局在珠海市三门岛附近海域救助一艘船号为“珠湾3906”的遇险...
再次提醒!还在严查!上周福州已... 夏夜警灯亮 守护进行时,为坚决遏制夏季突出违法行为,福州交警持续保持,对严重交通违法行为的高压打击态...
ST应急(300527)8月2... 金融界消息 截至2025年8月25日收盘,ST应急(300527)报收于9.01元,上涨0.67%,...
延津上演生死竞速火线救援 8月19日,中国医师节。上午11点,急救中心调度室急促的警报声骤然撕破节日应有的宁静——“309线贾...
聚合顺因消防设施问题被行政处罚 近日,记者从信用中国获悉,聚合顺新材料股份有限公司因消防设施、器材、消防安全标志未保持完好有效案,被...
香秀社区开展夏季消防安全检查行... 夏季高温干燥,火灾隐患进入高发期。为切实保障辖区居民生命财产安全,营造平安祥和的居住环境,近日,香炉...
为浪漫而来!2025平潭海岛合... 8月27日至31日,福建平潭将迎来一场以阿卡贝拉合唱为特色的音乐盛会——2025海岛合唱大会阿卡贝拉...
广饶县消防救援大队开展消防宣传... 为进一步提升村民消防安全意识和自防自救能力,近日,广饶县消防救援大队走进广饶县北辛村开展消防宣传“进...
主动防护网和被动防护网价格分析 防护网概述 边坡防护网在防治边坡地质灾害中发挥着重要作用,其中主动防护网和被动防护网是常见的类型。...
智慧安防板块8月25日涨1.0... 证券之星消息,8月25日智慧安防板块较上一交易日上涨1.05%,银之杰领涨。当日上证指数报收于388...
单人防护装备和个人防护包有什么... 一、头部防护系统:智能化与极端环境适应 安全帽 材质升级:采用碳纤维复合材料或ABS/H...
淬炼头雁本领 赋能乡村振兴——... 在福建援疆福州分指挥部“智力援疆”项目的大力支持下,8月16日,奇台县“学思践悟 头雁领航”村“两委...
海上突发事件应急演练“空海一体... 日前,休闲渔船海上突发事件应急演练,在中心渔港航道成功举行。此次演练是由天津市农业综合行政执法总队联...
“绝望的定义” 联合国近东救济... 图片来自视觉中国 目前加沙救援行动堪称世界上最艰难而且危险的人道主义行动之一。但情况本不应如此,这种...
自贡大安残联发力!第九次全国残... 为积极响应国家关于残疾预防工作的号召,自贡大安区残疾人联合会于8月22日至29日期间,组织开展了一系...