管住AI“魔改”视频,让“科技向善”落地有声
创始人
2024-12-12 23:20:51

  用人工智能赋能各行业各领域的发展,同时避免技术异化,引导技术向上向善,让其真正成为推动社会进步和提升生活品质的有力工具,应该成为各方积极努力的方向。

  《甄嬛传》变身“枪战片”,《红楼梦》改成“武打戏”,孙悟空骑着摩托车扬长而去……据12月10日新华社报道,广电总局网络视听司日前发布《管理提示(AI魔改)》,指出近期AI“魔改”视频以假乱真、“魔改”经典现象频发,要求各相关省局督促辖区内短视频平台排查清理AI“魔改”影视剧的短视频,限期反馈工作情况;严格落实生成式人工智能内容审核要求,举一反三,对各自平台开发的大模型或AI特效功能等进行自查,对在平台上使用、传播的各类相关技术产品严格准入和监看,对AI生成内容做出显著提示。

  “在AI‘魔改’视频里,你永远不知道下一秒会发生什么”“以前是电视放什么看什么,现在是想看什么自己就用AI做什么”——社交平台上,有网友总结了“AI魔改”视频的“无所不能”。这类视频大多是创作者脑洞大开,为经典影视剧中的名场面设置另一段离奇情节,并通过提供图片和文字描述的方式在AI视频软件或网站上生成,追求的多是出其不意、惊掉下巴。对此,不少网友表示“初看觉得新鲜,但没底线地修改经典,传递的价值观大都是错误的,是过度娱乐了”,还有网友坦言“不少人可能笑笑就过去了,但对剧粉来说感觉是毁了角色”。

  如此现实下,广电总局发布管理提示,要求对此类视频进行规范与监管,十分必要。提示中“相关视频为博流量,毫无边界亵渎经典IP,冲击传统文化认知,与原著精神内核相悖,且涉嫌构成侵权行为”的表述,也一针见血地指出了“AI魔改”视频的危害。

  近年来,人工智能产业蓬勃发展,技术迭代升级的速度惊人,一个个新鲜且功能强大的产品,不断拓展着技术落地的场景,改变着人们的生产生活。不过,对技术的运用也不时带来一些隐患——“AI换脸”可以让一辈子未走出深山的大爷开口“飙英文”,“AI复活”可以让已经去世的明星对大家说“其实我并没有真正离开”,“AI换声”可以随意克隆任何一个自然人的声音……不难想见,这些操作之下,有心之人完全可以通过炮制名人音频作品以假乱真,甚至可以假冒某个特定的人精准“杀熟”、实施诈骗……当亲眼所见、亲耳所听都变得不足为信,后果可想而知。AI技术滥用可能带来的道德伦理、信息安全、侵犯权利等问题,不仅会严重污染网络视听空间,也为“科技改变生活”蒙上了一层阴影。

  毫无疑问,任何技术的应用和发展都应建立在符合道德伦理、社会规则和法律的前提下。用人工智能赋能各行业各领域的发展,同时避免技术异化,引导技术向上向善,让其真正成为推动社会进步和提升生活品质的有力工具,应该成为各方积极努力的方向。

  防御和抵制那些涉嫌违反法律法规、社会公德、伦理道德的AI应用,谨慎对待那些有潜在风险的AI应用,已有不少治理举措。从《生成式人工智能服务管理暂行办法》出台、《人工智能生成合成内容标识办法(征求意见稿)》发布,到相关职能部门及时“喊话”要求整治相关乱象,再到互联网大会上各方积极探讨“AI向善”、共同擘画与人工智能共存的未来,AI技术这列高速行驶的列车,需要科学的信号指引,需要多方之力的保驾护航。与此同时,监管过程中面临的一些挑战应该引起重视,如AI训练时使用的算法模型存在问题、使用的数据存在侵权风险,不同级别的监管者法律责任界限不清等。相应的监管手段也要避免临时性、应急性,让“科技向善”更加有的放矢、落地有声。

  就在这几天,有媒体报道了江苏无锡街道上出现提醒行人或非机动车越线、闯红灯等行为的“AI交警”,实现了交警警力的24小时守候。但愿未来的人工智能技术,不再与“惹祸”“侵权”之类相伴,而是成为赋能美好生活的代名词,给公众更多幸福感、获得感、安全感。

相关内容

热门资讯

孟加拉国总理塔里克将访华 外交部发言人宣布: 应国务院总理李强邀请,孟加拉人民共和国总理塔里克·拉赫曼将于6月24日至26日...
艺动FZ|福建省第十八届运动会... 福州新闻网6月22日讯(记者 陈君沂/文 石美祥/摄)端午已过,龙舟未停。福建省第十八届运动会群众项...
美军在加勒比海发动打击 △美军南方司令部社交媒体发布视频截图 美军南方司令部当地时间21日发表声明说,美军当天在加勒比海打...
福州50辆新能源公交投用 福州新闻网6月22日讯(记者 李琪 通讯员 陈晶晶 梁雯倩 李斌)近日,福州市民乘坐302路、303...
德国大众宣布大裁员!约5万人将... 大家熟悉的车企巨头德国汽车制造商大众汽车集团近日表示今年年底前将在德国本土削减1.9万个岗位到203...
俄称击落74架飞向莫斯科的无人... 当地时间6月22日,总台记者根据俄罗斯首都莫斯科市长索比亚宁自当天2时57分至9时17分通过社交媒体...
薛丽建获任福建省农信联社副主任 近日,国家金融监督管理总局福建监管局发布关于薛丽建福建省农信联社副主任任职资格的批复。经审核,现批复...
严查货车违法 筑牢安全防线 郑州 为全力防范化解道路交通安全风险,压降事故发生率,筑牢夏季道路交通安全防线,近期,郑州交警聚焦货...
以演备战 以练防汛:阳信县洋湖... 齐鲁晚报·齐鲁壹点 高艳蕊 通讯员 王金磊 朱洪伟 为切实做好防汛救灾工作,提高应对突发汛情、险情的...
原创 以... 鲁网6月22日讯(记者 逯广宇 通讯员 张建)为深入推进安全生产月专项活动,进一步提升辖区防汛抢险和...
粽叶飘香迎端午 凝心聚力守安全 为迎接传统端午佳节,同时紧扣全国第25个安全生产月活动要求,丰富一线工友精神文化生活,近日,中建三局...
石楼龙山社区开展地质灾害应急演... 为切实提升辖区地质灾害防范应对能力,筑牢人民群众生命财产安全防线,近日,龙山社区在辖区内连沟渠、人行...
央视《24小时》专题报道!福州...   6月21日,央视《24小时》播出新闻特写《我在古厝当“巡游官”》,讲述福州古厝青年“巡游官”以街...
北京市发布雷电黄色预警,公众防... 2026年6月22日11时00分,北京市发布雷电黄色预警信号。预计6月22日16时至23时,本市自西...
长沙启动暴雨四级应急响应 未来... 华声在线6月22日讯(全媒体记者 邹伟瑜)记者今天从长沙市气象局获悉,受持续强降雨影响,6月22日1...
原创 真... 你敢信吗?号称中东地区陆战实力最强的以军装甲部队,竟然在黎巴嫩南部的山地被人包了饺子,甚至连刚上任才...
合肥城建招标结果:琥珀物业20... 证券之星消息,根据天眼查APP-财产线索数据整理,合肥城建发展股份有限公司6月17日发布《琥珀物业2...
暮色深山老人迷路,昌平消防连夜... 6月21日傍晚,昌平区兴寿镇一名老人在进山游玩途中偏离既定路线,不慎迷失方向,情况紧急。接到报警后,...
不止人身安全!教会识别他人情绪... 预判风险的能力,像是给孩子内心安装的一盏隐形车灯,照亮的是他即将踏出的那一步之下的路况。然而这盏灯不...
郑州交警:严查车辆超员违法 筑... 车辆超员是极具危害性的交通违法行为,不仅会增加车辆载重、挤占车内安全乘坐空间,一旦发生道路交通事故,...