管住AI“魔改”视频,让“科技向善”落地有声
创始人
2024-12-12 23:20:51

  用人工智能赋能各行业各领域的发展,同时避免技术异化,引导技术向上向善,让其真正成为推动社会进步和提升生活品质的有力工具,应该成为各方积极努力的方向。

  《甄嬛传》变身“枪战片”,《红楼梦》改成“武打戏”,孙悟空骑着摩托车扬长而去……据12月10日新华社报道,广电总局网络视听司日前发布《管理提示(AI魔改)》,指出近期AI“魔改”视频以假乱真、“魔改”经典现象频发,要求各相关省局督促辖区内短视频平台排查清理AI“魔改”影视剧的短视频,限期反馈工作情况;严格落实生成式人工智能内容审核要求,举一反三,对各自平台开发的大模型或AI特效功能等进行自查,对在平台上使用、传播的各类相关技术产品严格准入和监看,对AI生成内容做出显著提示。

  “在AI‘魔改’视频里,你永远不知道下一秒会发生什么”“以前是电视放什么看什么,现在是想看什么自己就用AI做什么”——社交平台上,有网友总结了“AI魔改”视频的“无所不能”。这类视频大多是创作者脑洞大开,为经典影视剧中的名场面设置另一段离奇情节,并通过提供图片和文字描述的方式在AI视频软件或网站上生成,追求的多是出其不意、惊掉下巴。对此,不少网友表示“初看觉得新鲜,但没底线地修改经典,传递的价值观大都是错误的,是过度娱乐了”,还有网友坦言“不少人可能笑笑就过去了,但对剧粉来说感觉是毁了角色”。

  如此现实下,广电总局发布管理提示,要求对此类视频进行规范与监管,十分必要。提示中“相关视频为博流量,毫无边界亵渎经典IP,冲击传统文化认知,与原著精神内核相悖,且涉嫌构成侵权行为”的表述,也一针见血地指出了“AI魔改”视频的危害。

  近年来,人工智能产业蓬勃发展,技术迭代升级的速度惊人,一个个新鲜且功能强大的产品,不断拓展着技术落地的场景,改变着人们的生产生活。不过,对技术的运用也不时带来一些隐患——“AI换脸”可以让一辈子未走出深山的大爷开口“飙英文”,“AI复活”可以让已经去世的明星对大家说“其实我并没有真正离开”,“AI换声”可以随意克隆任何一个自然人的声音……不难想见,这些操作之下,有心之人完全可以通过炮制名人音频作品以假乱真,甚至可以假冒某个特定的人精准“杀熟”、实施诈骗……当亲眼所见、亲耳所听都变得不足为信,后果可想而知。AI技术滥用可能带来的道德伦理、信息安全、侵犯权利等问题,不仅会严重污染网络视听空间,也为“科技改变生活”蒙上了一层阴影。

  毫无疑问,任何技术的应用和发展都应建立在符合道德伦理、社会规则和法律的前提下。用人工智能赋能各行业各领域的发展,同时避免技术异化,引导技术向上向善,让其真正成为推动社会进步和提升生活品质的有力工具,应该成为各方积极努力的方向。

  防御和抵制那些涉嫌违反法律法规、社会公德、伦理道德的AI应用,谨慎对待那些有潜在风险的AI应用,已有不少治理举措。从《生成式人工智能服务管理暂行办法》出台、《人工智能生成合成内容标识办法(征求意见稿)》发布,到相关职能部门及时“喊话”要求整治相关乱象,再到互联网大会上各方积极探讨“AI向善”、共同擘画与人工智能共存的未来,AI技术这列高速行驶的列车,需要科学的信号指引,需要多方之力的保驾护航。与此同时,监管过程中面临的一些挑战应该引起重视,如AI训练时使用的算法模型存在问题、使用的数据存在侵权风险,不同级别的监管者法律责任界限不清等。相应的监管手段也要避免临时性、应急性,让“科技向善”更加有的放矢、落地有声。

  就在这几天,有媒体报道了江苏无锡街道上出现提醒行人或非机动车越线、闯红灯等行为的“AI交警”,实现了交警警力的24小时守候。但愿未来的人工智能技术,不再与“惹祸”“侵权”之类相伴,而是成为赋能美好生活的代名词,给公众更多幸福感、获得感、安全感。

相关内容

热门资讯

福清市元洪医院正式投用 福州新闻网6月27日讯(通讯员 滕端钦 薛有雄 记者 蒋雅琛)记者27日获悉,作为中印尼“两国双园”...
闽超常规赛第九轮赛事资讯来啦 【温馨提示】受降雨天气影响,路面湿滑。建议广大市民朋友出行时精简随身物品,尽量穿着雨衣,以确保出行安...
特朗普威胁:征收100%报复性... 当地时间26日,美国总统特朗普在社交媒体发文,威胁向对美国企业征收数字服务税的欧洲国家收取100%报...
德媒:大众汽车计划扩大裁员规模... 据德国《经理人杂志》26日报道,德国汽车制造商大众汽车集团计划扩大裁员规模至10万人,同时关停4家德...
联合国官员称委强震超5万人失联... 联合国分管人道主义事务的副秘书长兼紧急救援协调员汤姆·弗莱彻26日说,委内瑞拉强震后仍有超过5万人失...
联合国报告:全球使用毒品人数明... 6月26日是国际禁毒日。联合国毒品和犯罪问题办公室当天发布的《2026年世界毒品报告》显示,近年来全...
女子被急流冲走卡在石缝中不幸身... 6月25日下午,广东清远英德市石牯塘镇落龙潭野外溪谷发生一起意外,一名女子戏水时被湍急水流冲走,困在...
提爱思科技申请座椅靠背专利,引... 国家知识产权局信息显示,提爱思科技股份有限公司;本田技研工业株式会社申请一项名为“座椅靠背”的专利,...
启明信息中标:安防网防火墙成交... 证券之星消息,根据天眼查APP-财产线索数据整理,根据一汽-大众汽车有限公司6月24日发布的《安防网...
北京公园树下“千足虫”横行,市... 近期,北京天朗气清、惠风和畅,逛公园成为市民们开展户外休闲活动的热门之选。不过,走进公园的人们却遇到...
润建股份中标:陕西省住房和城乡... 证券之星消息,根据天眼查APP-财产线索数据整理,根据陕西省住房和城乡建设厅机关6月23日发布的《陕...
南天信息中标:云南省建设注册考... 证券之星消息,根据天眼查APP-财产线索数据整理,根据云南省建设注册考试中心6月23日发布的《云南省...
郑州交警“送安全” 守护务工人... 为全面提升进城务工群体的交通安全意识 从源头消除交通安全隐患 确保出行安全 郑州交警深入环卫、外卖、...
泰州港经开区:打好宣教培“组合... 为扎实开展第25个全国“安全生产月”相关工作,压紧压实安全管理责任,全面提升园区安全管控与应急处置能...
2026年福州市普高特色创新班... 最新2026年福州市普高特色创新班自主招生预录取名单来啦来看看都有谁?
福州周末雨水继续霸屏 下周重返... 福州未来四天天气节奏十分清晰!这个周末雨水强势霸屏,体感清爽舒适,下周天气将迎来明显反转,桑拿闷热天...
纪念红军长征胜利90周年 长汀...   26日,纪念中国工农红军长征胜利90周年——中国书画家长汀采风写生作品展在位于三坊七巷南后街3号...
苏州新仁润智能工程申请便于检修... 国家知识产权局信息显示,苏州新仁润智能工程有限公司申请一项名为“一种便于检修的楼宇安防监控用摄像头”...
济南锦坤取得振动切割机防误操作... 国家知识产权局信息显示,济南锦坤数控设备有限公司取得一项名为“振动切割机的防误操作安全保护罩”的专利...
江苏汤普斯伦新材料取得伸缩式磨... 国家知识产权局信息显示,江苏汤普斯伦新材料科技有限公司取得一项名为“一种伸缩式磨床遮挡防护罩”的专利...