AI生图五大乱象①|被恶搞的经典:唐僧谈恋爱、武松叔嫂恋

在当前这个AI遍地走、门槛近乎无的时代,如果你还没有试过用AI生成图片或视频(以下统称AI生图),那确实有点不够“潮”了。

与其他新技术一样,AI生图技术自诞生之日起就充满争议,一路鲜花与荆棘相伴。支持者视它为颠覆性的技术革命,反对者视它为洪水猛兽。特别是近两年以ChatGPT、Sora为代表的AI数据大模型横空出世,AI生图已成为刷屏时尚,受到越来越多的网民追捧。它在给人们带来极大便利、惊奇、抚慰的同时,也必然暴露出诸多荒诞不堪、令人生厌、甚至违法犯罪等负面问题。

AI本无罪,关键在于如何使用它。只有坚守伦理和法治底线,技术才能更好造福人类。今天,上游新闻推出“AI生图五大乱象”专题报道,聚焦近年来AI生图领域里暴露出的种种乱象,追根溯源、剖析因果,探索解决之道,以期对AI产业健康发展有所裨益。

近年来,随着ChatGPT、Google Bard等AI(人工智能)软件的流行,用AI生成图片及视频(AI生图)也成为一股热潮,受到越来越多的年轻网民追捧。近日接网友举报反映,上游新闻(报料邮箱baoliaosy@163.com)记者查看多个社交平台和短视频平台,发现部分AI生图对包括《西游记》《三国演义》《水浒传》《红楼梦》等经典名著及影视剧进行了改编及恶搞,有将AI生图过度娱乐化、低俗化之嫌。

AI催生恶搞版四大名著

《西游记》《三国演义》《水浒传》《红楼梦》作为中国文学四大名著,是短视频素材里的常客。随着AI生图时代到来,四大名著的核心人物们,也有了不少新视频。

唐僧成了超级英雄。

上游新闻记者发现,B站短视频博主“小木”(化名)疑似用AI技术,制作了“最强唐僧”系列视频。视频中的唐僧,不再是那个多次被妖怪抓走、需要徒弟保护的僧人,而是手持各式武器、会各种法术的超级英雄,自己就能把妖怪打得抱头鼠窜。“最强唐僧”相关视频播放量突破了4400万,其中最火的一条视频播放量高达787.6万、点赞35.6万。

唐僧和女儿国国王成了一对。

在另一段《西游记》相关视频中,快手视频博主“小蒋”的唐僧AI视频更是有点“毁童年”:唐僧和女儿国国王谈起了恋爱,一起用手机拍照、同吃美食秀恩爱……

林黛玉倒拔垂杨柳。

在抖音视频博主“小兔”(化名)的视频里,《红楼梦》女主林黛玉不再“我见犹怜”,而是在AI加持下上演了“林黛玉倒拔垂杨柳”。她还抱着大树和孙悟空展开大战,打得天昏地暗,直到唐僧出面调停才停手。

《三国演义》的诸葛亮,同样没能逃过AI生图的恶搞。在抖音视频中,他戴上了赛文眼镜,化身为奥特曼大杀四方。

最离谱的,是《水浒传》里武松为兄报仇、手刃嫂子潘金莲的故事。在快手视频博主“小蒋”的AI视频中,武松和潘金莲卿卿我我、分享食物“气死”武大郎……

这些恶搞四大名著的AI视频,让网友直呼:“太离谱了!”“制作这种低俗垃圾视频,不以为耻反以为荣?”“会误导一大批不明真相的人群,特别是青少年。”

近日,上游新闻记者联系了上述发布AI恶搞视频的博主,截至发稿均未获得回复。

当然,除去恶搞,AI生图(含视频)也有积极、向上的一面。有的博主利用AI生图,将光头强、柯南、樱木花道等动漫人物变成真人模样,让网友惊呼“童年的记忆活了!”有的博主利用AI技术,让孔子、赵匡胤、康熙等历史人物变得活灵活现,让大家感叹:“这才是科技应该有的样子。”

普通人也能跨越的技术门槛

上游新闻记者注意到,上述用AI恶搞四大名著的技术门槛并不高。

武松和潘金莲卿卿我我。

今年7月,据长江云新闻报道,一款AI软件点开“图生视频”功能,只需上传一张图片,再输入一段描述性指令,不到5分钟,图片就可以变成视频。通过“视频续写”功能,用户可对已经生成的视频进行一键续写,单次让视频运动延续4.5秒,最长可生成3分钟视频。在AI的二次加工下,“李云龙用标准的英语演讲”“容嬷嬷喂紫薇吃鸡腿”“女儿国国王和唐僧接吻”等离谱场面,乍一看显得无比自然,毫无破绽,不仔细辨认难分真假。

曾发布“甄嬛喝啤酒”“雍正上朝吃汉堡”等内容的博主魏大智,在接受央视网采访时曾透露:“只要打开相关App,不管是图生视频还是文生视频,输入描述词等,等待生成就可以了。等待时间也不算长,差不多5分钟。”

不过要想做出“非常丝滑、几乎看不出破绽”的AI视频,也不是一蹴而就的。魏大智表示:“我播放量最大的一个AI视频‘名场面’,是用《甄嬛传》里雍正上朝的一张图片生成的。我发布的版本,是我输入3—5次描述词才呈现出来的效果。”

作为一名80后插画师,武汉插画师梁先生对利用AI技术恶搞经典文化及名著的行为并不感到奇怪:“这种现象很常见。在没有AI的时代,都有P图恶搞了。只不过当时P图很麻烦,视频更是要逐帧去修。现在有了AI工具,做这类恶搞图片和视频很方便了。不过我不会这样做,因为我不太喜欢恶搞,而是研究它们对我绘画有多大帮助,(把AI)当作一种辅助性工具。”

“做AI图片和视频应该有个底线,不能有违公序良俗,更不能很黄很暴力,应该符合社交平台的相关规定。”同很多网友一样,梁先生呼吁平台和有关方面加强规范引导,“AI生图和视频本身是存在一定版权风险的,因为AI不是无中生有,而是在一个大的数据库基础上进行运用。让AI模仿某种风格的图片和视频,有可能会侵犯版权。而且,常用的AI软件大多是国外的,可能还涉及网络安全问题,需要大家遵守网络安全守则。”

律师:有违公序良俗则违法

恶搞图片和视频,很容易侵犯原作品的著作权。例如当年胡戈恶搞陈凯歌电影《无极》创作的《一个馒头引发的血案》,就差点被陈凯歌起诉,最后胡戈主动道歉解释才被原谅。

诸葛亮被恶搞成了奥特曼。

就使用AI恶搞四大名著这事,重庆执业律师聂炜昌认为,虽然按照《著作权法》规定,自然人的作品,其发表权等权利的保护期为作者终生及其死亡后五十年。四大名著是明清时期的作品,早已过了著作权保护期。这些作品进入公有领域,任何人都可以自由地出版改编这些作品。但他发现,部分恶搞视频中,将央视版《西游记》《红楼梦》《水浒传》《三国演义》的镜头作为恶搞素材,这些还是有侵权风险的。

“恶搞不是乱搞。”他提醒,部分恶搞视频是有违公序良俗的改编,是违法的。根据民法典第八条规定,民事主体从事民事活动,不得违反法律,不得违背公序良俗。宣传武松和潘金莲秀恩爱“气死”武大郎的视频,显然是有违公序良俗的。网友们看到类似视频,可向平台方投诉或向文化监管部门举报反映。

中国知识产权法学研究会副秘书长、中国人民大学民商事法律科学研究中心副主任姚欢庆,在接受央视网采访时表达了类似观点,同时还指出,即便是静态画面,使用人物形象也会有侵犯其肖像权的风险,以往的“葛优躺”案件,就是一个典型例子。

专家:算法之下,宽严并举

“恶搞图片和视频,是生成式AI普及后带来的正常现象。“重庆大学新闻学院教授张小强说,生成式AI是由文本提示词或结合已有图像生成的各类图像,在各类算法加持下,难免会出现各类富有想象力、天马行空甚至恶搞低俗的图像(或视频)。

他认为,不能以生成方式来定义AI生图(或视频)是否低俗,要看具体内容。一方面要建设清朗网络空间,另一方面也要(对新生事物)适度宽容。对具体情况要做具体分析,如果AI生成的图像内容违反了我国网络内容管理的法律法规,可由网信部门约束和监督生成平台和传播平台,加强监管。至于那些不违法但属娱乐化的恶搞,可以由道德、社会规范来约束,也可以通过正面引导,不能简单一禁了之。

张小强认为,对AI生成内容的管理,除了社交平台,还应涉及对AI工具提供者或平台的治理。由于涉及主体更多、技术更复杂,应采用多种手段综合治理,引导人工智能和算法健康发展。

他特别提到,对于生成式AI服务提供者,实际上已经有法可依——2023年,国家网信办联合国家发展改革委、教育部、科技部、工业和信息化部、公安部、广电总局等部门发布了《生成式人工智能服务管理暂行办法》,其中规定:提供者发现违法内容的,应当及时采取停止生成、停止传输、消除等处置措施,采取模型优化训练等措施进行整改,并向有关主管部门报告。提供者发现使用者利用生成式人工智能服务从事违法活动的,应当依法依约采取警示、限制功能、暂停或者终止向其提供服务等处置措施,保存有关记录,并向有关主管部门报告。

“除了利用法律法规进行治理和引导,还要建立一种良好的网络文化和传播环境。AI生成内容出现的问题,根本原因不是AI工具,而是网络文化环境造成的。只要恶搞、低俗的内容有生存和传播的环境,即使没有生成式人工智能,也会有其他工具被用来制作低俗内容。”张小强说。

上游新闻记者  赵映骥   图片来源/网络视频截图

Tags: