在当前这个AI遍地走、门槛近乎无的时代，如果你还没有试过用AI生成图片或视频（以下统称AI生图），那确实有点不够“潮”了。
与其他新技术一样，AI生图技术自诞生之日起就充满争议，一路鲜花与荆棘相伴。支持者视它为颠覆性的技术革命，反对者视它为洪水猛兽。特别是近两年以ChatGPT、Sora为代表的AI数据大模型横空出世，AI生图已成为刷屏时尚，受到越来越多的网民追捧。它在给人们带来极大便利、惊奇、抚慰的同时，也必然暴露出诸多荒诞不堪、令人生厌、甚至违法犯罪等负面问题。
AI本无罪，关键在于如何使用它。只有坚守伦理和法治底线，技术才能更好造福人类。今天，上游新闻推出“AI生图五大乱象”专题报道，聚焦近年来AI生图领域里暴露出的种种乱象，追根溯源、剖析因果，探索解决之道，以期对AI产业健康发展有所裨益。
近年来，随着ChatGPT、Google Bard等AI（人工智能）软件的流行，用AI生成图片及视频（AI生图）也成为一股热潮，受到越来越多的年轻网民追捧。近日接网友举报反映，上游新闻（报料邮箱baoliaosy@163.com）记者查看多个社交平台和短视频平台，发现部分AI生图对包括《西游记》《三国演义》《水浒传》《红楼梦》等经典名著及影视剧进行了改编及恶搞，有将AI生图过度娱乐化、低俗化之嫌。
AI催生恶搞版四大名著
《西游记》《三国演义》《水浒传》《红楼梦》作为中国文学四大名著，是短视频素材里的常客。随着AI生图时代到来，四大名著的核心人物们，也有了不少新视频。
唐僧成了超级英雄。
上游新闻记者发现，B站短视频博主“小木”（化名）疑似用AI技术，制作了“最强唐僧”系列视频。视频中的唐僧，不再是那个多次被妖怪抓走、需要徒弟保护的僧人，而是手持各式武器、会各种法术的超级英雄，自己就能把妖怪打得抱头鼠窜。“最强唐僧”相关视频播放量突破了4400万，其中最火的一条视频播放量高达787.6万、点赞35.6万。
唐僧和女儿国国王成了一对。
在另一段《西游记》相关视频中，快手视频博主“小蒋”的唐僧AI视频更是有点“毁童年”：唐僧和女儿国国王谈起了恋爱，一起用手机拍照、同吃美食秀恩爱……
林黛玉倒拔垂杨柳。
在抖音视频博主“小兔”（化名）的视频里，《红楼梦》女主林黛玉不再“我见犹怜”，而是在AI加持下上演了“林黛玉倒拔垂杨柳”。她还抱着大树和孙悟空展开大战，打得天昏地暗，直到唐僧出面调停才停手。
《三国演义》的诸葛亮，同样没能逃过AI生图的恶搞。在抖音视频中，他戴上了赛文眼镜，化身为奥特曼大杀四方。
最离谱的，是《水浒传》里武松为兄报仇、手刃嫂子潘金莲的故事。在快手视频博主“小蒋”的AI视频中，武松和潘金莲卿卿我我、分享食物“气死”武大郎……
这些恶搞四大名著的AI视频，让网友直呼：“太离谱了！”“制作这种低俗垃圾视频，不以为耻反以为荣？”“会误导一大批不明真相的人群，特别是青少年。”
近日，上游新闻记者联系了上述发布AI恶搞视频的博主，截至发稿均未获得回复。
当然，除去恶搞，AI生图（含视频）也有积极、向上的一面。有的博主利用AI生图，将光头强、柯南、樱木花道等动漫人物变成真人模样，让网友惊呼“童年的记忆活了！”有的博主利用AI技术，让孔子、赵匡胤、康熙等历史人物变得活灵活现，让大家感叹：“这才是科技应该有的样子。”
普通人也能跨越的技术门槛
上游新闻记者注意到，上述用AI恶搞四大名著的技术门槛并不高。
武松和潘金莲卿卿我我。
今年7月，据长江云新闻报道，一款AI软件点开“图生视频”功能，只需上传一张图片，再输入一段描述性指令，不到5分钟，图片就可以变成视频。通过“视频续写”功能，用户可对已经生成的视频进行一键续写，单次让视频运动延续4.5秒，最长可生成3分钟视频。在AI的二次加工下，“李云龙用标准的英语演讲”“容嬷嬷喂紫薇吃鸡腿”“女儿国国王和唐僧接吻”等离谱场面，乍一看显得无比自然，毫无破绽，不仔细辨认难分真假。
曾发布“甄嬛喝啤酒”“雍正上朝吃汉堡”等内容的博主魏大智，在接受央视网采访时曾透露：“只要打开相关App，不管是图生视频还是文生视频，输入描述词等，等待生成就可以了。等待时间也不算长，差不多5分钟。”
不过要想做出“非常丝滑、几乎看不出破绽”的AI视频，也不是一蹴而就的。魏大智表示：“我播放量最大的一个AI视频‘名场面’，是用《甄嬛传》里雍正上朝的一张图片生成的。我发布的版本，是我输入3—5次描述词才呈现出来的效果。”
作为一名80后插画师，武汉插画师梁先生对利用AI技术恶搞经典文化及名著的行为并不感到奇怪：“这种现象很常见。在没有AI的时代，都有P图恶搞了。只不过当时P图很麻烦，视频更是要逐帧去修。现在有了AI工具，做这类恶搞图片和视频很方便了。不过我不会这样做，因为我不太喜欢恶搞，而是研究它们对我绘画有多大帮助，（把AI）当作一种辅助性工具。”
“做AI图片和视频应该有个底线，不能有违公序良俗，更不能很黄很暴力，应该符合社交平台的相关规定。”同很多网友一样，梁先生呼吁平台和有关方面加强规范引导，“AI生图和视频本身是存在一定版权风险的，因为AI不是无中生有，而是在一个大的数据库基础上进行运用。让AI模仿某种风格的图片和视频，有可能会侵犯版权。而且，常用的AI软件大多是国外的，可能还涉及网络安全问题，需要大家遵守网络安全守则。”
律师：有违公序良俗则违法
恶搞图片和视频，很容易侵犯原作品的著作权。例如当年胡戈恶搞陈凯歌电影《无极》创作的《一个馒头引发的血案》，就差点被陈凯歌起诉，最后胡戈主动道歉解释才被原谅。
诸葛亮被恶搞成了奥特曼。
就使用AI恶搞四大名著这事，重庆执业律师聂炜昌认为，虽然按照《著作权法》规定，自然人的作品，其发表权等权利的保护期为作者终生及其死亡后五十年。四大名著是明清时期的作品，早已过了著作权保护期。这些作品进入公有领域，任何人都可以自由地出版改编这些作品。但他发现，部分恶搞视频中，将央视版《西游记》《红楼梦》《水浒传》《三国演义》的镜头作为恶搞素材，这些还是有侵权风险的。
“恶搞不是乱搞。”他提醒，部分恶搞视频是有违公序良俗的改编，是违法的。根据民法典第八条规定，民事主体从事民事活动，不得违反法律，不得违背公序良俗。宣传武松和潘金莲秀恩爱“气死”武大郎的视频，显然是有违公序良俗的。网友们看到类似视频，可向平台方投诉或向文化监管部门举报反映。
中国知识产权法学研究会副秘书长、中国人民大学民商事法律科学研究中心副主任姚欢庆，在接受央视网采访时表达了类似观点，同时还指出，即便是静态画面，使用人物形象也会有侵犯其肖像权的风险，以往的“葛优躺”案件，就是一个典型例子。
专家：算法之下，宽严并举
“恶搞图片和视频，是生成式AI普及后带来的正常现象。“重庆大学新闻学院教授张小强说，生成式AI是由文本提示词或结合已有图像生成的各类图像，在各类算法加持下，难免会出现各类富有想象力、天马行空甚至恶搞低俗的图像（或视频）。
他认为，不能以生成方式来定义AI生图（或视频）是否低俗，要看具体内容。一方面要建设清朗网络空间，另一方面也要（对新生事物）适度宽容。对具体情况要做具体分析，如果AI生成的图像内容违反了我国网络内容管理的法律法规，可由网信部门约束和监督生成平台和传播平台，加强监管。至于那些不违法但属娱乐化的恶搞，可以由道德、社会规范来约束，也可以通过正面引导，不能简单一禁了之。
张小强认为，对AI生成内容的管理，除了社交平台，还应涉及对AI工具提供者或平台的治理。由于涉及主体更多、技术更复杂，应采用多种手段综合治理，引导人工智能和算法健康发展。
他特别提到，对于生成式AI服务提供者，实际上已经有法可依——2023年，国家网信办联合国家发展改革委、教育部、科技部、工业和信息化部、公安部、广电总局等部门发布了《生成式人工智能服务管理暂行办法》，其中规定：提供者发现违法内容的，应当及时采取停止生成、停止传输、消除等处置措施，采取模型优化训练等措施进行整改，并向有关主管部门报告。提供者发现使用者利用生成式人工智能服务从事违法活动的，应当依法依约采取警示、限制功能、暂停或者终止向其提供服务等处置措施，保存有关记录，并向有关主管部门报告。
“除了利用法律法规进行治理和引导，还要建立一种良好的网络文化和传播环境。AI生成内容出现的问题，根本原因不是AI工具，而是网络文化环境造成的。只要恶搞、低俗的内容有生存和传播的环境，即使没有生成式人工智能，也会有其他工具被用来制作低俗内容。”张小强说。
上游新闻记者 赵映骥 图片来源/网络视频截图