近日，福建三明永安一起
“女司机与保安肢体冲突”的事件
持续引发关注
这起原本因停车纠纷引发的普通治安案件，却因后续的“神操作”变了味——在女司机确诊耳膜穿孔、警方尚在调查之际，网络上竟涌现出大量利用AI技术合成两人“和好接吻”“求婚”的低俗视频，引发不少网友反感。
事件回放：一起还未结案的纠纷据媒体报道，4月21日下午，福建永安一中附属小学门口，一名女司机因在禁止停车区域停车接孩子，与附近企业的一名保安发生争执。冲突过程中，女司机脚踹保安，随后被保安反手扇了耳光，医院检查结果为“耳膜穿孔”。
永安市公安局相关人士表示，涉事双方均有过错，案件仍在进一步调查中。
然而，就在公众等待警方公正处理时，部分网民却开启了“二次创作”。他们利用AI技术，将冲突双方的脸进行合成，炮制出“强行接吻”“求婚”等侮辱性和低俗趣味的短视频。这些视频对当事人造成了二次伤害。
（网友“AI魔改”图）
当“玩笑”越过法律的边界
很多“AI魔改”的作者抱着“玩梗”“无伤大雅”的心态，认为只是图一乐。但在法治社会，任何技术应用都有其明确的边界。在这起事件中，制作并传播“和好接吻”等低俗视频的行为，网友恶搞视频是否会触犯法律？
知名律师河南泽槿律师事务所主任付建表示，若女司机存在违停行为，保安有权劝阻，但无权以强制手段拦截车辆或强行关车门，其辱骂女司机、强行关车门夹伤女司机的行为，已超出保安职责合理范围。女司机脚踹保安后未继续侵害，而保安掌掴女司机致其耳膜穿孔，属于报复性殴打，违反《治安管理处罚法》，需承担女司机的医疗、误工等民事赔偿；若耳膜穿孔六周内无法恢复构成轻伤，保安还需承担刑事责任。对于网友的AI恶搞行为，付建指出，该行为未经当事人同意，擅自使用、合成双方肖像，侵犯其肖像权；若视频存在丑化、歪曲事实等低俗内容，导致当事人社会评价降低，还构成名誉权侵害。平台需履行审核义务，协助删除侵权视频，侵权用户需承担停止侵权、赔礼道歉、赔偿精神损失等责任，情节严重者还可能违反《治安管理处罚法》，面临拘留、罚款等处罚。
将一场真实的冲突“娱乐化”
为低俗的“情感连续剧”
这已不是玩笑，而是涉嫌违法
在“AI魔改”从影视剧蔓延到
社会热点事件的今天
会涉及哪些法律问题
在今年临近春节时，未经授权的AI拜年视频也在社交平台走红，在部分短视频中，小品演员冯巩、蔡明和香港明星刘德华等人在网友家中围在一起包饺子，给大家拜年。
此前也经常会有“AI魔改”影视剧出现在网络，如“林黛玉倒拔垂杨柳”、“西门庆怒揍潘金莲”等短视频，AI视频创作不断爆发巨大潜力。面对高度逼真的生成效果，网友们纷纷调侃：“导演们要失业了。”但是，带来创新成果的同时，AI技术的广泛应用实现也带来了身份冒用、内容滥用、版权认定难等问题和风险。一方面，可能侵犯影视剧片方仍在有效期内的著作权。另一方面，还可能侵犯影视剧演员的肖像权。
更有甚者，利用AI工具背弃技术伦理与法律底线，借生成式AI大模型，行违法“造黄”之举，污染网络空间、败坏社会风气。此前不少平台上有人在公开兜售“利用AI技术制作色情擦边视频”的教程，声称只需将购买到的提示词复制到各大AI视频生成软件，即可获得提示词对应的擦边视频。或是利用专门靠AI生成色情视频牟利的软件，通过AI技术一键快速替换原片，生成虚构的色情照片，只要购买者愿意付费，这个软件就可以通过一张图片，生成全裸照片和色情视频。
“AI魔改”视频可能面临哪些法律风险
对于此类“AI魔改”视频，清华大学新闻与传播学院副教授梁君健指出，“AI魔改”的乱象：一是严重违背原作精神内核和角色形象，颠覆基本认知；二是内容渲染血腥暴力、猎奇低俗，宣扬错误价值观，违背公序良俗；三是存在对中华文化的挪用、篡改，动摇削弱整个社会共享的文化基础。尤其在青少年还没有在经典熏陶下形成比较坚固的文化认知和价值观的时候，这种乱象会给他们带来一些认知方面的困扰。
中国政法大学传播法中心副主任、研究员朱巍表示：
魔改后原剧情发生大量反转，可能涉及到《中华人民共和国著作权法》中规定的保持作品完整性的权利；
演员本身的声音权、肖像权，中华人民共和国国家互联网信息办公室也有相关的规定，有人脸功能的必须得有权利人的书面同意才可以；
比如对四大名著，通过魔改的方式，把正能量影片引向了戏谑低俗。严重侵害到了公共利益，也可能违反《中华人民共和国网络安全法》相关规定。
浙江省公共政策研究院研究员高艳东则表示：AI技术的飞速发展也一定程度降低了深度伪造的技术门槛，在使用中可能带来诸多风险。最直接的法律风险是可能侵害公民的名誉权、人格权，AI生成视频被拼接、恶搞，或生成不雅视频，可能导致当事人名誉受损、社会评价降低。
AI视频模型训练使用素材
是否需要授权
北京师范大学法学院博士生导师、中国互联网协会研究中心副主任吴沈括表示，海量使用受版权保护的作品训练模型，我国尚无法律明文规定的豁免，在司法实践中会判断数据来源的合法性，如果属于合法获取且输出不替代原作品，可能构成合理使用。侵权与合理使用的界分适用“实质性相似”标准，重点审查生成内容是否复制了原作品的独创性表达，如果用户通过具体提示词迭代、参数调整、后期修改产生实质性智力贡献，可能不被认定为侵权。
中国政法大学人工智能法研究院院长张凌寒表示，模型训练若使用海量素材生成高度相似内容并替代原作品市场，在司法实践中很难适用合理使用抗辩，可能构成侵权或不正当竞争。关于生成内容的归属，核心依据是人类智力投入：仅凭提示词生成的视频因缺乏独创性通常不享有版权；只有用户在脚本、参数及剪辑中投入实质性智力劳动，才能对独创部分享有权利，但需个案认定。
“AI魔改”视频需注意哪些事项
民事责任
《中华人民共和国民法典》第990条规定：民事主体享有生命权、身体权、健康权、姓名权、名称权、肖像权、名誉权、荣誉权、隐私权等权利。
第1019条规定：任何组织或者个人不得以丑化、污损，或者利用信息技术手段伪造等方式侵害他人的肖像权。未经肖像权人同意，不得制作、使用、公开肖像权人的肖像，但是法律另有规定的除外。
行政责任
《生成式人工智能服务管理暂行办法》第4条规定：提供生成式AI服务，应当遵守法律法规，尊重社会公德、公序良俗。
第12条规定：生成式AI提供者应确保生成内容真实准确，并标识AI生成。
刑事责任
根据过往典型案例可以看出，AI生成内容最容易引发刑事风险大致有3类情形。
1、生成虚假信息，诱导他人
用AI生成虚假的银行工作人员、客服、公职人员头像、工牌，模拟语音或人脸，编造“账户异常”“需要冻结资金”“办理补贴”等谎言，诱导他人转账。
根据《中华人民共和国刑法》第二百六十六条，诈骗公私财物数额较大的，处三年以下有期徒刑、拘役或者管制，数额巨大的，处三年以上十年以下有期徒刑。
2、生成淫秽、低俗内容传播、贩卖
根据《中华人民共和国刑法刑法》第三百六十三条，以牟利为目的，制作、贩卖淫秽物品的，处三年以下有期徒刑、拘役或者管制，情节严重的，处三年以上十年以下有期徒刑，情节特别严重的，处十年以上有期徒刑甚至无期徒刑。
3、AI生成侮辱、诽谤内容
根据《中华人民共和国刑法》第二百四十六条 以暴力或者其他方法公然侮辱他人或者捏造事实诽谤他人，情节严重的，处三年以下有期徒刑、拘役、管制或者剥夺政治权利。
AI生成不是免责事由
今年3月，北京互联网法院审理一起案件。原告系从事直播业务的机构，旗下某主播不幸离世后引发公众关注。被告通过其社交平台账号发布标题为“某主播离世#养生#健康#养生就是养健康#创业#营养品”的视频，内容称某主播“一直靠着吃药喝酒硬撑、失眠焦虑”“每日直播15小时、深夜背台词”“随身携带抗抑郁药谎称润喉糖”等。原告认为上述内容虚构事实、贬损机构声誉，诉至法院。
案件审理过程中，被告已删除涉案视频，并辩称视频文案非本人原创，系通过AI生成，AI生成初稿后，被告要求补充网络报道内容，AI检索数个平台多篇文章后修改文案，被告直接使用该文案录制并发布涉案视频。被告据此主张，其内容有网络信息基础，不构成名誉权侵权。
最终，法院认为被告发布涉案视频的行为已构成对原告名誉权的侵害，依法应承担相应侵权责任。
北京互联网法院综合审判二庭法官吴娇表示，当前，生成式人工智能技术快速普及并深度融入日常生活，已成为公众获取信息、辅助认知、开展创作与作出决策的重要工具。与此同时，AI生成内容存在局限，其输出结果易出现事实偏差、逻辑谬误乃至内容“幻觉”，若未经甄别直接使用或传播，极易误导公众，甚至导致使用者陷入错误判断、错误决策，进而引发各类纠纷与风险。
因此，在使用、传播及发布AI生成内容的过程中，必须清醒认识到人工智能并非绝对可靠，更不能替代人工审核与事实核查。内容使用者、发布者及相关运营主体均负有不可推卸的主体责任与法定核实义务，不得以“内容由AI生成”作为免责借口，逃避对信息真实性、合法性、合规性的审慎审核责任。无论内容形式为文字、图片、音视频或其他类型，在发布、转载、使用前均应进行核查，核验事实真伪、来源合法性，确保内容不侵害他人名誉权、隐私权、著作权及其他合法权益。
来源：法治时报、人民日报、法治日报、央视网评、中国电影报道、北京互联网法院等