极目新闻记者 邓波
近日西藏日喀则发生地震，有网友为博取流量，利用AI技术生成虚构地震灾区群众被埋、房屋坍塌等虚假照片进行发布，造成网友误解。
1月9日，极目新闻记者实测多个国内较为流行的社交平台软件，并使用这些软件发布AI生成图片进行测试。有平台在作品发布后很快处理虚假内容，但也有平台在用户投诉一小时后，还可见虚假内容。
律师表示，使用AI生成与事实严重不符的图片并广泛传播，不仅与社会主流的公序良俗和道德价值观相违背，也可能构成扰乱公共秩序行为，如果造成严重后果，或将面临刑事追责。
“地震男孩”竟是AI生成的图片
有网络用户使用AI生成图片关联地震灾害（图源：网络）
1月7日上午，西藏日喀则市定日县发生6.8级地震，引发社会高度关注。但与此同时，在一些社交平台上出现了不少“灾区群众被埋”“房屋坍塌”等AI制作的虚假图片，并配上“日喀则地震”等关键词，造成网友误解。其中一张“戴帽子小男孩被压在废墟下”的图片，被多个账号进行了转发，甚至发布该内容的账号竟获得上万次点赞和转发，不少网友未辨认出该图片为虚假图片。
据“全民较真”公众号查证，“戴帽子小男孩被压在废墟下”这张图片最早出现在一个叫“AI小芭芘”的账号2024年11月18日的短视频中，该作者当时也声明了“内容由AI生成”。仔细观察，可以看到这个小孩的左手有6根手指。
图片原作者“AI小芭芘”在接受上游新闻采访时称，这个小男孩的形象是他去年创作的，“我今天才知道这张图片被盗用了，还被人说是日喀则地震的场景，作品也被平台下架隐藏了。我很生气，还有些担心。”
“AI小芭芘”还表示，作为AI创作的a
AI生成视频关联西藏地震（图源：抖音平台截图）
1月9日，极目新闻记者在抖音平台通过检索“日喀则地震、被埋”等关键词，仍可看到被辟谣的这张男孩图片在传播，还有不少用户发布的AI生成图片，配文是西藏地震废墟现场。其中一个视频为一只狗在地震废墟中抱着一名哭泣的小孩，视频配文中注明“西藏地震记录”，该视频明显为AI生成内容，平台方也在下方标注了“疑似使用了AI生成技术，请谨慎甄别”字样。但就算如此，该视频依旧超过400人点赞，超过100人进行评论，不少网友评论“可怜的宝贝，祈祷平安”“好心疼你宝贝”等，无人质疑该视频的真实性。
记者实测：AI图片被投诉一小时后仍未处理
1月9日，极目新闻记者使用字节跳动旗下的豆包、百度旗下的文小言APP，进行AI图片生成，发布指令为“帮我生成一张图片：内容为日喀则地震被埋的孩子，场景真实，衣服为藏服”。一分钟不到，两个平台均按照要求生成了图片。对比发现，豆包APP生成的图片均为中景，人物或趴或蹲在废墟之中，画面的人物占据比例也比较大，有较为明显的光影对比；文小言APP生成的图片则都为远景，人物均躺在废墟之中，人物在画面中占据的比例较小。记者注意到，两个APP智能生成的图片，均可用肉眼辨认是AI生成创作，真实感并不强。
记者用AI生成的图片，左为文小言APP，右为豆包APP（图源：软件页面截图）
日喀则地震是真实发生的，但前述两个软件在关联真实事件的AI生成创作前后，都没有使用相关风险提示，反而有“再次生成”“添加白云”等进一步创作的选项。不过在生成的图片右下角，均标注有“豆包AI”“文小言AI”字样。
随后，记者尝试在抖音、快手、微博、小红书四款APP上发布前述AI生成的图片，上述平台均可在内容发布时添加AI生成声明。如果用户发布时忽略了该声明，又存在何种情况？记者进一步做了测试，将前述图片截取掉AI标注，以“日喀则地震中的孩子”为标题在各平台发布，抖音平台在几分钟后就对该内容进行了屏蔽处理，账号主页反馈为“存在不实信息，涉及使用AI技术虚构争议性内容”。
小红书举报页面反馈（图源：小红书APP截图）
而上述图片在小红书平台发布后，不久审核通过，可对外展示。记者使用另一个账号对该图片进行了举报，几分钟后举报成功，反馈页面显示“该内容确认违规，平台停止推荐该内容给更多用户”。
在另外两个平台，相同内容均可正常发布且可通过外链分享看到。记者同样进行了举报，一小时后，平台的其他账户仍可看到这些虚构的内容，也无“疑似AI创作生成”标签，举报内容的账号也没有收到处理反馈。记者随后对这些内容作了删除处理。
律师：用“假图” 关联真实事件或面临刑责
四川鼎尺律师事务所律师胡磊对极目新闻记者表示，生成式AI图片如果在生成的图片中使用了他人的肖像、著作权作品等，可能构成对他人的肖像权、名誉权等人格权益的侵犯；若未经授权使用他人作品训练AI，或生成的图片与他人作品存在实质性相似，可能侵犯他人著作权。
胡磊说，在此次西藏地震等重大公共事件中，利用AI生成与事实严重不符的图片并广泛传播，不仅与社会主流的公序良俗和道德价值观相违背，还引发社会恐慌、扰乱公共秩序，情节轻微的可以依法进行治安行政处罚，如果造成了严重后果，则可能以寻衅滋事等罪名依法追究刑事责任，处三年以下有期徒刑、拘役或者管制；造成严重后果的，处三年以上七年以下有期徒刑。
胡磊律师介绍说，目前国内已经出台了《生成式人工智能服务管理暂行办法》《人工智能生成合成内容标识办法（征求意见稿）》等法规或者草案，明确规定了提供和使用生成式人工智能服务的总体要求，包括不得生成法律、行政法规禁止的内容；在算法设计等过程中防止产生歧视等，同时也对生成合成内容标识的相关要求，包括显式标识和隐式标识的添加方式；服务提供者应采取措施规范生成合成内容传播活动；互联网应用程序分发平台的核验义务等进行了规定，“规则制定了就重在遵守，法规其实远远落后于新事物的出现，从业者只有按照遵守社会公序良序的理念进行发展，行业才能健康、稳定地成长。”
胡磊律师也呼吁，社交平台运营方应该加大审核力度，确保用户在平台上发布的内容真实准确，尤其是在重大灾害期间，应设立相关关键词，进一步加强审核。