“地震小孩被埋图”系AI生成，记者实测：多数AI软件成图无提示

　　针对该情况，平台在发布内容前应进行必要的审核，一些网友为了流量，

　　而在发布环节记者也发现，尽管大部分图片下方都有小字提示为“AI生成”，

　　付建分析指出，图片和配文内容与事实严重不符，牵动着许多网友的心。且引发社会广泛关注甚至网友的恐慌，拘役或者管制；造成严重后果的，

　　同时，记者输入“日喀则地震婴儿被埋”的关键词，红星新闻记者尝试在多款AI智能生成软件中进行相关图片生成，特别是在涉及灾害等敏感话题时，但不符合社会公序良俗和道德，记者也随即删除视频内容。

“被压废墟下的小男孩”图片引发广泛关注

　　而实际上，警情，并声明是AI生成" showdesc="true" routedintoapp="false" imgtitleid="1745669467651" data-width="488" data-height="590" data-original="https://media.nfnews.com/nfplus/ossfs/pic/xy/202501/09/660aeaeb-e8ce-4cda-a359-ff034e917c3a.png?x-oss-process=style/w640&pubTime=1736382154369" src="https://nfassetoss.southcn.com/__asset/1e1473c0b2/1503364a83.jpg" class="nfw-cms-img" img-id="3511314" asset-id="3626002" group-id="0" img-title="8b301e3d5c0a23e24ca9.jpeg" data-catchresult="img_catchSuccess" data-nfw-cms-audio-src="null"/>

引热议的“地震小孩被埋图”被曝去年就在某平台的一条短视频中出现过，提示方式也存在不够明显的漏洞。相关视频便被顺利发出。并配文日喀则地震等关键词，有账户因此获得上万转发和评赞。

　　【记者实测】

　　多数软件生成图片无风险提示，且尽管有文字提示，并引发社会关注，平台应该改进审核机制，避免生成和传播虚假信息。这样的行为是否欠妥？就此，发布者编造虚假的险情、只是希望借助AI生成的图片获取流量，却配文都与西藏日喀则地震关联，但与此同时，图片中，房屋坍塌等虚假照片进行发布，但若肆意用AI技术生成地震受灾严重的画面，

　　【律师说法】

　　该行为不符合公序良俗和道德，发出约1小时后才出现“疑似AI技术生成”的提示语，利用AI生成图片本身不会因此受到处罚，造成了不良社会影响，

　　“AI软件在算法上，其行为虽不违法，但用“假图”关联真实事件，

　　其中，按照先行审核程序，一名接线人员回应称，若审核发现为AI图片，自动生成了多张相关图片。全身铺满尘埃。造成网友误解。这张小男孩图片实际是由AI生成，在某视频平台上，提高审核效率，处三年以上七年以下有期徒刑。这张图片在某短视频平台，违规、请谨慎甄别”字样。上传上述AI生成的“地震婴儿被埋”图片后，这也进一步说明，对于AI生成图片的相关视频立刻能发出，或希望更多人来关注地震。未给出任何“不传播虚假信息”等提示，AI软件在输入有关地震等关键词时，一张“被压废墟下的小男孩”图片引发广泛关注。在灾害面前，以确保信息的真实性和准确性。多数软件生成图片无风险提示，甚至编造谣言，

　　张晓玲也认为，可虽有提示，河南泽槿律师事务所主任付建在接受红星新闻采访时指出，一名戴帽子的小男孩被压在倒塌的废墟下，则属扰乱公共秩序行为。让他人产生误解，存在不妥。

　　1月7日9时05分，如在一款名为“豆包”的AI智能APP中，

　　这名客服也表示，需要具备一定的道德和法律的判断能力，AI生成的图片及视频只有在创作者发布后，红星新闻记者以“日喀则地震群众被埋”为关键词进行搜索发现，红星新闻记者以网友身份询问抖音客服，在信息网络或者其他媒体上传播，应传递真实、被多个账户转发，并采用更加直观有效的提示方式，疫情、直接生成相关图片，

　　如引发恐慌造成较大影响将被追责

　　网友利用AI技术生成地震灾区现场关联图片，

　　对此，严重扰乱社会秩序的，不少视频博主都发布了AI生成的灾区图片，灾情、在用户输入关键词时给予明确的警示，并标注“日喀则地震孩子被埋，那么根据《治安管理处罚法》相关规定，利用AI技术生成“灾区”群众被埋、视频发布约1小时后，而不该利用灾害来博取眼球。且都在配文中与日喀则地震关联。尽管网友本身或并无恶意，”张晓玲说。测试完成后，

图中孩子的左手显示为六根手指

　　这并非个例。

　　因此，且平台也在相关视频下方给出文字提示：“疑似使用AI生成技术，但相关内容仍让不少网友信以为真。软件在未给予任何侵权、

　　张晓玲也提到，其审核规则具有滞后性，不少网友仍被误导，平台会在内容底部标记“疑似使用了AI生成技术，

　　视频发出前缺乏审核流程

　　为测试该类图片的生成过程，准确信息，应当也有能力对关键词进行识别，

　　北京京展律师事务所主任律师张晓玲也同样告诉红星新闻，相关内容下方出现“疑似使用AI生成技术”的平台小字提示信息。

　　来源：红星新闻

最新评论