真相來了丨“地震被壓在廢墟下的小男孩”居然是AI生成的

1月7日9時許，西藏日喀則市定日縣發生的6.8級地震，牽動着大家的心。但與此同時，一些網友為了博取流量製造關於震區的不實信息，在網絡上公然傳播，對公眾造成誤導。

其中，有一張*“被壓在廢墟下的小男孩”的圖片在網上引發了廣泛關注。圖片中，一名戴帽子的小男孩被壓在倒塌的廢墟之下，全身鋪滿塵埃。不少網友被圖片視頻誤導，紛紛在留言區關注男孩的生命安全。而實際上這張照片是由AI生成的*。究竟怎麼一回事？來看記者的調查。

記者採訪AI圖片創作者還原事情真相

圖片中，一名戴帽子的小男孩被壓在倒塌的廢墟下，全身鋪滿塵埃。但記者注意到，有不少網友被圖片視頻造成誤導，並在留言區關注男孩的生命安全。

有網友留言稱，“有小孩被壓還不趕緊搶救”，有人表示“心都碎了”……

而實際上，這張圖片是由AI生成，圖中孩子的左手顯示為六根手指。記者聯繫到該AI圖片的創作者何先生，對方給記者提供了原始版的AI生成視頻，短視頻截圖顯示，這段視頻在去年11月發佈，並非本次西藏地震期間發佈。

當事人：有自媒體涉嫌盜用AI生成素材

何先生告訴記者，自己創作這段AI圖片和視頻的起因，是看到加沙戰爭地區的孩子家園遭到破壞、流離失所，希望通過視頻傳遞和平願望。但他沒有想到，自己發佈在短視頻平台上的素材遭到他人盜用，並和西藏地震進行了關聯。

“被壓廢墟下的小男孩”AI視頻創作者 何先生：創作的原因是看到國外有戰爭，為了反映戰爭廢墟下孩子們的生存環境。我不是為了拿它來宣傳、造謠，但這個網絡搬運內容的事情很惡劣。現在我在所有平台把作品的下載功能都關閉了，就是為了防止別人盜走視頻。

“假圖”關聯真實事件 違背社會公序良俗

地震救援現場牽動着全社會，而沒承想，何先生去年11月發佈的視頻被人移花接木，將此次地震相關的信息肆意拼湊，這種用災難博取流量的行為，令人憤慨。有法律人士表示，用“假圖”關聯真實事件的行為違背了社會公序良俗，有擾亂社會秩序之嫌，將面臨法律處罰。

*中國慈善聯合會法律顧問 張凌霄：*自媒體是盜用了別人的AI製品，在抗震救災突發事件當中來博取眼球，吸引流量，構成治安管理處罰，嚴重的會構成犯罪。同時因為它利用了救災的心理，是違反社會的公序良俗和道德最基本的要求。

*律師 張曉玲：*根據相關法律法規，編造虛假的險情、疫情、災情、警情，在信息網絡或者其他媒體上傳播，或者明知是上述虛假信息，故意在信息網絡或者其他媒體上傳播，嚴重擾亂社會秩序的，處三年以下有期徒刑、拘役或者管制；造成嚴重後果的，處三年以上七年以下有期徒刑。

軟件30秒“編造”地震報道 未標註AI生成

記者也試着用了一款剪輯軟件，只用30秒就生成了一則所謂的“地震報道”。

記者在一款用户量龐大的剪輯軟件中，使用其提供的AI視頻生成功能，輸入一句關於小女孩在地震中被救出的文字描述，不到30秒鐘，軟件就生成了一段20秒左右的視頻，並提供畫外音解説。視頻中並未標註“AI生成”字樣，軟件也沒有要求用户添加這樣的標識。

而在引發大量關注的“被壓廢墟下的小男孩”圖片和視頻中，創作者何先生也告訴記者，AI軟件沒有強制要求標註“AI生成”字樣，是自己在視頻上方添加了水印，但後來被盜用者刪掉了水印。

有人工智能研究者表示，目前亟須建立統一的規範要求，避免AI以假亂真。

*吉林大學人工智能學院院長 宋軒：*無論是我們個人上傳的相關的由AI生成的視頻或者圖像，還是由軟件包括平台發佈的等等相關的AI生成的內容，我覺得必須遵守披露和聲明原則。所有的內容如果是由AI生成的，無論是在生成的過程中，還是上傳的過程中，需要進行聲明和披露，就是要明確標註出來，説這個內容是由AI生成的。我覺得對於個人用户，這也是我們在使用AI的過程中應該遵守的一個基本原則，一個道德準則。

AI軟件生成的內容是否需要主動標註？

那麼，由AI軟件生成的圖片和視頻，究竟該不該主動標註由AI生成？

去年9月，國家互聯網信息辦公室發佈關於《人工智能生成合成內容標識辦法（徵求意見稿）》，其中提到：

在圖片的適當位置添加顯著的提示標識；

在視頻起始畫面和視頻播放周邊的適當位置添加顯著的提示標識，可在視頻末尾和中間適當位置添加顯著的提示標識。

而在此次新聞事件中記者發現，原本AI視頻的發佈者標註了AI生成，而在他人盜用過程中，卻對AI生成的標註信息進行了模糊，從而誤導了受眾。

平台加強監管 AI時代守好信息真實底線

除了AI生成軟件和生成者要肩負起自己的責任，專家指出，還要在監管方面，發展AI技術來破解、識別AI造謠；相關的立法、執法也需要加強，並在全社會要加強相關人員的教育和科普工作，讓公眾的辨別力更高。

中國人民大學新聞與社會發展中心研究員 曾持：“生成式AI”的拼接本質和謠言有很強的親近性，二者都屬於“無中生有”——創造看起來真實合理的信息。AI讓造謠更加簡單和“科學”了，因為AI會根據熱點事件總結規律、拼接情節，很快就能製作出符合人們“期待”的謠言，讓傳播更加迅速。

專家也指出，目前，平台審核機制存在一定滯後性，未能及時有效識別AI虛構圖片，對自媒體賬號發佈內容監管不力，特別是在涉及災害等敏感話題時，更應加強審核力度。未來需要利用技術手段、人工審核等多方式加強對地震等突發信息的管控。

*律師 張曉玲：*平台應該改進審核機制，提高審核效率，並使用更加直觀有效的提示方式，避免虛假信息的傳播。

*中國人民大學新聞與社會發展中心研究員 曾持：*在現在的技術情況下，平台只能事後懲罰。但是現代社會的傳播速度又太快了，造成的影響太迅速，所以很難在源頭上根治AI造謠的影響。我覺得將來監管要從兩個方向努力：

第一是要讓人們認識到，不管是通過AI，還是通過其他工具手段技術，造謠宣傳假新聞都是違法犯罪的行為；

第二是將來AI技術要跟平台更緊密地聯繫在一起，平台要能根據AI新工具，來反向識別由AI拼造的假圖片和假新聞。