這些吸引眼球的內容都是AI生成 四招教你辨別真偽

“有頂流明星在澳門輸了10億”

“大媽擺攤賣水果被罰16萬，監管局回應不交就罰145萬”

“上海退休教授靠陽台核電池供電”

……

這些吸引眼球的內容

都是AI生成的謠言！

隨着AI技術的發展

正確使用的確能為人類的工作帶來方便

但因濫用AI所造成的亂象也不少

AI謠言就是其中之一

哪些信息容易被AI製作成假新聞？

如何判斷AI製作的假新聞？

一起來看

AI謠言頻出

近日，一則

*“有頂流明星在澳門輸了10億”*的信息

在互聯網平台傳播

引發網民熱議和各種猜測

相關話題頻繁登上社交媒體熱搜熱榜

後經公安網安部門查明

這條信息為AI製作的假新聞

公安機關根據相關法律法規

對製作這條假新聞的徐某強

處以行政拘留8日處罰

無獨有偶

近日，上海闢謠平台公佈一起網絡謠言

稱*“上海退休教授靠陽台核電池供電”*為假消息

闢謠平台調查發現，相關消息大概率是

造謠者用AI技術編寫、製圖並剪輯視頻

在傳播者中，除了受誤導的網民

還有一些別有用心的傳謠者

通過續寫、點評等方式擴大謠言負面效應

薦股羣所謂內幕或是AI生成

除了一些AI造謠信息

還有些不法分子利用AI技術

盯上了你的錢包

前不久，有受害者反映

自己付費10000元加入“薦股”諮詢羣

羣內“大佬”説中國要大力發展國防軍工

製造業要遷到四川地區來

於是他重倉買入“大佬”推薦的股票

結果不僅沒有大漲 反而一路下跌

經警方調查

這些所謂的股票利好消息

其實是利用AI生成的虛假信息

花一萬多元的學費

得到的所謂炒股知識、內幕消息

不過是騙子在利益驅使下

炮製而來的虛假信息

目前，警方已抓獲15名犯罪嫌疑人

這些信息容易被AI製作成假新聞

假新聞並非新生事物

但AI大模型的崛起

無疑大幅降低了造假的門檻

如今，只需與AI智能助手進行簡短對話

幾秒鐘內便能生成

一篇圖文並茂的假新聞

△ 使用AI工具，1分鐘便可製造一篇AI假新聞、AI圖片。圖源：網信浙江

而在多起AI造謠事件背後

造謠者的動機主要源於引流和藉此牟利

網警總結了四種典型AI謠言場景

1、偽造熱點事件

用AI生成“某地重大事故”圖文/視頻

配煽動性標題博流量

△ 2025年1月7日，西藏日喀則市定日縣發生6.8級地震，震後，一張“小孩被壓廢墟下”的圖片被大量轉發。後經查證，圖片是由AI生成，圖中人物甚至有6根手指。

2、捏造名人言論

篡改語音、合成視頻

假借權威人士發佈虛假政策解讀

3、炮製偽科普

利用AI生成“科學數據”

兜售偽劣產品（如“AI檢測抗癌神藥”）

△ 2024年年底，有網友稱在網絡賣貨視頻中看到知名醫生張文宏在售賣一種蛋白棒產品。在帶貨視頻中，被合成的人像反覆介紹一種產品，聲音聽起來很像張文宏本人。對此，張文宏回應稱，這樣的賣貨賬號不止一個，而且一直在變，他多次向平台投訴但屢禁不絕。

4、嫁接虛假證據

將無關圖片通過AI換臉/換背景

捏造“維權證據”“聊天記錄”等

四步識別AI謠言

不當“受害者”更別當“幫兇”

如何識別AI謠言？

這些要點請記住↓↓↓

1、查源頭

警惕無明確作者、無正規信源的內容

AI生成信息常偽裝成

“網友投稿”“內部消息”

2、看細節

AI圖像：觀察手指數量異常、光影不自然等；

AI視頻：注意口型與聲音不同步、背景模糊扭曲。

3、驗邏輯

AI生成謠言常出現時間矛盾

（如“2024年政策”引用2025年數據）

地名錯誤等

4、用工具

關注官方賬號公佈的打謠信息

或通過*“中國互聯網聯合闢謠平台”*等渠道

一鍵驗證

還有一條好消息

為了促進人工智能健康發展

規範人工智能生成合成內容標識

《人工智能生成合成內容標識辦法》

正式發佈，9月1日正式施行

屆時，AI生成合成內容必須添加顯式標識

讓我們以理性駕馭AI

用法律守護底線

共同維護網絡清朗空間

（央視新聞綜合法治日報、公安部網安局、網信浙江）