當AI開始製造假新聞_風聞

“頂流男星豪賭10億”“路易吉自殺”“梅西去世”，這些都是近期流傳在網上的“新聞”。

與其叫它們“新聞”，不如叫“AI幻想碎片”。近些年來，隨着人工智能的快速發展，生成式內容得到越來越多人的關注。

用AI生成“新聞”，成了最近大家的新樂子，不少網友開始嘗試自己生成相關內容並進行傳播。

“頂流男星豪賭10億”就來自某網友手筆，該網友使用AI軟件輸入社會熱點詞，製作了標題為‘頂流明星被曝境外豪賭輸光十億身價引發輿論海嘯’的謠言信息，並在小紅書、微博等社交平台迅速擴散，目前已被處以行政拘留8日處罰。

其實使用AI助力新聞生產不是新鮮事。早在十年前新華社就開發了自己的第一位機器人記者“快筆小新”。它可以7×24小時不間斷工作，更可以跨越條線，原本需要編輯記者們15～30分鐘完成的稿件，“快筆小新”只需要3～5秒鐘就能完成。

國外媒體如BBC、紐約時報等媒體也都將AI納入新聞生產過程。但用AI助力新聞生產與用AI生成新聞是兩碼事。

由於當前語言類AI還是抓取語料進行生成，不少網友的自發內容也會被AI識別為“資料”，從而生成一些看似真實，實際根本沒有發生的“新聞”。

更值得注意的是，這些由AI生成的假新聞正成為內容循環的源頭，也就是説用户用AI生成內容進行發佈，其他用户進行相關提問，AI會再次抓取這些內容反饋給用户。

當新聞有一天也可以被“生成”，它將帶來什麼，又將消解什麼？帶着這些問題，毒眸與多位媒體行業、AI行業以及互聯網行業從業者展開對話。

在AI席捲而來的當下，我們更需要釐清，真實與虛幻的邊界。

頂流男星的謠言

“哇，是林俊杰還是周杰倫啊？玩這麼大！”

三月初，一則內容為“某超一線男星在澳門永利皇宮賭場貴賓廳連賭七日”的消息在網絡瘋傳。這則消息據稱“經權威渠道確認”，由國際金融調查機構Global Financial Watch於3月10日發佈的跨境資金異常流動曝光。

信息顯示，該位“頂流男星”七日豪賭輸盡10.3億元流動資產，抵押三處豪宅及私人飛機，為翻本還向澳門黑幫借貸3億元。

網友吃瓜熱情被迅速點燃，相關帖子開始在微博、小紅書、豆瓣、知乎等社交平台大肆傳播，林俊杰、周杰倫等“頂流男星”都被提及，甚至還有網友跑到黃曉明微博下方求證是否輸了十億，得到對方“歡樂豆嗎？”的回答。

這條消息還釋出了相當多的細節，諸如該男明星輸掉的10億分為離岸公司轉入8.6億，以及地下錢莊兑換1.7億港元現金籌碼；其內地經紀公司還在3月9日深夜發佈聲明承認其存在“個人財務問題”，兩棟被抵押的豪宅分別是位於北京朝陽區2.8億元的獨棟別墅以及上海陸家嘴的頂級公寓。

眼見各位被猜測的男明星們都默不作聲，輿論風波愈演愈烈，越來越多的男明星被網友列入“可能名單”。就在網友們猜的不亦樂乎之際，公安部網安部門發佈通告，原來這條看起來有鼻子有眼的網絡消息，竟然是AI生成的假新聞。

公安部通告稱，“網民徐某強（男，36歲）為博取流量、謀取非法利益，於2025年3月10日10時，使用軟件“某書”中AI智慧生成功能，輸入社會熱點詞製作了標題為‘頂流明星被曝境外豪賭輸光十億身價引發輿論海嘯’的謠言，公安機關根據相關法律法規，已對徐某強處以行政拘留8日處罰。”

無獨有偶，在震驚韓國的金秀賢金賽綸事件中，也有AI假新聞的身影。

3月12日，微博名為“戀輿智”的網友發佈微博，稱金秀賢在金賽綸頭七當天（2025年3月12日前後）通過粉絲互動平台Bubble發佈動態，曬出粉絲禮物，並稱“不愧是超級chill的我”。

這條消息沒有引起“頂流男星豪賭輸10億”如此大的輿論風波，但也燃起不少中國網友的義憤之情。由於金賽綸與金秀賢此前戀愛六年，金秀賢涉嫌“戀童癖”，金賽綸又在男方生日當天選擇自殺，讓這條消息也開始快速擴散。

但仔細分析此條微博，就會發現金賽綸去世日期為2月16日，頭七不管按照中韓哪一國家的習俗計算，都不應該是3月12日。

和“頂流男星豪賭十億”的“新聞”一樣，這些AI生成式內容雖然看起來真實詳細，但只要仔細一想，便有諸多細節經不起推敲。或許AI比新聞從業者更是熟知人性，在這些精準挑動網友情緒的“新聞”中，AI加速了生成新聞的腳步，同時也消減了用户冷靜思考的反應與時間。

此時AI擔任的不再是省時省力的工具角色，而是幻覺碎片的生產者。

AI的自由與偏見

這兩年，AI假新聞層出不窮，而且以文字、圖片、視頻等各種形式出現。

今年年初，西藏日喀則市定日縣發生6.8級地震，多張“小男孩被埋圖”在網絡瘋傳，引發網友關切。然而經公安機關核查，這些圖片均由一位青海網友使用AI工具生成而來，該網友將日喀則地震信息進行關聯拼湊，引發謠言擴散。

除此之外，還有不少網友也使用AI工具嫁接圖片，以其他地區地震現場生成為定日地震現場，駭人聽聞。

2023年，“杭州市政府3月1號取消機動車依尾號限行”的“新聞”也在網絡瘋傳。

隨後“江浙之聲”報道，這則所謂的“新聞”，是杭州某小區業主羣討論ChatGPT，一位業主開玩笑，稱試試用ChatGPT寫“杭州取消限行”的“新聞”，並在羣裏直播ChatGPT寫作的全過程，其他看到文章的業主直接當成新聞截圖轉發。

AI還生成諸如“路易吉自殺”“梅西去世”“80後死亡率突破5.2%”等各種聳人聽聞的假新聞，從這些案例中不難看出，AI假新聞已經蔓延至文娛、體育、社會生活等多個領域，併產生不小影響。

在此前毒眸對十位記者的採訪中，不少媒體從業者也都提及日常工作已經開始使用AI，會用AI生成視頻新聞封面、蒐集信息數據等。

2015年，新華社就開發了自己的第一位機器人記者“快筆小新”。“快筆小新”可以7×24小時不間斷工作，更可以跨越條線，從體育賽事報道到股市、國債開收盤，它都能自動根據信息快速生成新聞稿件，原本需要編輯記者們15～30分鐘完成的稿件，“快筆小新”只需要3～5秒鐘就能完成。

在國外，新聞從業者對於AI的使用更加激進大膽。

3月18日，意大利自由保守主義日報《Il Foglio》發佈了全球首份完全由AI生成的報紙。該份報紙共4頁，全部內容均由AI生成。頭版頭條劍指美國總統特朗普，此外頭版還刊登了專欄文章《普京的十次背叛》，稱普京“20年來違背承諾、撕毀協議和言而無信”。

經濟、文化版面也都由AI生成最新數據討論及社會現象分析，最後還刊登了由AI生成的“讀者來信”。

《Il Foglio》編輯Claudio Cerasa認為，《Il Foglio AI》展現了一份“真正的報紙”，它是“新聞、辯論和觀點碰撞的產物”以及“我們不得不思考的問題，這些問題不僅僅是新聞領域的”。

《洛杉磯時報》在今年3月3日也引入了一項新功能“Insights”。“Insights”可以表達特定觀點或“從個人角度”撰寫文章，但就在一天後，由於“Insights”淡化三K黨種族主義問題，該功能隨即下線。

代表《洛杉磯時報》記者的工會也隨後發表聲明，對“未經編輯部審核的AI生成分析”表示擔憂。工會表示，他們不認為這種做法會“增強公眾對媒體的信任，相反，這種工具可能會進一步削弱新聞機構的公信力”。

在毒眸和多位媒體從業者的對談中，我們也發現，隨着使用程度加深，也有不少新聞從業者開始掉入“AI陷阱”。

“3月份烏拉圭和阿根廷的比賽，梅西都沒上場，國內某知名體育垂直媒體平台發佈的半場戰報就有‘梅西通過靈活跑位為球隊創造機會’的這種表述，疑似是用AI提前寫的。日常蒐集資料的時候，我也在大平台上看到過AI生成的莫須有新聞戰報。”知名體育自媒體博主碧波介紹。

“我們會使用AI進行基礎資料蒐集，原本以為會比較省力，但最近發現工作量似乎更多了，因為要驗證AI給到的是否是‘假數據’”。文娛記者周敬儀這樣説道。

多位媒體從業者都提到ChatGpt、DeepSeek、kimi，這是目前媒體從業者使用最多的三個AI應用。

“kimi會給到很多文章索引，使用起來比較方便，但這些參考文章良莠不齊，有些也是網友自己發佈的信息。”財經記者朱元這樣認為，”但財經條線還好，因為我們一般用AI蒐集財報數據以及經營數據”。

擁有八年文娛行業從業經歷的編輯李莞爾則有些“苦不堪言”，“剛入行的時候我就發現很難找到關於文娛產業的權威信息，當時主流還是用百度，但搜出來的基本都是網友自己發的八卦，或者是片湯話湊出來的所謂‘文章’，毫無價值。”

有了AI之後，李莞爾的工作似乎更難了。“我之前非常信任DeepSeek，因為感覺更有‘人味’，但後來發現，它生成的內容看似非常完整且很‘權威’，但很多內容根本就不存在。如果對行業沒有積累或者常識，很容易被騙到。”

一條莫比烏斯環

 如同莫比烏斯環，現在的AI已經形成“虛空內容環”。

 從上述AI假新聞的相關報道中，我們能看到，幾乎都是用户自發在AI相關應用中輸入指令即可完成。

 “AI生成新聞的prompt非常簡單，下指令，加一段參考，把新聞教科書裏的寫作要求寫進去，再根據一些基礎事實以及搜索內容就可以生成。不需要專業AI應用，在網頁版甚至就能生成。“AI行業從業者Ingemar這樣説道。

就職於AIGC相關企業的Han則提供了另一種生成可能。“還有一種類似於自動抓取信息，比如在某搜索引擎上比較常見的無價值聚合信息。這在這一輪生成式AI爆發前就存在，主要利用爬蟲加上一代的文字處理AI做簡單處理來填充平台內容。”

這更接近李莞爾在上文中提到的，更早時期，搜索引擎提供的無用信息。如果説早期這些無用信息大規模聚合在搜索引擎搭建的內容平台上，那到如今隨着社交媒體快速發展，以及傳播媒介的快速更迭，這些內容被更快、更廣、更大規模地散播於更多平台。

比如“頂流男星豪賭10億”就在小紅書上引起廣泛討論，更是一度登上微博熱搜。一則AI假新聞的生產成本、傳播成本都被大大降低，其擴散範圍也變得更大、更廣。

更值得注意的是，這些由AI生成的假新聞正成為內容循環的源頭，也就是説用户用AI生成內容進行發佈，其他用户進行相關提問，AI會再次抓取這些內容反饋給用户。

“這接近於AI的數據崩潰的合成數據遞歸，持續下去會讓數據庫完全失真，是一個大問題，之前有不少LLM（AI大語言模型）訓練時都遇到過這一問題。AI假新聞的產生很大程度上是這一問題的根源也是這個問題的結果。”Han這樣認為。

即便LLM（AI大語言模型）以學習文本數據為核心，但這些文本數據往往包含“歷史和當代的偏見”以及如今真假混雜的信息，導致模型再精心篩選訓練，也難以解決這一問題。

劍橋大學博士後，西湖大學終身教授張嶽在澎湃新聞的採訪中分享了目前主流的三大AI生成文本鑑別法，主要是監督分類器法、零樣本分類器法以及水印法。

“監督分類器法要收集大量已知數據，做分類學習。對訓練時見過的大語言模型生成的文本，它的識別準確率較高；但遇到未見過的模型生成的文本，識別準確率下降；Fast-DetectGPT、DetectGPT屬於零樣本分類器法，無需收集數據進行訓練，主要通過AI文本的特徵來“找同類”；水印法是在生成AI文本時打上“水印”。相關服務提供者對生成合成內容添加顯式標識，或在生成合成內容的文件元數據中添加隱式標識，這種方法準確率高，但存在標記被人為弱化甚至移除的風險。”

“目前法規也在規範化相關內容，比如要求AI生成內容需要額外標註，有了標註，後續這一問題有可能會得到緩解。”Han補充道。

在今年兩會上，也有人大代表提出加強對AI生成虛假信息治理的建議。全國政協委員、四川大學華西醫院教授甘華田在接受紅星新聞採訪時稱，AI深度偽造視頻、政府公告、企業聲明、名人言論、虛假金融信息等行為，已嚴重干擾公眾的判斷，這類虛假信息不僅誤導消費者，還損害了社會公信力。

國家互聯網信息辦公室、工信部、公安部、國家廣電總局已發佈《人工智能生成合成內容標識辦法》，將於今年9月起實施，《辦法》聚焦人工智能“生成合成內容標識”關鍵點，通過標識提醒用户辨別虛假信息，明確相關服務主體的標識責任義務，規範內容操作、傳播各環節標識行為。也就是開始對AI內容“打水印”。

國外方面，OpenAI也已與新聞集團和《金融時報》簽署了商業合作及授權協議，讓ChatGPT用户能看到特定的、註明出處的新聞摘要、引用和鏈接。

這些措施與手段都在強化AI生成內容的可靠性與確定性。在這個人人都可以產生內容，“假作真時真亦假”的時代，AI的確如同雙刃劍，但不管如何使用，這把劍始終不能對着自己。