觸目驚心：用AI批量造謠，日入上萬！_風聞

NO.596

作者：觀察君

校稿：程程 / 編輯：致知

AI居然被用來高效造謠？近日，江西一MCN機構利用AI批量造謠事件登上熱搜。這家機構通過AI生成大量虛構事實的文章，操縱800多個賬號，自動發佈，高峯時期一天生成4000-7000條謠言，日入上萬元。AI造謠牟利事件屢見不鮮，我們該怎麼預防？

6月14日，央視通過一條6分鐘的新聞視頻，詳細報道了一家MCN機構通過AI造謠獲利的經過。

這件事情的起因是，今年1月11日晚上9點25分，一個網名叫“奮發的書包5a0M”的網友發佈了一則消息，聲稱西安在1月10日晚上11點48分發生了爆炸。時間地點寫的非常詳細，如果不是身處西安當地，還真辨別不出這是個謠言。文章閲讀量非常大，驚動了西安警方。警方一調查，發現是江西的一家MCN機構。於是，兩地警方一調查，才發現了這家MCN機構的貓膩。

江西警方對這家公司的電腦和手機進行取證，發現這個公司負責人有5家MCN公司，運營了842個自媒體賬號，全部都是通過AI工具，輸入關鍵詞，生成大量文章，然後又通過一個自動發佈的軟件一鍵發佈到這些賬號上。通過流量賺取平台收益。

這些文章之所以流量大，主要還是“選題”好。他們將造謠的角度對準社會熱點和民生新聞，專門在網上搜索熱點文章，找網民的“痛點”，通過移花接木等方式，用AI工具大量造假。文章配圖大部分是張冠李戴，甚至直接AI生成。比如，所謂的西安爆炸事件的配圖是一張原子彈爆炸實驗“蘑菇雲”的圖片，實在是聳人聽聞。

根據報道，高峯時期，他們一天可以生成4000-7000條造謠文章。要説，這效率確實非常高。大力出奇跡，他們賺取的流量分成也非常高。最高一條收入700元，每天的收入上萬元。

AI工具最大可能的節省了人工成本，整個工作流程基本不需要人工參與，日入上萬這個利潤率，着實可觀。

目前，該公司負責人涉嫌傳播謠言、虛構事實、擾亂公共秩序被行政拘留5日，外加一個處罰，公司停業整改。

對於這個處罰，很多網友表示大快人心。

這些造謠新聞，以新聞報道的口吻，講述歪曲事實，對公眾誤導極大。一些聳人聽聞的假新聞，還能引發社會恐慌。比如西安爆炸。再比如，該機構還杜撰了重慶巫溪發生民房爆炸4人遇難的假新聞。

對於普通民眾而言，AI工具是一個比較陌生的領域，對於AI造謠的分辨能力也比較低。所以，這種批量造謠的行為必須嚴厲打擊。

其實在2023年，也有一個類似案件。深圳一名男子洪某某購買了21個百家號，利用ChatGPT編造新聞，將最近發生過的熱點新聞，進行簡單修改，然後通過發佈軟件，一鍵發佈到百家號上，賺取流量分成。後來因為杜撰的一篇火車發生交通事故致人死亡的文章爆火，被警方調查。之後，洪某某因涉嫌尋釁滋事罪被逮捕。

事實上，監管部門對網絡謠言的治理一直處於高壓狀態，但新技術、新環境，給監管部門和平台的治理都帶來了挑戰。作為網民，我們首先自己要有分辨的能力，對於新聞報道，不信謠不傳謠，對發佈者身份注意甄別，謹慎轉評贊。