DeepSeek胡編亂造問題值得警惕！_風聞

昨天，同事請我幫忙寫一個參評“最美家庭”的評審材料。我寫完以後，感覺還不是很完美，就複製在DeepSeek裏面，特意註明請它稍微修改潤色一下。

不得不説，DeepSeek的效率真高，我寫了一晚上的東西，它花了不到0.2秒就給修改完了，而且提綱結構做了很大調整，有一半是原先內容改寫的，還有一半是新增的，比如“組織文明社區創建”“關心幫助同樓棟老人”“開展書香家庭建設”“研發業務推廣系統”，甚至還有在獲得獎項時的感言。

當時我看了一下，還有些半信半疑，因為好多信息我也不掌握，後來一想這位同事各種榮譽比較多，也許是DeepSeek依靠強大的搜索功能，發現了很多我沒有掌握的素材，而且裏面還有數據、有場景，讓人很難不相信。於是，我略加修改，就發給了同事。

結果，恰恰是新增加的內容出了問題，同事説這些事都不是他乾的，連點影子都沒有，申報評獎材料絕不能弄虛作假，不然被發現了就麻煩大了，評不上獎不説，説不定還會受到處分。同事的一番電話，讓我耳根通紅。

後來，我覆盤了一下，把DeepSeek新增的內容逐一進行了搜索，裏面有一些是同名同姓、但工作崗位和工作業績截然不同的人的事蹟，還有一些根本查無出處，應該是DeepSeek憑空編造出來的。

這個事也給我敲響了警鐘。我們可以依靠DeepSeek來進行一些輔助性的工作，但對於其提供的內容，絕不能偏聽偏信，而是要認真求證，否則就有可能把錯誤的數據信息、歷史事實埋藏在文字材料中，造成嚴重的危害。

關於人工智能，這裏面有幾個問題：

其一是大模型“語料污染”問題。生成式人工智能主要通過海量“語料”進行訓練、學習和提取規律，但現在大量營銷號每天都在編造海量錯誤信息，這些信息通過人工智能的抓取和推廣，就會真假難辨，更會以訛傳訛，讓有毒有害信息擴散傳播。就像前段時間“頂流明星在澳門輸了10億”，讓不少明星躺槍，結果公安網安查明是網友為了博流量，用人工智能編造的虛假信息，隨後大規模擴散，影響更大。

其二是“AI幻覺”問題。有不少網友實測發現，DeepSeek具有“討好型人格”，往往會順着提問人的思路來迎合，甚至編造出完全不存在的信息，只是為了實現提問者的意圖。類似申請“最美家庭”的材料，DeepSeek就可能為了能獲獎，放開想象的翅膀來編故事、上高度，關鍵是編的還挺像，不仔細辨別就很難分辨清楚。這何嘗不是一個“信息繭房”呢，讓提問者越發沉浸在自己的錯誤認知裏而無力自拔。

其三是思維惰性問題。不但是我們工作，利用DeepSeek一秒就能生成一篇洋洋灑灑數千字、邏輯嚴密行文規範的文章，我們的孩子把題目拍照上傳，一秒就能找到答案。技術在賦能我們學習工作的同時，往往也可能讓我們喪失了學習工作的上進心和求知慾。同時，我們還經常和同事討論，啥時候我們的很多工作都可能被人工智能所取代，一下子感覺看不到希望，缺少了前進的動力。在人工智能時代，如何重塑我們的價值追求、信心信念和原創動力，是一個值得思考的嚴肅課題。

其四是人工智能治理問題。人工智能時代，越是信息海量發佈、讓人眼花繚亂，權威可靠信息反而越是稀缺。國家有關部門需要加快推進人工智能治理，對深度偽造、胡編亂造的信息，推進出台“深度鑑真”系統，確保及時、精準發現偽造、錯誤的信息，並對各類語料進行“價值觀對齊”。這並不是一個小問題，而是輿論戰、認知戰的重大戰略問題。否則，一旦敵對勢力進行有企圖、大規模的引導式“喂料”，危害國家安全的信息就可能氾濫成災。魔高一尺、必須道高一丈，抓緊治理才能防止“蟻穴潰堤”。（圖片引自網絡）