DeepSeek胡編亂造問題值得警惕!_風聞
王若愚-自由撰稿人-太行山下40分钟前
昨天,同事請我幫忙寫一個參評“最美家庭”的評審材料。我寫完以後,感覺還不是很完美,就複製在DeepSeek裏面,特意註明請它稍微修改潤色一下。
不得不説,DeepSeek的效率真高,我寫了一晚上的東西,它花了不到0.2秒就給修改完了,而且提綱結構做了很大調整,有一半是原先內容改寫的,還有一半是新增的,比如“組織文明社區創建”“關心幫助同樓棟老人”“開展書香家庭建設”“研發業務推廣系統”,甚至還有在獲得獎項時的感言。
當時我看了一下,還有些半信半疑,因為好多信息我也不掌握,後來一想這位同事各種榮譽比較多,也許是DeepSeek依靠強大的搜索功能,發現了很多我沒有掌握的素材,而且裏面還有數據、有場景,讓人很難不相信。於是,我略加修改,就發給了同事。
結果,恰恰是新增加的內容出了問題,同事説這些事都不是他乾的,連點影子都沒有,申報評獎材料絕不能弄虛作假,不然被發現了就麻煩大了,評不上獎不説,説不定還會受到處分。同事的一番電話,讓我耳根通紅。

後來,我覆盤了一下,把DeepSeek新增的內容逐一進行了搜索,裏面有一些是同名同姓、但工作崗位和工作業績截然不同的人的事蹟,還有一些根本查無出處,應該是DeepSeek憑空編造出來的。
這個事也給我敲響了警鐘。我們可以依靠DeepSeek來進行一些輔助性的工作,但對於其提供的內容,絕不能偏聽偏信,而是要認真求證,否則就有可能把錯誤的數據信息、歷史事實埋藏在文字材料中,造成嚴重的危害。
關於人工智能,這裏面有幾個問題:
其一是大模型“語料污染”問題。生成式人工智能主要通過海量“語料”進行訓練、學習和提取規律,但現在大量營銷號每天都在編造海量錯誤信息,這些信息通過人工智能的抓取和推廣,就會真假難辨,更會以訛傳訛,讓有毒有害信息擴散傳播。就像前段時間“頂流明星在澳門輸了10億”,讓不少明星躺槍,結果公安網安查明是網友為了博流量,用人工智能編造的虛假信息,隨後大規模擴散,影響更大。

其二是“AI幻覺”問題。有不少網友實測發現,DeepSeek具有“討好型人格”,往往會順着提問人的思路來迎合,甚至編造出完全不存在的信息,只是為了實現提問者的意圖。類似申請“最美家庭”的材料,DeepSeek就可能為了能獲獎,放開想象的翅膀來編故事、上高度,關鍵是編的還挺像,不仔細辨別就很難分辨清楚。這何嘗不是一個“信息繭房”呢,讓提問者越發沉浸在自己的錯誤認知裏而無力自拔。
其三是思維惰性問題。不但是我們工作,利用DeepSeek一秒就能生成一篇洋洋灑灑數千字、邏輯嚴密行文規範的文章,我們的孩子把題目拍照上傳,一秒就能找到答案。技術在賦能我們學習工作的同時,往往也可能讓我們喪失了學習工作的上進心和求知慾。同時,我們還經常和同事討論,啥時候我們的很多工作都可能被人工智能所取代,一下子感覺看不到希望,缺少了前進的動力。在人工智能時代,如何重塑我們的價值追求、信心信念和原創動力,是一個值得思考的嚴肅課題。
其四是人工智能治理問題。人工智能時代,越是信息海量發佈、讓人眼花繚亂,權威可靠信息反而越是稀缺。國家有關部門需要加快推進人工智能治理,對深度偽造、胡編亂造的信息,推進出台“深度鑑真”系統,確保及時、精準發現偽造、錯誤的信息,並對各類語料進行“價值觀對齊”。這並不是一個小問題,而是輿論戰、認知戰的重大戰略問題。否則,一旦敵對勢力進行有企圖、大規模的引導式“喂料”,危害國家安全的信息就可能氾濫成災。魔高一尺、必須道高一丈,抓緊治理才能防止“蟻穴潰堤”。(圖片引自網絡)