【世界知識】蘭順正：在享受ChatGPT的便利時，也要看到其挑戰_風聞

作者：蘭順正

首發自：《世界知識》

近段時間，人工智能聊天工具ChatGPT在全球範圍內掀起一陣“颶風”。ChatGPT全名為Chat Generative Pre-trained Transformer（“聊天生成式預訓練轉換器”），是美國OpenAI公司研發的聊天機器人程序，於2022年11月30日發佈，在短短兩個月內便獲得1億月度活躍用户，成為史上增長最快的面向消費者的應用程序。

ChatGPT是一種專注於對話生成的語言模型，能夠根據用户的文本輸入，產生相應的智能回答，這個回答可以是簡短的詞語，也可以是長篇大論。通過學習大量現成文本和對話集合（例如Wiki），ChatGPT支持包括英文、中文在內的多種語言，能像人類那樣即時對話，流暢地回答各種問題，寫詩寫故事，甚至是撰寫商業計劃書和行業分析。

ChatGPT之所以如此“神奇”，一個重要原因是其背後的AI模型採用了獨特的訓練過程，就是讓AI不斷進行填詞考試，輸入一個字、一句話，讓程序去預測出現概率最高的下一個字、下一句話。ChatGPT用到了3000億單詞的語料數據和1750億的參數，前者是餵給程序的訓練資料，後者基於訓練資料 ChatGPT 模型對世界的理解。一定程度上説，參數量級越大，AI模型就越可靠，越能理解提問。在ChatGPT身上還做了一項“人類偏好處理”訓練，即，根據人類的反饋，讓AI學會理解人類的思維方式。因此，ChatGPT相比前輩更知道哪種答案才是人類想要的，或者更符合人類的情感需求。

不過，ChatGPT在給人帶來便利的同時，也引發了大家對網絡安全的更深擔憂。有觀點認為，從開展網絡攻擊的角度看，ChatGPT這類生成式人工智能是偏向於威脅行為者的。生成式AI能提供所要求的內容，極有利於製作網絡釣魚電子郵件。它通過獲取的信息，利用額外的上下文關聯關係，並根據自己的理解得出結論。ChatGPT可以毫不費力地創建大量複雜的網絡釣魚電子郵件，甚至還能創建非常逼真的虛假配置文件，滲透進過去被認為機器不適合或不擅長的領域，偽造出令人信服的文字和圖片資料。

而且ChatGPT大大減少了威脅參與者基於技能的進入成本。目前威脅的複雜性或多或少與威脅行為者的技能水平有關，在ChatGPT出現後，一些入門級網絡犯罪分子立刻可以獲得新的能力，從過去只能簡單利用指令躍升至可以編寫針對性代碼的新級別，顯著降低了網絡犯罪的門檻，會激勵眾多入門級黑客使用ChatGPT發起攻擊。

ChatGPT存在着巨大的軍用潛力。美國國防部在2月8日使用ChatGPT生成了一篇建議成立新的反無人機特遣部隊的文章，更讓ChatGPT“從軍”問題變得不可忽視。

就目前ChatGPT所展現的能力看，其在軍中大有用武之地。首先，基於ChatGPT的人工智能技術可為軍人提供實時翻譯服務，實現不同國籍士兵之間的無縫溝通。

其次，可以簡化參謀工作流程。在任務分析階段，分析人員需要處理和融合信息以生成一張通用作戰圖（COP）。為完成該任務，分析人員需要對接收的信息進行分類並確定當前態勢以構建動態更新的COP，還需要檢測己方系統是否被欺騙。在生成式人工智能技術的輔助下，戰術級系統可以根據接收到的情報報告的自動生成態勢分析報告。在計劃執行過程中，生成式人工智能技術可被用於自動生成總結報告。在層級指揮結構中，上級需要接收下級的信息，而如果沒有總結報告，上級將接收過量信息，從而降低工作效率。傳統的總結報告需要從原始文檔中複製和粘貼相關內容，現在可以利用ChatGPT的摘要生成式方法來進行總結。

ChatGPT技術還擁有強悍的數據分析和挖掘能力，能夠依託大數據庫和學習能力，總結歸納事物發生、發展、變化的規律，這對於指揮官進行決策具有重要參考價值。通過對情報的瞭解分析，ChatGPT技術能夠結合作戰對手的特點、己方的優缺點，給出有一定價值的參考建議，並提供快速準確的威脅評估，指揮官則可在瞬息萬變、爭分奪秒的戰場上做出最準確可靠的判斷和決策。

另外就是輿論戰。在一個數字化程度不斷提高的國家，ChatGPT這樣的聊天機器人可能被數百萬人用來進行交流，以獲取新聞和信息，並參與政治討論。如果這個聊天機器人是由一個敵對的外國行為者設計和編程的，就有可能被用來傳播虛假和煽動性的信息，以達到操縱輿論、分化民眾、破壞對手國家團結的目的。