《華爾街日報》為您解答關於人工智能的所有疑問

如今，人工智能似乎無處不在。專家們表示，它將對一切事物產生深遠影響。

但許多人仍然對這項技術感到困惑。

我們詢問了《華爾街日報》的讀者對人工智能有哪些疑問。他們提出了很多問題。許多人對它的影響、風險以及如何最好地利用它造福人類表示困惑。

以下是對其中一些問題的回答。

我真的不理解人工智能以及它的發展方向。請解釋一下它是什麼。

人工智能是一個廣泛的術語，涵蓋多種技術，因此定義各不相同。但可以簡單地理解為：它是一種數字技術，主要通過分析輸入或遇到的信息中的模式，來模擬人類智能的分析能力。

這意味着它可以快速解釋大量信息，解決複雜問題，或控制複雜的技術流程。

早期展示類似思維的機器的一個例子是1997年IBM計算機深藍擊敗國際象棋世界冠軍加里·卡斯帕羅夫，這是人工智能的前身。如今，人工智能已融入我們的生活。它為你提供亞馬遜上的產品推薦和Netflix上的視頻推薦。它為蘋果的Siri和亞馬遜的Alexa提供支持。科學家們使用人工智能設計藥物，零售商提供客户服務，製造商優化生產。

那些“聊天機器人”AI系統又如何呢？

這些系統讓我們能就幾乎任何話題提問，並以對話形式即時獲得答案。根據使用的聊天機器人，它們可以撰寫定製論文報告、根據你輸入的食材生成食譜、編寫軟件代碼、根據描述生成圖像、解數學方程——甚至創作詩歌、劇本和歌詞。

與早期大多數AI不同，它們通過互聯網向所有人開放，並提供免費版本。這使AI技術得以覆蓋更廣泛的用户羣體。其中包括OpenAI的ChatGPT、谷歌的Bard、微軟的 Copilot（原Bing Chat）以及Anthropic的Claude AI。

這些新型AI為何能回答幾乎所有類型的問題？

這些被稱為生成式AI或大語言模型的強大計算機系統，通過“訓練”吸收了海量信息——數千億詞彙。想象一下，如果你能閲讀互聯網上幾乎所有內容，並具備複述記憶的能力。這正是這些AI系統的運作方式，其素材來自數百萬網站、數字化書籍雜誌、科學論文、報紙、社交媒體帖子、政府報告等來源。

這些系統將文本分解為單詞或短語，併為每個部分分配編號。通過由精密計算機芯片構建的神經網絡（模擬人腦神經元結構），它們藉助數學公式在這些文本片段中發現模式，並學會預測單詞序列中的下一個詞。隨後利用自然語言處理技術，它們能夠理解我們的提問並作出回應。

這對普通民眾意味着什麼？我不知該感到不安、恐懼還是歡迎。

或許三者兼有。積極的一面是，相比網絡搜索返回的雜亂鏈接，AI聊天機器人提供的信息更簡潔、精準且實用，其類人對話能力令人稱奇。

但存在重大缺陷。首先，AI的思考方式與人類截然不同****。“這並非真正的智慧，它根本不理解自己所言，“東北大學體驗式人工智能研究所執行主任烏薩馬·法亞德本月在接受《華爾街日報》“萬物皆未來"播客採訪時表示。

法亞德指出，由於AI運作類似自動補全工具，它可能錯誤猜測應答中的下一個詞，更會把這個錯誤詞彙"作為輸入基礎進行疊加”，從而放大錯誤。

此外，若訓練材料包含網絡盛行的陰謀論、偏見或虛假信息，AI可能會照單全收。

此外，訓練文本通常已有數月甚至超過一年的歷史，這可能導致回答過時。部分聊天機器人（如微軟的Copilot和谷歌的Bard）可通過互聯網搜索為基於訓練的信息補充最新內容。然而直到12月下旬，Bard仍告訴我邁克·彭斯正在考慮競選總統——而實際上他早在10月就已退出競選。

它們還會自相矛盾：當我諮詢另一款聊天機器人比較公路自行車與混合動力自行車時，它先是説明公路自行車採用下彎式車把，但幾行文字後又錯誤地聲稱它們使用平把。

關於AI"幻覺”——即編造內容卻以事實呈現的現象該如何理解？

當AI系統在其訓練材料中發現無關、錯誤或無意義的模式（專家稱之為"噪聲”）時，就可能產生幻覺。IBM指出：“AI幻覺類似於人類有時在雲中看到人形或在月球上看到面孔。”

幻覺可能誤導聊天機器人用户。6月，曼哈頓一名聯邦法官對兩位使用ChatGPT搜索既往案例以支持其人身傷害訴訟的律師處以罰款，因為他們引用的案例最終被證實純屬虛構。

即便是AI推廣者也可能中招。2月谷歌在線推廣Bard時，曾詢問該AI詹姆斯·韋伯太空望遠鏡的發現。Bard回答稱它拍攝了"首張太陽系外行星照片"，而實際上歐洲望遠鏡早在多年前就已實現這一成就。谷歌高管當時表示：“這充分説明（我們）需要嚴格測試。”

AI提供商正在採取哪些措施來減少幻覺現象？

他們表示，除其他措施外，正更加謹慎地篩選訓練材料中的信息。同時採用能更好理解AI如何處理文本的方法，並通過更廣泛的人工用户測試來檢測產生幻覺的傾向。

AI系統發佈後，提供商還會收集公眾關於錯誤答案及類似問題的反饋。

聊天機器人是否會警告用户可能提供錯誤信息？

許多聊天機器人在主頁上告知用户這一點。谷歌聲明"Bard可能展示不準確信息（包括人物相關），請二次核對其回覆"；OpenAI提示"ChatGPT可能犯錯，請核實重要信息"；微軟則稱"Copilot由AI驅動，可能出現意外或錯誤"。

人們利用AI製造虛假新聞報道、圖片或視頻怎麼辦？能阻止嗎？

這展現了AI令人不安的能力——政客能被P進未出席活動的照片，電視新聞主播的視頻可被篡改台詞。部分偽造內容逼真，連AI都難辨真偽。

7月白宮宣佈，主要AI提供商同意開發數字水印技術標記系統生成的圖像/內容。檢測偽造的軟件也已問世。Adobe則從反向着手，開發了認證圖像真實性的技術。

與此同時，人工智能供應商正試圖通過屏蔽請求中的特定詞彙或短語，來阻止虛假媒體和政治虛假信息的生成。例如，如果你要求Copilot生成一張著名政治家戴手銬的圖片，它會拒絕。微軟Copilot營銷總經理迪維亞·庫馬爾表示：“為了防止濫用，我們採取了許多預防措施和審核政策。”

然而，這些保障措施遠非萬無一失。所有這些意味着，如果你看到一些看起來不太對勁的圖片和其他媒體內容，你需要保持懷疑態度。

如果我們能看到人工智能在回答中使用的來源，比如報告中的腳註或引用，那不是更好嗎？

這將大有幫助，但存在技術障礙。由於人工智能聊天機器人的訓練方式——識別輸入材料中的模式，而不是簡單地充當事實倉庫——並且因為它們使用數學公式而非文本搜索來生成回答，所以很難提供其訓練中使用的文本引用。

我問Bard一個關於大型語言模型的問題。它給出了有用的信息，於是我要求查看其來源。Bard回應説：“我為之前關於LLMs的回答中沒有提供引用而道歉。以下是我用來彙編這些信息的一些資源，”隨後是一長串鏈接。但這些並不是Bard獲取信息的地方。谷歌的一位發言人告訴我，“產品團隊能給出的最好解釋是，你查詢中的引用是Bard試圖提供幫助”，但它們並不“反映用於訓練Bard的具體信息”。

同樣地，巴德有時會在回答中附帶網絡材料的鏈接，即使您並未要求提供。但谷歌另一位發言人再次強調：“這些鏈接並不代表訓練數據的直接來源。”

與此同時，微軟的Copilot將其必應傳統的網絡搜索功能與ChatGPT生成的AI文本相結合（微軟持有OpenAI的股份）。其回應也會提供某些材料的網絡鏈接。但微軟的庫馬爾表示，與巴德一樣，“這些引用僅來自並指向必應的網絡內容，而非訓練數據。”

還應考慮哪些其他措施來幫助我們辨別AI生成信息的質量？某種評級系統會有效嗎？

建立一個通用標準或組織來評估聊天機器人回答的準確性、相關性、避免幻覺等方面是個絕佳的主意。目前尚不存在這樣的標準，但已有多個學術團體和科技雜誌對AI進行評估。

加州大學伯克利分校的一個團隊創建了“聊天機器人競技場”，用於比較不同AI系統對同一問題的回答。《PC Magazine》對聊天機器人進行了測試，結果顯示，2024年以商業為導向的Jasper排名第一，其次是巴德、必應/Copilot和ChatGPT。

其他人則認為，聊天機器人應通過發佈“透明度報告”來公開披露其缺陷和侷限性，以此承擔起責任。“透明度報告”應描述其錯誤和限制。

2023年，谷歌、微軟、OpenAI等公司的高管及其他專家公開警告了人工智能的危險性。他們究竟在擔憂什麼？

這些專家擔心，隨着各類人工智能（不僅限於聊天機器人）能力不斷增強，它可能協助恐怖分子發動毀滅性網絡攻擊，或製造出引發大流行病的不可阻擋的生物製劑。他們甚至擔憂AI可能失控，接管軍事設施等關鍵系統，對人類構成生存性威脅。這種擔憂部分源於人類可能不再完全清楚這些系統的運作原理及其實際行為。

另一些專家則認為這些是源自1950年代計算機誕生初期的牽強科幻情節，強調人類終將保持對AI的最終控制權。

2023年3月，AI業界眾多人士聯署聲明呼籲暫停開發更強大的版本。這一暫停實現了嗎？

沒有。更先進AI系統的開發仍在繼續，甚至可能加速推進。

“AI企業正不計後果地競相構建越來越強大的系統，卻缺乏確保其安全性的可靠解決方案，“未來生命研究所執行主任安東尼·阿吉雷在9月表示。這個非營利組織正是此前公開信的發起方，該信件獲得超過3萬名研究人員、行業領袖及其他專家聯署支持。

有人認為政府需要監管人工智能，以儘可能確保其安全性。這可能包括哪些措施？

今年5月，微軟和OpenAI的總裁支持美國成立專門機構來許可主要人工智能系統的呼籲。與此同時，國會討論了制定保障措施的立法可能性，而拜登政府則在10月發佈了一項行政命令，要求最強大人工智能系統的開發者與政府分享其安全測試結果及其他信息。

11月，來自二十多個國家的代表齊聚英國布萊切利公園——二戰期間專家破解納粹德國密碼的地方，共同承諾在人工智能安全領域展開合作。他們在聯合聲明中表示：“這些AI模型最強大的功能可能引發嚴重甚至災難性的危害，無論是有意還是無意造成的。”

12月，歐盟就人工智能監管達成協議。其中一項條款要求AI系統披露用於訓練大語言模型的材料細節。

我聽過很多關於人工智能的末日預言，但它有哪些積極的應用？

人工智能正在推動或徹底改變醫學、科學、工業、教育和日常生活等諸多領域。

AI能通過分析X光片和核磁共振成像早期檢測疾病；在天文學中，它可通過處理望遠鏡數據幫助發現新行星；汽車的車道保持和自動剎車等駕駛輔助技術也依賴AI；它還助力物流公司優化路線，協助建築師設計建築。

華爾街用它來協助制定資產管理計劃，監管該行業的機構則用它來偵測欺詐行為。旅遊網站利用它提供航班和酒店的個性化推薦。在教育領域，它能提供虛擬輔導和個性化學習。

簡而言之，生活中未被人工智能觸及的領域正變得越來越少。

巴特·齊格勒是《華爾街日報》前編輯。可通過[email protected]與他聯繫。