華爾街警示人工智能新風險：幻覺問題與犯罪利用——彭博社

高盛集團、花旗集團 和摩根大通等華爾街公司正在警告投資者關於人工智能日益普及帶來的新風險，包括軟件幻覺、員工士氣問題、網絡犯罪分子的使用以及全球法律變化的影響。

銀行在年度報告中新指出的風險包括有缺陷或不可靠的人工智能模型、競爭加劇以及限制人工智能使用的新法規。例如，摩根大通在其2024年10-K報告中表示，人工智能可能導致“勞動力替代”，這可能會影響員工士氣和留任，並增加對具備必要技術技能的員工的招聘競爭。

過去幾年，銀行一直在年度報告中承認與人工智能相關的風險，但隨着金融行業越來越多地通過自己的軟件或第三方產品採用人工智能，新的擔憂正在出現。銀行在年度報告中表示，如果不跟上人工智能的最新發展，它們可能會失去客户和業務。但人工智能使用的增加也使它們面臨網絡攻擊和濫用的風險。

“建立適當的管理機制，確保人工智能以安全、公平和可靠的方式部署——這一點絕不能忽視，”埃森哲北美銀行和資本市場金融、風險與合規負責人本·肖頓在一次採訪中表示。“這不是一種即插即用的技術。”

銀行在試點技術時面臨風險，這些技術可能基於過時、有偏見或不準確的金融數據集構建。摩根大通的年報指出，在開發和維護具有最高“數據質量”標準的模型過程中存在諸多隱患。

花旗集團表示，當其在部分業務中部署生成式AI時，分析師可能獲得“低效、不充分或錯誤”的結果。根據其2024年年報，數據還可能存在不完整、偏見或失實問題，這“可能對其聲譽、客户、業務、經營成果及財務狀況產生負面影響”。

AI整合挑戰

高盛在最新年報中稱，儘管增加了對數字資產、區塊鏈和AI的投資，但日益激烈的競爭可能阻礙其及時整合AI技術以提升生產力、降低成本併為客户提供更優質的交易、產品和服務。高盛表示，這可能影響客户獲取與留存。

肖滕指出，在“高度不確定且快速演變”的環境中，金融機構還面臨數據隱私保護和監管合規的風險。2024年生效的《歐盟人工智能法案》為在該地區運營的眾多美國銀行制定了AI系統使用新規。

“該法案對在歐盟市場投放、投入使用各類人工智能系統確立了規範，”肖滕表示，“而美國及美國市場的前景尚不明朗。”

銀行正在結合使用自主研發和外部採購的人工智能工具。花旗集團正在推出一套能夠從公開文件中提煉關鍵信息的工具。摩根士丹利的AI @ Morgan Stanley Debrief正通過類ChatGPT界面處理程式化任務。高盛私人財富管理部門則運用AI評估投資組合並分析數十項底層持倉，首席信息官馬可·阿真蒂表示。

“採取負責任的態度並實施嚴格管控至關重要，這樣才能防範潛在的錯誤和幻覺問題，“他上週在紐約舉行的彭博投資大會上強調。

高盛CIO馬可·阿真蒂與彭博社的索娜莉·巴薩克在彭博投資論壇上闡述該行AI應用現狀及2025年展望。

摩根大通首席執行官傑米·戴蒙稱AI可能是該行面臨的最大課題。他在年度致股東信中將其變革潛力比作蒸汽機，表示這項技術將"幾乎增強所有工作崗位”。

延伸閲讀：戴蒙將AI變革影響類比蒸汽機

各銀行代表拒絕對年報披露內容以外的AI事項置評。

肖頓指出，隨着銀行加速佈局AI，網絡犯罪分子也在同步升級技術手段。埃森哲最新全球銀行業網絡安全高管調查（涵蓋600名受訪者）顯示，安全團隊難以跟上企業AI應用步伐。80%的受訪者認為生成式AI武裝犯罪分子的速度遠超銀行應對能力。

摩根士丹利在其最新年度報告中表示，生成式人工智能、遠程辦公和第三方技術整合可能對數據隱私構成風險。肖頓指出，居家辦公時使用人工智能帶來的風險將要求企業制定規則以避免問題。

“隨着攻擊者利用這項技術實施攻擊的速度快於銀行的應對能力，這些措施的重要性只會與日俱增。”他説道。