AI威脅和金融行業的好處在FS-ISAC文件中概述-彭博社

一家銀行在抵押貸款決策中使用了有偏見的人工智能輸出。一家保險公司的人工智能生成了種族同質化的廣告圖片。人工智能系統的用户抱怨體驗不佳。

這些只是金融機構在試圖擁抱新興技術時人工智能可能帶來的潛在風險之一，根據週四發佈的一系列論文。這些論文由FS-ISAC發佈，這是一個在全球金融機構之間分享網絡安全情報的非營利組織，還強調了其他一些陷阱，包括深度偽造和“幻覺”，即當大型語言模型提供錯誤信息並將其呈現為事實時。

儘管存在這些風險，FS-ISAC概述了人工智能對金融公司的許多潛在用途，比如改善網絡安全防禦。該組織的工作概述了人工智能為銀行、資產管理公司、保險公司和其他行業提供的風險、威脅和機會。

“它彙集了我們的最佳實踐、我們的經驗、我們的知識，並結合了其他論文的見解，利用了其他論文的見解，”FS-ISAC的戰略與創新副總裁邁克·席爾弗曼説道，FS-ISAC代表金融服務信息共享與分析中心。

儘管在金融領域，人工智能被用於惡意目的的方式相對有限。例如，FS-ISAC表示，黑客已經通過ChatGPT等大型語言模型精心製作了更有效的網絡釣魚郵件，旨在欺騙員工泄露敏感數據。此外，深度偽造音頻已經欺騙客户轉賬資金，席爾弗曼説。

FS-ISAC還警告稱存在數據污染的問題，即將輸入AI模型的數據操縱，以產生不正確或偏見的決策，並出現了可以用於犯罪目的的惡意大型語言模型。

然而，據報告稱，這項技術也可以用於加強這些公司的網絡安全。Silverman表示，AI已經顯示出在異常檢測方面的有效性，即在計算機系統中識別可疑的異常行為。此外，該技術可以自動化日常任務，如日誌分析，預測潛在的未來攻擊，並分析來自社交媒體、新聞文章和其他公共來源的“非結構化數據”，以識別潛在的威脅和漏洞。

為了安全地實施AI，FS-ISAC建議對這些系統進行嚴格測試，持續監控它們，並在發生事故時制定恢復計劃。該報告提供了關於公司可以採取的兩種路徑的政策指導：一種是採用技術的寬容態度，另一種是更謹慎的態度，對AI的使用施加嚴格限制。報告還包括供應商風險評估，提供了一份問卷，可以幫助公司根據供應商對AI的潛在使用來決定選擇哪些供應商。

隨着技術的不斷發展，Silverman預計這些文件也將得到更新，以在關注和不確定性的時代提供行業標準。

“整個系統建立在信任之上。因此，工作組提出的建議是保持這種信任的事項，”Silverman説道。