AI存在信任問題，區塊鏈能幫忙嗎？——《華爾街日報》

區塊鏈最為人所知的是作為加密貨幣的賬本。一些科技供應商表示，該技術可以細緻追蹤人工智能訓練所用的數據，並在AI產生可疑結果時發揮作用。圖片來源：Omar Marques/Zuma Press確保人工智能算法安全、無偏見且準確的難度，正促使一些公司轉向一種曾被吹捧為具有變革性、但未能在商業中普及的技術：區塊鏈。

區塊鏈以支撐比特幣和其他加密貨幣而聞名，是一種數據結構，可以創建交易的數字賬本並在計算機網絡中共享。它利用密碼學使網絡中的每個參與者都能以安全的方式向賬本添加記錄，無需中央權威機構。一旦交易完成，區塊鏈就成為其不可更改的記錄。

考慮到這一點，數據分析公司FICO和專注於區塊鏈的初創公司Casper Labs表示，他們正在應用該技術來跟蹤構建和訓練AI算法的過程。

他們表示，這是一個及時且緊迫的應用，因為AI在各商業領域迅速擴散，而公司發現它們並不總能信任AI的輸出。與此同時，政府監管機構正加大壓力，要求公司提高算法的透明度和可審計性。

區塊鏈以往在供應鏈追蹤等商業應用中的嘗試未能獲得市場認可。當前人工智能的爆發式增長能否成為區塊鏈騰飛的東風，仍有待觀察。

費埃哲（FICO）首席分析官斯科特·佐爾迪表示，區塊鏈能精確記錄算法訓練數據的來源、時間、操作者，以及數據審核驗證的全流程。雖然AI建模企業通常也會追蹤數據軌跡，但區塊鏈技術能更高效地形成共享、一致且可信的審計記錄。

他特別指出，區塊鏈雖不能防止算法失控或產生偏見，但可提供可追溯的記錄來揭示問題根源。

“區塊鏈能將流程分解為可驗證的微型合約單元，確保每個步驟都經過細粒度驗證，“佐爾迪解釋道，“這種不可篡改性帶來了前所未有的透明度和可信度。”

區塊鏈並非解決AI模型可解釋性或“黑箱”問題的萬能鑰匙。佐爾迪強調，它雖不能直接解釋AI模型的具體決策邏輯，但能提供更完善的記錄來輔助溯源。

部分首席信息官持保留態度。支付公司Fleetcor Technologies的斯科杜·福爾認為：“我們支持加強AI治理，但使用區塊鏈就像拿着錘子找釘子。“他表示，區塊鏈需與現有AI模型解釋工具配合使用，才能真正提升系統可信度。

目前，FICO的工具正在內部使用，但計劃在今年晚些時候向客户推出。

此外，總部位於瑞士的Casper Labs正與IBM合作開發自己的工具，該工具將提供“版本控制”：首席執行官Mrinal Manohar表示，它會記錄在特定時間影響某個模型的數據和參數，如果公司開始發現其模型存在偏見或不準確，可以恢復到早期版本。

糾正算法中的偏見仍然是一個困難且耗時的過程，公司往往缺乏這樣做的系統和工具。

Manohar表示，Casper的工具目前處於測試階段，預計將在今年第三季度作為IBM的watsonx AI治理平台的集成產品上市，儘管它不會僅限於watsonx平台。AI治理平台試圖指導該技術的使用並管理與它相關的風險。

Manohar表示，區塊鏈的這種使用方式不太容易出現困擾早期使用的問題。例如，在供應鏈跟蹤中，公司已經有長期建立的跟蹤貨物的方法，轉而採用昂貴且複雜的區塊鏈很難推銷。但在AI治理中，不存在這種既定的方法，這給了區塊鏈成為行業標準的難得機會，Manohar説。

供應鏈方面的努力也因涉及大量供應商和參與方而進展不順，這些各方需要具備不同程度的技術能力來參與追蹤工作。但研究和諮詢公司Gartner的副總裁兼傑出分析師阿維娃·利坦表示，這項技術所需的參與者較少。

即便如此，這並不意味着區塊鏈在人工智能治理中的應用已準備好騰飛。

“這是個很棒的想法，只是我認為它超前於市場，”利坦説。她指出，許多公司在推進新項目時，歷史上並未將人工智能治理和風險管理作為重點。

“在重要性從1到10的等級中，對客户來説它可能排第三，”她説，不過她補充道，隨着生成式人工智能項目激增，其重要性正逐漸提升。

馬諾哈爾表示不認同該工具超前於市場的説法，並稱測試過該工具的企業技術負責人給予了積極反饋。

“如果企業現在沒有優先考慮人工智能治理和風險管理，我認為這是因為大多數企業不知道從何入手，而不是因為他們不關心或不認為這將成為優先事項，”他説。

軟件公司Globant北美區首席技術官尼古拉斯·阿維拉表示，他認為這些工具仍需證明自身價值。不過，他確實看到了這兩項技術融合的巨大潛力。

最終，“人工智能將解決區塊鏈的問題，而區塊鏈將解決人工智能的問題，”他説。

寫信給伊莎貝爾·布斯凱特，郵箱：[email protected]

刊登於2024年1月12日印刷版，標題為《區塊鏈被視為解決人工智能問題的方法》。