《 Wall Street Journal: Salesforce推出新技術工具以彌合"AI信任鴻溝"

Salesforce表示，其新技術將通過保護專有數據等方式，幫助客户企業安全使用ChatGPT等生成式AI工具。

對Salesforce而言，説服企業信息技術負責人相信生成式人工智能在其數字環境中使用是安全的至關重要，因為該公司正致力於維持今年啓動的業務轉型計劃。其最新財報顯示盈利與收入均超華爾街預期，首席執行官馬克·貝尼奧夫特別強調了公司在應對近期銷售放緩和激進投資者施壓時的成本削減舉措。

該軟件公司於週一宣佈新平台。此舉正值首席信息官及其他企業高管們日益擔憂如何在使用生成式AI時避免讓專有數據成為公開大型語言模型的訓練素材。摩根大通和威瑞森等公司已禁止員工使用公開版ChatGPT。威瑞森表示擔心員工輸入ChatGPT的客户信息或源代碼可能喪失所有權。

在紐約市週一舉辦的活動中，Salesforce高管們闡述了生成式AI對企業存在的風險——包括難以控制企業數據的訪問權限——同時推出了名為"愛因斯坦GPT信任層"的新工具，稱該工具有助於解決此類擔憂。

貝尼奧夫在活動期間表示，與他交談過的每一位CEO都提到了“AI信任鴻溝”——即他們“渴望快速推進”這項技術的願望與大型語言模型在企業環境中引發的問題之間的矛盾。

“我們在AI領域最重要的工作就是打造可信且符合倫理的人工智能，”貝尼奧夫強調，“從我們的視角來看，一切的核心在於信任。”

Salesforce表示，該新工具能清除用户提示（即員工輸入AI模型的內容），並阻止模型保留如個人身份信息等客户數據。該工具可應用於企業自有的大型語言模型，或來自亞馬遜、Anthropic等供應商的模型。這項新技術是Salesforce AI Cloud套件的一部分，該套件將生成式AI嵌入其旗艦客户關係管理軟件、旗下通訊應用Slack以及其他數據可視化、營銷和客户服務工具中。

“信任是一個被低估卻至關重要的話題，”IT研究與諮詢公司Futurum Research創始合夥人兼首席分析師丹尼爾·紐曼指出，“Salesforce意識到生成式AI應用本身的差異化程度，遠不及用户對數據與技術的信任來得重要。”

儘管如此，部分科技高管仍持謹慎態度。支付公司FleetCor Technologies全球首席信息官斯科特·杜福爾表示，儘管公司使用Salesforce軟件，但他不打算率先採用其新AI功能。“作為一家龐大複雜的機構，我們至少要看到明確的性能驗證後才會測試新方案，”杜福爾説道。

其他大型科技公司也推出了工具來幫助客户使用生成式AI。甲骨文週二表示，計劃與AI初創公司Cohere聯合發佈一項生成式AI服務，該數據庫公司稱該服務將包含數據所有權保證和數據溯源工具。微軟今年早些時候將其Copilot生成式AI嵌入商業軟件，並表示其模型能保障企業的安全與隱私控制。

在主要技術供應商中，人們希望生成式AI能重振IT支出——由於企業在經濟不確定性中削減技術預算，該領域已遭受打擊。首席信息官們還一直承受着來自首席財務官和董事會精簡開支的壓力。

根據標普全球市場財智的預估，今年全球基於生成式AI技術的收入預計將達到37億美元，到2028年將增長至360億美元。

在週一的活動中，Salesforce高管們探討了生成式AI對企業帶來的風險。圖片來源：Belle Lin/華爾街日報IT研究與諮詢公司高德納的副總裁分析師Kyle Davis表示，對首席信息官而言，Salesforce的信任工具可視為管理多個大語言模型（LLM）的"中央控制面板"。企業會希望使用不同LLM來處理編寫代碼或起草郵件等任務，因此擁有統一控制面板很有益處，Davis説道。

應用分析公司Amplitude的首席數字和信息官切特娜·馬哈詹表示，在使用任何大型語言模型之前，她需要了解供應商及其合作伙伴如何處理客户數據。

總部位於加州聖何塞的電信設備製造商Infinera的高級副總裁兼首席信息官威廉·帕克斯指出，IT領導者現在就需要探索生成式人工智能，否則可能面臨落後的風險。

帕克斯稱，Infinera正在與微軟的生成式AI技術合作，但在更新使用政策出台前已暫停內部使用ChatGPT。他擔憂的問題包括公司數據無意間轉移到雲端，以及處理生成式AI工具產生的錯誤數據或"幻覺"。

Salesforce表示其新技術能擦除用户提示（即員工輸入AI模型的內容），並防止模型保留客户數據。圖片來源：《華爾街日報》Cam Pollack分析師表示，與提供解決方案以減輕生成式AI相關企業數據風險的初創公司和小型供應商相比，成熟的企業技術公司在獲得客户認可方面具有優勢，尤其是對新興技術而言。紐曼認為，Salesforce的聲譽加上其掌握的大量關鍵客户數據，可能有助於贏得客户信任。

Salesforce表示，其AI Cloud套件按年合約計算每年費用為36萬美元。該公司的信任工具將於本月投入使用，而其他嵌入生成式AI的工具將在今年或明年推出。

聯繫Belle Lin，郵箱：[email protected]；聯繫Angus Loten，郵箱：[email protected]

更正與補充根據標普全球市場財智的數據，基於生成式AI技術的全球收入預計到2028年將增長至360億美元。本文早期版本錯誤地稱該數字到2028年將增長至260億美元。（已於6月13日更正）