SEC主席加里·根斯勒討論人工智能對金融的風險 - 彭博社

蓋瑞·根斯勒

攝影師：賈裏德·索雷斯，彭博商業週刊蓋瑞·根斯勒希望談論的不是加密貨幣。在與他稱之為充斥着欺詐和詐騙的行業搏鬥了兩年之後，美國證券交易委員會主席將注意力轉向了一種讓整個金融界興奮不已的不同技術：人工智能。

與數字貨幣和非同質化代幣不同，華爾街最高監管者認為人工智能是值得炒作的。根斯勒表示：“這是本代人最具變革性的技術。”“這裏有一個‘實質’，我們可以稍後再談加密貨幣。我們正在將我們人類日常所做的許多事情自動化。”

大規模自動化可能對由美國證券交易委員會監管的市場上交易的數萬億美元資產產生 級聯影響。由人工智能生成的勸誘、投資建議和推薦具有從根本上改變金融的能力。是的，它們可以幫助公司更好地為客户服務，但如果不加約束，人工智能可能被用來掩蓋事情出錯時誰該負責，根斯勒警告説。

與大多數華盛頓官員不同，根斯勒對這項技術有着悠久的歷史。他説，他第一次開始思考人工智能是在1997年俄羅斯國際象棋大師加里·卡斯帕羅夫輸給IBM超級計算機深藍時。作為他高中國際象棋隊的前成員，根斯勒表示，他印象深刻。

他很快放棄了高盛合夥人的利潤豐厚的職位，轉而投身政府工作。在接下來的十五年裏，根斯勒在比爾·克林頓的財政部任職，擔任國會助手，最終成為奧巴馬政府的頂級衍生品監管者，處理了從安然公司到全球金融危機的災難。

作為麻省理工學院的教授，根斯勒研究並撰寫了關於人工智能的文章。攝影師：貝隆貝格商業週刊的賈裏德·索雷斯離開華盛頓後，根斯勒在麻省理工學院任教，並再次轉向人工智能。根斯勒回憶起2019年走進麻省理工學院教授、世界頂尖機器學習專家亞歷山大·馬德里的辦公室，詢問如何最好地瞭解這項技術。馬德里遞給他一本名為《深度學習》的800頁教科書，講述人工智能背後的數學知識。根斯勒説：“幾個月內我都沒回到他的辦公室，我知道這是一次考驗。” 他盡力閲讀了一些內容，兩人之間建立了學術友誼。

“説實話，我以為那會是我最後一次見到他了，”目前休假從麻省理工學院到OpenAI工作的馬德里説。“他明白人工智能將影響事物，這是我們需要了解的技術。”

根斯勒繼續研究和撰寫關於人工智能的文章。他在麻省理工學院的任職以發表了他的2020年論文《深度學習與金融穩定》，與一名學生合著，論述了深度學習（人工智能的一個子集）對金融系統構成的風險。該論文認為現有的監管體制無法應對這種危險。

在風險之中：當每個主要交易公司都使用人工智能時，“這些模型，無論是有意還是無意，都會相互協調和交流，以更好地優化它們的結果，” Gensler寫道。然後還有一個可能性，即這些模型都會開始執行相同的策略，導致更大的波動和不穩定性。

很明顯，自2021年回到華盛頓以來，Gensler一直在遵循自己的策略。作為SEC主席，他經常談到了新人工智能和機器學習工具的積極和消極後果。（他説SEC本身正在使用這項技術，但拒絕具體説明如何使用。）

Gensler對人工智能的批評並不是針對技術本身。相反，他表示，他擔心的是它可能會使人們難以理解決策的原因。這些擔憂讓人想起他對金融領域新技術出現提出的其他問題。

他認為，很多所謂的去中心化金融實際上並不是真正的去中心化——它仍然只是人們試圖向投資者推銷賺錢的想法。同樣地，他説，人工智能並不像它看起來那麼人為。關鍵在於人們如何應用它。“當人工智能在棋局中與你對弈時，你難道不認為它們有意要擊敗你嗎？”他問道。“總會有人類在某個時候將客觀函數組合在一起”來創建機器學習工具和人工智能驅動的聊天機器人。欺詐就是欺詐，Gensler喜歡説，無論技術有多麼擅長掩蓋這一事實。

七月份，根斯勒成為首批提出人工智能規則的監管機構之一。根據該提案，交易公司和資金管理人必須確定他們對人工智能或預測數據的使用是否存在利益衝突：他們是在利益最大化客户還是以客户利益為代價來增加利潤？一個財務顧問可能會使用一個推薦高風險股票的算法給一個不瞭解情況的人。這可能違反了資金管理人為客户利益行事的職責。這是算法的錯還是顧問的錯？

德尚特律師事務所舊金山合夥人馬克·佩洛表示，根斯勒“試圖基於理論進行監管”，因為目前這些問題大多是推測性的，或者最壞的情況下是新興的。“SEC可能從加密貨幣中得出的一個教訓是，如果他們在監管方面落後於行業，行業將定義辯論。這可能是為什麼你會看到這種基於理論的人工智能監管。”

根斯勒表示，他正在考慮如何利用人工智能進行市場監控以及公司應如何披露其使用。人工智能引發的問題不會輕易解決。“這將是2032年或2028年的危機，事後報告將真正涉及到”涉及機器學習的問題。