蒂姆尼特·格布魯呼籲關注人工智能的潛在風險——《華爾街日報》

作為人工智能倫理領域的頂尖研究者，蒂姆尼特·格布魯始終相信機器學習算法終將深度介入人類生活。但她沒料到這一切會來得如此迅猛。“我沒想到人們會説’用聊天機器人取代律師’，或是’出售與別人作品如出一轍的AI生成藝術’，“她在加州灣區的家中通過視頻説道，“更沒預料到搜索引擎會接入聊天機器人——這個瘋狂的想法如今正引發科技公司競相追逐。”

39歲的格布魯博士是非營利組織"分佈式人工智能研究所”(DAIR)的創始人與執行董事，該機構於2021年在麥克阿瑟基金會、洛克菲勒基金會、福特基金會等支持下成立。她的研究重點在於揭露AI程序如何強化社會固有偏見：“我們總討論算法，卻忽視數據集的構建者與構成者。“由於機器學習系統吸收的網絡語言與圖像數據自帶人類社會的缺陷：“當輸入數據存在偏見時，輸出結果就會放大這些偏見。”

這位科學家曾因在大科技公司內部堅持AI批判立場而聞名。2018年就職於微軟期間，她參與的研究發現商用面部識別系統對白人男性性別的識別準確率遠高於黑人女性，研究團隊指出這可能導致嚴重的誤判事件。此後在谷歌工作期間，她持續呼籲企業應提高AI模型缺陷的透明度。

她作為谷歌AI倫理學家的工作在2020年底突然中斷，原因是一項關於基於語言的AI程序缺陷的研究計劃發表。她表示谷歌解僱了她；谷歌則表示她辭職了，公司代表拒絕進一步置評。她現在認為科技公司不可信任來自我監管。

在埃塞俄比亞首都亞的斯亞貝巴長大的Gebru博士回憶説，她“是個十足的怪才”。由於對物理和數學的着迷，她以為自己會像兩個姐姐和五歲時去世的父親一樣成為一名電氣工程師。無論決定做什麼，她都感到有動力成為最好的。“這不是家裏的壓力，”她説，“而是期望。”

1998年埃塞俄比亞與鄰國厄立特里亞爆發戰爭時，Gebru博士出生在厄立特里亞的家庭尋求海外避難。在愛爾蘭短暫停留後，她與身為經濟學家的母親在馬薩諸塞州的薩默維爾團聚。Gebru博士已經能流利英語且學業優秀，因此當一些新公立學校的老師試圖勸阻她選修高級課程時，她感到驚訝。儘管她記得在榮譽物理課上取得了最高分，但她説老師暗示AP課程可能“太難了”。

Gebru博士隨後在斯坦福大學學習電氣工程，她通過電子鋼琴的實驗幫助她獲得了蘋果公司音頻工程師的實習機會。她與人共同創立了一家軟件初創公司——“我覺得在硅谷必須這樣做才能獲得一些尊重”——之後又回到蘋果，幫助開發了包括第一代在內的各種產品的信號處理算法。當她意識到自己對算法比對硬件更感興趣時，她回到斯坦福，於2017年在AI實驗室獲得博士學位。

作為研究生時，格布魯博士就對人工智能的潛力着迷。她工作的實驗室利用數千萬張圖像數據庫，教機器如何通過車輛推斷社區人口結構：皮卡車在共和黨支持率高的地區更受歡迎，而廂式貨車與更高犯罪率相關。然而在學業結束時，格布魯博士開始擔憂這些算法的應用場景。

2016年，《ProPublica》一篇關於美國法官在量刑時越來越依賴預測罪犯再犯風險算法的報道令她震驚。該軟件通常將未再犯的黑人被告標記為"高風險”，而將再犯的白人被告評為"低風險”。“我進入這個領域是因為喜歡構建東西，“她説，“但越是深入研究，就越意識到必須正視這類危害。”

格布魯指出，在AI開發熱潮中，科技公司對放緩腳步的呼籲置若罔聞。圖片來源：《華爾街日報》Nicholas Albrecht儘管格布魯博士承認與谷歌的決裂令她壓力巨大——“兩週瘦了20磅”，但她表示這揭示了科技巨頭對待AI倫理的態度。“現行機制缺乏激勵善行的動力，“她説。通過創立DAIR，格布魯博士希望在企業內部批評者可能感到噤聲的時刻發出剋制的聲音：“我認為內部人員真的很難進行有效抵制。”

格布魯博士指出，科技公司為趕製能與OpenAI的ChatGPT抗衡的產品（該技術即將應用於微軟必應搜索引擎），對放緩發展的呼籲置若罔聞。“我們的建議本質上是要求企業在發佈任何產品前，必須充分理解數據集內容並完整記錄，“她表示，“但這意味着需要投入更多時間、資源和犧牲利潤。沒有立法約束，誰會主動這樣做？“她期待出台法律，像監管汽車製造商和製藥公司那樣，強制科技企業證明其產品安全性。

在DAIR研究所，格布魯博士正致力於揭示人工智能的隱性成本——從消耗的巨大算力到數據標註工人的微薄薪資。“科技界擅長營造一切都在雲端的假象，但這些模型需要消耗大量人力、能源和水資源，“她強調，“環境代價可能極其高昂。”

但格布魯博士希望確保DAIR不僅是唱反調的機構。“我投身於此並非為了對抗個人或大企業，“她解釋道。她舉例説明DAIR研究者如何運用數千張高清衞星圖像，通過比對南非城鎮邊界與公共服務差異，深入剖析種族隔離的歷史遺留問題。

“單純分析危害並試圖緩解會讓人士氣低落，“她説，“我們更在積極探索技術應有的建設方向。”

本文發表於2023年2月25日印刷版，標題為《蒂姆尼特·格布魯》。