亞馬遜、Meta等公司在拜登警告後推出人工智能安全措施 - 彭博報道
Justin Sink, Anna Edgerton
七家領先的人工智能公司將在白宮週五舉行的活動上推出新的自願保障措施，旨在最大程度減少濫用和偏見在新興技術中的存在。
喬·拜登總統將與來自亞馬遜公司、Alphabet公司、Meta平台公司、微軟公司和OpenAI等公司的高管一起出席，這些公司承諾遵守透明度和安全承諾。
根據協議，公司將在發佈新的人工智能系統之前對其進行內部和外部測試，並要求外部團隊檢查其系統是否存在安全漏洞、歧視傾向或對美國人權利、健康信息或安全構成風險。
這些公司，包括Anthropic和Inflection AI，還承諾與政府、民間社會和學術界分享信息以改善風險緩解，並在漏洞出現時報告漏洞。領先的人工智能公司將在他們生成的材料中加入虛擬水印，提供一種幫助區分真實圖像和視頻與計算機生成圖像的方法。
這一方案正式化並擴大了一些主要人工智能公司已經在進行的步驟，這些公司已經看到公眾對他們新興技術的巨大興趣，但同時也擔心相應的社會風險。
Meta全球事務總裁尼克·克萊格表示，這些自願承諾是“確保為人工智能建立負責任的監管框架的重要第一步，它們為其他政府樹立了榜樣。”
“人工智能應該造福整個社會。為了實現這一目標，這些強大的新技術需要負責任地構建和部署，”他在週五早些時候發佈的聲明中説道。
白宮助手錶示，這一承諾有助於平衡人工智能技術的承諾與風險，並是數月來在幕後進行密集遊説的結果。許多高管預計將出席週五在白宮舉行的會議，他們曾在五月份與拜登總統和副總統卡瑪拉·哈里斯會面，屆時政府警告行業需要負責確保其技術的安全。
“我們必須確保公司在開發產品時進行壓力測試，特別是在發佈之前，以確保它們不會出現意外後果，比如容易受到網絡攻擊或被用來歧視某些人，”白宮幕僚長傑夫·齊恩茨在接受採訪時説道。“而重要的一點是——你將在所有工作中看到這一點——他們不能自己給自己打分。”
自願保障
然而，這些承諾是自願的事實表明了拜登政府在引導最先進的人工智能模型遠離潛在濫用方面的侷限性。
這些指導方針並未規定需要獲得特定外部專家的批准才能發佈技術，公司只需要報告——而不是消除——可能存在的不當使用或偏見風險。水印系統仍需開發，而且可能難以在內容上打上標記，以防惡意行為者輕易刪除，從而在互聯網上散佈虛假信息。
除了公眾輿論之外，幾乎沒有其他機制能夠迫使承諾將這些技術用於醫學和氣候變化等社會優先事項。
“這是一個不斷變化的目標，”齊恩茨説。“因此，我們不僅必須執行和實施這些承諾，還必須想出下一輪承諾，因為技術在變化。”
齊恩茨和其他政府官員還表示，如果沒有國會立法來幫助政府制定更嚴格的規則並撥款以聘請專家和監管人員，要跟上新興技術將會很困難。
助手們表示，人工智能引起的擔憂是總統近幾個月來的首要任務。拜登經常在與經濟、國家安全和衞生顧問的會議中提及這個話題，並與內閣部長進行對話，告訴他們要優先考慮技術如何與他們的機構交叉。
在與外部專家的對話中，拜登被警告稱，像Meta的Facebook和Instagram以及字節跳動有限公司的TikTok這樣的算法社交媒體已經展示了人工智能可能帶來的一些風險。一位外部顧問建議總統應該將這個問題視為上世紀90年代的克隆問題，需要明確的原則和防護措施。
白宮表示在週五的聲明之前與20個國家的政府進行了磋商。
“我認為各方都願意或渴望儘快行動，因為這就是人工智能的運作方式 — 你不能對這項技術掉以輕心，”副幕僚長布魯斯·裏德説。
所有這些努力，然而，都落後於由企業競爭激發的人工智能發展的步伐，以及對中國創新可能超越西方進步的擔憂。
即使在歐洲，歐盟的人工智能法案遠遠領先於美國國會通過的任何法案，領導人們也意識到在制定約束性法律之前，需要公司自願承諾。一位白宮官員估計，至少需要兩年時間才能讓歐洲的法規開始影響人工智能公司。
這也讓那裏的官員們要求公司自我監管。在過去三個月與科技高管的會議中，歐盟內部市場專員蒂埃裏·布勒頓呼籲人工智能開發者同意簽署一項“人工智能協議”以設定一些非約束性的界限。