微軟（MSFT）、谷歌（GOOGL）和OpenAI計劃承諾AI安全 - 彭博報道

美國領先的人工智能公司將於週五公開承諾遵守白宮的要求，據知情人士透露。

包括微軟公司、Alphabet Inc.旗下的谷歌和OpenAI在內的公司預計將承諾負責地開發和部署人工智能，此前白宮曾警告這些公司必須確保技術不會造成傷害。

但這些承諾是自願的事實表明了拜登政府在引導最先進的人工智能模型遠離潛在濫用方面的侷限。國會花了數月時間舉行信息會議，以更好地瞭解人工智能，然後起草任何立法，而立法者可能永遠無法就約束性法規達成共識。

預計週五白宮公佈的承諾清單將得到參加了與副總統卡瑪拉·哈里斯舉行的五月會議的頂尖人工智能公司的承諾。在那裏，她和白宮高級官員告訴這些公司，他們有責任確保其技術的安全。

“監管過程可能相對緩慢，在這裏我們不能等待一兩年，”白宮幕僚長傑夫·齊恩茨上個月在一次播客採訪中説。

閲讀更多：白宮表示支持哈里斯會議後的人工智能新規則

根據白宮文件草案，這些公司的承諾將在國會通過解決這些問題的立法時到期。這些準則側重於生成式人工智能，例如OpenAI的熱門ChatGPT，以及最強大的現有人工智能模型，甚至更有能力的未來模型，根據這份草案。

文件據熟悉此事的人士稱，可能在週五之前發生變化。白宮發言人拒絕置評。

即使人工智能技術的開發者們對其潛力充滿熱情，也警告説它帶來了意想不到的風險。拜登政府此前曾提供了其發展的指導方針，包括來自國家標準與技術研究所的風險管理框架，該框架是通過與行業領袖和其他人數月的接觸而制定的。

根據草案文件，白宮將在週五發佈的文件中提出八項關注安全、安全性和社會責任的承諾。其中包括：

• 允許獨立專家嘗試推動模型產生不良行為 —— 這個過程被稱為“紅隊測試”。
• 與政府和其他公司分享信任和安全信息。
• 在音頻和視覺內容上使用水印技術，以幫助識別由人工智能生成的內容。
• 投資於網絡安全措施。
• 鼓勵第三方發現安全漏洞。
• 報告社會風險，如不當使用和偏見。
• 優先研究人工智能的社會風險。
• 使用最尖端的人工智能系統，即所謂的前沿模型，來解決社會最重大的問題。

微軟、OpenAI 和谷歌的發言人都拒絕置評。

世界各國政府呼籲建立類似於防止核戰爭的協議的全球人工智能治理。例如，七國集團今年早些時候在日本廣島承諾協調其對這項技術的態度，英國計劃在年底之前舉辦一次國際人工智能峯會。

所有這些努力，然而，遠遠落後於由企業競爭和對中國創新可能超過西方進步的恐懼所推動的人工智能發展的步伐。

這讓西方領導人目前要求公司自我監管。

即使在歐洲，歐盟的人工智能法案遠遠領先於美國國會初期的監管努力，領導人們也認識到在強制法律出台之前需要公司自願承諾。在過去三個月與科技高管的會議中，歐盟內部市場專員蒂埃裏·布勒頓呼籲人工智能開發者同意一個“人工智能協定”來設定一些非約束性的界限。