頂尖人工智能公司加入政府努力制定安全標準 - 彭博社
Oma Seddiq, Mackenzie Hawkins
OpenAI是新成立的AI安全研究所聯盟的200多個成員之一。
攝影師:David Paul Morris/Bloomberg美國頂尖人工智能公司將參與政府主導的努力,旨在制定有關該技術的聯邦標準,以確保其安全和負責任地部署,商務部週四表示。
OpenAI,Anthropic,Microsoft Corp.,Meta Platforms Inc和Alphabet Inc.的Google是新成立的AI安全研究所聯盟的200多個成員之一,商務部長吉娜·雷蒙多表示。此外,還有Apple Inc.,Amazon Inc.,Hugging Face Inc.和IBM等公司。
行業頂尖公司將與商務部旗下的國家標準與技術研究所以及其他技術公司、公民社會團體、學者以及州和地方政府官員合作,制定有關人工智能的安全標準。
“拜登總統指示我們動用一切手段實現兩個關鍵目標:制定安全標準並保護我們的創新生態系統,”雷蒙多在一份聲明中表示。
隨着人工智能技術的快速發展並有望顛覆行業,主要科技公司一直在與拜登政府和華盛頓的政策制定者就人工智能監管進行接觸。聯邦官員尋求維護美國在人工智能發展方面的領導地位,意圖制定規則,既保護美國人免受諸如錯誤信息和侵犯隱私等危害,又促進該技術在醫療保健、教育和其他行業中推動進展。
“進步和責任必須手牽手。如果我們要制定關於安全和可信人工智能的共同標準,跨行業、政府和公民社會的合作至關重要,”Meta全球事務總裁尼克·克萊格在一份聲明中表示。“我們對成為這個聯盟的一部分並與人工智能安全研究所密切合作充滿熱情。”
此前:拜登簽署全面命令規範人工智能
週四的倡議是作為喬·拜登總統去年秋天簽署的全面行政命令的一部分,該命令要求商務部促進人工智能模型的安全、安全性和測試標準的制定,以及為人工智能生成的內容制定水印規則。
知名行業初創公司,包括Scale AI,為生成式人工智能模型提供訓練數據,以及Altana AI,利用人工智能繪製全球供應鏈地圖,也將參與制定安全標準。
“通過這樣做,我們不僅有助於負責任地使用人工智能,還加強了美國作為人工智能領域全球領導者的地位,”Scale AI公共部門總經理約翰·布倫南在一份聲明中表示。