美國將成立自己的人工智能安全研究所

美國商務部長吉娜·雷蒙多在英國布萊切利公園舉行的AI安全峯會第一天發表講話，時間為2023年11月1日。英國政府主辦了AI安全峯會，彙集了國際政府、領先的人工智能公司、公民社會團體和專家… 閲讀更多

英格蘭布萊切利公園/華盛頓，11月1日(路透社) - 美國將成立一個AI安全研究所，評估所謂的“前沿”人工智能模型的已知風險和新興風險，商務部長吉娜·雷蒙多週三表示。

“我幾乎肯定會呼籲在座的許多在學術界和行業的你們成為這個聯盟的一部分，”她在英國AI安全峯會上的講話中説。

“我們無法獨自做到，私營部門必須挺身而出。”

雷蒙多補充説，她還將承諾美國研究所與英國安全研究所建立正式合作關係。

這一新舉措將由國家標準與技術研究所(NIST)負責，並領導美國政府在人工智能安全方面的努力，特別是對先進人工智能模型進行審查。

該研究所“將促進人工智能模型的安全、安全性和測試標準的制定，制定用於驗證人工智能生成內容的標準，併為研究人員提供測試環境，以評估新興人工智能風險並解決已知影響，”該部門表示。

美國總統喬·拜登週一簽署了一項人工智能行政命令，要求開發可能對美國國家安全、經濟、公共衞生或安全構成風險的AI系統在發佈之前根據《國防生產法》與美國政府分享安全測試結果。點擊此處閲讀更多。

該命令還指示各機構制定相關測試標準，並解決相關的化學、生物、放射性、核和網絡安全風險。