美髮佈政府機構AI新規 要求保障公眾權利和安全 | 聯合早報

美國政府發佈新規，要求使用人工智能的聯邦機構採取具體保障措施，以保護美國人的權利和安全。

路透社報道，白宮管理和預算辦公室星期四（3月28日）向聯邦機構發出指令，要求它們檢測、評估和測試人工智能（AI）對公眾的影響、降低歧視的風險，並提高政府使用人工智能的透明度。規定還要求，各機構必須進行風險評估，同時制定運營和治理指標。

另據美國廣播公司（ABC）報道，美國副總統哈里斯在新規宣佈前告訴記者：“如今我們將要求，當政府機構使用人工智能工具時，它們必須證明這些工具不會危及美國人民的權利和安全。”

總統拜登去年10月簽署了一項行政命令，援引《國防生產法》，要求對美國國家安全、經濟、公眾健康或安全構成風險的人工智能系統的開發者，在公開發布前與美國政府分享安全測試結果。星期四宣佈的新規定，是這項行政命令的一部分。

按照新規，截至12月1日，每個聯邦政府機構都必須制定一套具體的保障措施，用以指導一切涉及人工智能工具的工作。

延伸閲讀

[首屆AI安全峯會發布宣言 各國要共同管控風險

](https://www.bdggg.com/2023/zaobao/news_2023_11_04_644067) [聯合國通過首個人工智能決議 籲指導管控風險

](https://www.bdggg.com/2024/zaobao/news_2024_03_23_671814) 新的保障措施將確保航空旅客可以選擇不接受運輸安全管理局的面部識別，而不會耽誤安檢。當人工智能用於聯邦醫療保健以支持診斷決策時，人類必須監督“驗證工具結果的過程”。

另據哈里斯舉例説：“如果退伍軍人管理局想在退伍軍人醫院使用人工智能來幫助醫生的診斷，就必須先證明人工智能不會生成具種族或性別偏見的診斷。”

根據白宮公告，無法按要求實施保障措施的聯邦機構“必須停止使用人工智能系統，除非機構領導層能説明為何使用人工智能會增加整體安全或權利的風險，或者會對關鍵機構的運作造成不可接受的阻礙”。

哈里斯還説，根據新規，聯邦機構必須聘請一名首席人工智能官，該官員必須具備經驗、專業知識和權力，從而監督該機構使用的所有人工智能技術。

白宮計劃聘用100名人工智能專業人員，以促進人工智能的安全使用，並要求聯邦機構在60天內指定首席人工智能官。

此外，政府機構須公佈人工智能使用案例清單，報告人工智能使用指標，並在不構成風險的情況下，發佈政府擁有的人工智能代碼、模型和數據。