紐約市長埃裏克·亞當斯計劃如何擴大紐約市對人工智能的使用 - 彭博社

紐約市將通過其網站MyCity Business試點使用AI聊天機器人回答有關開設或經營業務的問題。

攝影師：Prasit photo/Moment via Getty Images

紐約市市長埃裏克·亞當斯週一公佈了一項採納和監管人工智能的計劃，強調了這項技術“改進我們政府各部門的服務和流程”的潛力，同時也承認了其中的風險。

該市還宣佈正在試點使用AI聊天機器人回答有關開設或經營業務的問題，通過其網站 MyCity Business。

紐約市政府機構已經報告使用了超過30種工具符合該市對算法技術的定義，包括將學生與公立學校匹配、跟蹤食源性疾病爆發以及分析犯罪模式。隨着技術的進步，算法偏見、錯誤信息和隱私問題的影響變得更加明顯，該市計劃就新的和現有應用制定政策。

“僅僅鼓勵機構部署更多基於AI的解決方案是不夠的；我們還必須為他們提供框架和支持，以減輕濫用、不準確或偏見和歧視的風險，”該市首席技術官馬修·C·弗雷澤在該計劃中寫道，該計劃是亞當斯在市政廳宣佈的。

New York的戰略是由技術和創新辦公室制定的，該辦公室在城市機構代表和外部技術政策專家的參與下制定，它本身並沒有制定任何關於人工智能的規則和法規，但制定了一個時間表和藍圖來創建這些規則。它強調了需要教育和獲得紐約市民和市政府員工的支持。在接下來的一年內，該市計劃開始與公眾舉行聽證會，並向市政府機構簡要介紹如何以及為什麼在日常運營中使用人工智能。該市還給自己一年的時間開始試點新的人工智能工具，並用兩年的時間制定人工智能合同的標準。

通過創建其首個全市範圍的聊天機器人，紐約展示了人工智能改善政府網站和服務的潛力。這個聊天機器人在MyCity Business網站的2000多頁信息上接受了訓練，它將能夠回答關於合規性、商業激勵、貸款和許可等主題的問題。

“多虧了這個聊天機器人，你的新執行助手，你再也不必浪費時間在頁面之間尋找你需要的信息了，”紐約市小型企業服務專員Kevin Kim在週一的新聞發佈會上説。“不再搜索，不再訪問多個網站，不再有失效鏈接。它不會讓你等待，因為它在這座不夜城，全天候都可用。”

經驗教訓

專家表示，使用算法工具指導政策決策可能會很棘手，因為這些算法訓練的數據可能會反映偏見併產生不公平的結果。特別是當應用於招聘、住房和執法時，人工智能工具被發現會對婦女和有色人種進行歧視。雖然人工智能有潛力取代一些人類勞動，幫助城市應對人員短缺問題，但也可能導致人們失業。

為了應對這些挑戰，紐約市計劃在未來一年內擴大其現有的算法報告規定，併為人工智能工具創建風險評估流程。關於這些建議將會是什麼樣子，目前還沒有具體細節；該計劃列出了諸如“可靠性、公平性、偏見、問責制、透明度、數據隱私、網絡安全和可持續性”等考慮因素。

該市最新的計劃是基於其2021年的人工智能戰略。但科技與創新辦公室表示，該市有望比過去的管理層採取更果斷的行動。2018年成立的自動決策系統工作組在一定程度上未能產生影響，部分成員和批評者表示這是因為缺乏對現有自動化技術的洞察。

科技與創新辦公室發言人雷·勒讓德表示：“亞當斯管理團隊的人工智能行動計劃得益於在前一屆管理層在管理人工智能方面取得的進展和經驗教訓。”他表示，儘管出於善意，以前的工作組“缺乏真正深入探討圍繞人工智能的緊迫問題所需的工具或可見性。”自那時起，該市的科技機構已經整合到科技與創新辦公室下，勒讓德表示，由於其集中式治理模式，該辦公室“更有能力開展這項工作”。

專家參與

今年的計劃要求成立由市政府代表和外部專家諮詢網絡組成的人工智能指導委員會。

參與制定計劃的專家對紐約科技潛力表示樂觀。代表該市科技行業的Tech:NYC總裁兼執行董事朱莉·薩繆爾斯表示：“尤其是在像紐約這樣規模龐大的城市中，政府所面臨的許多問題，主要是需要以何種規模運作。” “這正是人工智能最能幫助的問題：例如，更快地讓更多人受益。”

斯蒂凡·維爾胡斯特，紐約大學研究教授兼The GovLab聯合創始人表示，特別是在財政緊縮期間，依靠人工智能為城市提供了快速做出基於證據的決策並用更少資源的機會。他提到的潛在用例包括確定最需要經濟適用房的區域，以及利用數據應對公共衞生緊急情況。

儘管紐約市表示其人工智能藍圖是主要城市中首個類似的，但其他地方領導人正在制定自己的監管措施和技術願望清單，比如生成式人工智能。

薩繆爾斯表示，該市“完善”的計劃表明其理解規劃人工智能在地方治理中的角色的緊迫性。薩繆爾斯説：“曾經有一個時期，科技無所不能，也有一個時期，科技只會出錯，這兩種情況都不是這場對話的好起點。我很高興看到這份報告完全站在這個譜的中間，” 薩繆爾斯説。“這份報告認識到這裏有很多機會，但我們必須注意確保我們不會在推出過程中出錯。”