中國試圖通過國家控制和對科技公司的支持來規範人工智能 - 彭博社

北京正準備在本週實施對人工智能服務的全面新規，試圖在國家控制技術的同時提供足夠支持，使其公司能夠成為有競爭力的全球競爭對手。

政府發佈了要求平台提供商在推向市場之前註冊其服務並進行安全審查的24項指南。七個機構將負責監督，包括中國國家互聯網信息辦公室和國家發展和改革委員會。

最終的規定比四月份的原始草案要寬鬆，但它們顯示中國像歐洲一樣，正在推進對過去30年中可能是最有前途的技術之一的政府監管。相比之下，美國儘管行業領袖警告人工智能帶來“滅絕風險”，但在公開聽證會上，OpenAI的Sam Altman敦促國會介入，但並沒有認真考慮任何立法。

“中國啓動得非常迅速，”卡內基國際和平基金會的研究員Matt Sheehan説道，他正在撰寫一系列關於這個主題的研究論文。“他們開始建立監管工具和監管能力，因此他們將更有準備監管技術的更復雜應用。”

中國的法規超出了西方民主國家所能想象的範圍。但它們也包括一些在美國等地得到支持的實際步驟。

例如，北京將要求在合成內容上標明明顯的標籤，包括照片和視頻。這旨在防止欺騙，比如一段在線視頻中的南希·佩洛西被篡改成看起來喝醉了。中國還將要求任何引入AI模型的公司使用“合法數據”來訓練他們的模型，並根據需要向監管機構披露這些數據。這樣的要求可能會安撫那些擔心他們的作品會被AI引擎利用的媒體公司。此外，中國公司必須提供一個明確的機制來處理公眾對服務或內容的投訴。

儘管美國歷史上對監管採取了不干預的態度，給了硅谷巨頭成為全球巨頭的空間，但這種策略在生成式AI方面存在嚴重的危險，人工智能專家、香港城市大學兼職教授Andy Chun表示。

“人工智能有潛力在我們才剛剛開始意識到的方式上深刻改變人們的工作、生活和娛樂方式，”他説。“如果AI的發展在沒有充分監督的情況下繼續進行，它也會對人類構成明顯的風險和威脅。”

美國與中國的AI監管比較

來源：彭博社研究

在美國，聯邦議員們提出了各種各樣的AI監管，但努力仍處於早期階段。美國參議院今年夏天舉行了幾次AI簡報會，幫助成員們在制定監管規定之前瞭解技術及其風險。

六月，歐洲議會通過了AI法案的草案，該法案將為人工智能系統設立新的監管措施和透明度要求。在該立法生效之前，歐洲議會、歐盟成員國和歐洲委員會必須就最終條款進行協商。

北京花了多年時間為即將於週二生效的規則奠定基礎。國務院，即中國的內閣，於2017年發佈了一份人工智能路線圖，宣佈發展該技術為優先事項，並制定了一個時間表，以制定政府監管規定。

像CAC這樣的機構隨後與中國政法大學的張凌翰等法律學者就人工智能治理進行了磋商，根據希恩的説法。隨着中國關於生成式人工智能的草案指南演變為最新版本，監管機構、行業參與者和學者之間進行了數月的磋商，以平衡立法和創新。北京方面的這一舉措在一定程度上受到了人工智能的戰略重要性以及希望在其他政府之上獲得監管優勢的驅動，深圳中國香港大學國際事務研究所監管與全球治理中心主任尤傳滿説。

現在，從百度公司到阿里巴巴集團和商湯科技等中國最大的人工智能參與者開始行動。北京將人工智能定為十二項技術優先事項之一，並在經過兩年的監管打擊後，政府正在尋求私營部門的幫助來支撐疲軟的經濟並與美國競爭。在ChatGPT引發全球人工智能狂潮之後，領先的科技高管和有抱負的企業家們投入數十億美元到這一領域。

在激烈的全球競爭背景下，缺乏發展是最不安全的事情，中國政法大學學者張寫道關於這些指導方針。

在今年的一系列活動中，阿里巴巴、百度和商湯都展示了人工智能模型。商湯首席執行官徐立進行了最華麗的演示，其中包括一個聊天機器人，可以根據英文或中文提示編寫計算機代碼。

然而，中國公司仍落後於OpenAI和谷歌的母公司Alphabet等全球領先者。他們可能會很難挑戰這些競爭對手，尤其是如果美國公司只受自身監管的話。

“中國正試圖在幾個並非必然兼容的不同目標之間保持平衡，”喬治城大學安全與新興技術中心的主任海倫·託納説。“一個目標是支持他們的人工智能生態系統，另一個目標是維護社會控制，保持審查和控制中國信息環境的能力。”

商湯集團聯合創始人兼首席執行官徐立來源：在美國，OpenAI 對信息幾乎沒有控制，即使信息是危險或不準確的。其 ChatGPT 編造了虛假的法律先例，並向公眾提供製造炸彈的指導。一名喬治亞州的廣播主持人聲稱這個機器人生成了一份虛假投訴，指控他侵吞資金。

在中國，公司必須更加小心謹慎。今年二月，總部位於杭州的元宇智能在其ChatYuan服務上線僅幾天後便停止了服務。據在線流傳的截圖顯示，該機器人將俄羅斯對烏克蘭的攻擊稱為“侵略戰爭” —— 這與北京的立場相違背 —— 並對中國的經濟前景提出了質疑。

現在這家初創公司已經完全放棄了ChatGPT模型，專注於一種名為KnowX的AI生產力服務。公司負責人徐亮表示：“機器無法實現100%的過濾，但你可以向模型中添加愛國主義、值得信賴和謹慎等人類價值觀。”

閲讀更多關於AI的內容：
監管AI？這在美國可能意味着什麼：QuickTake
億萬富翁和官僚動員中國參與與美國的AI競賽
歐盟在AI監管方面走在前列：Big Take Podcast
為什麼AI是中美科技競爭的下一個焦點：QuickTake

擁有威權權力的北京遵循的規則與華盛頓不同。當中國機構責令科技公司並處罰時，這些公司無法反擊，通常會公開感謝政府的監督。在美國，大型科技公司僱傭大批律師和遊説者來對抗幾乎任何監管行動。弗吉尼亞大學媒體研究副教授艾恩·科卡斯表示，與利益相關者之間的激烈公開辯論並行，這將使得制定有效的AI監管變得困難。

在中國，人工智能正開始進入龐大的審查制度，以確保該國互聯網上不出現禁忌和有爭議的話題。從技術上講，這並不意味着容易。“香港中文大學的You表示，ChatGPT和類似的人工智能創新中最吸引人的創新之一是其不可預測性或超越我們人類干預的創新。在許多情況下，這超出了平台服務提供商的控制。”

一些中國科技公司正在使用雙向關鍵詞過濾，利用一個大型語言模型來確保另一個語言模型不包含任何有爭議的內容。一位由於政治敏感性而拒絕透露姓名的科技初創公司創始人表示，政府甚至會對人工智能服務如何標記數據進行抽查。

“可能最引人入勝和令人擔憂的時間線是，審查是通過專門開發的新型大型語言模型進行的，”哈佛大學伯克曼-克萊因中心的研究員Nathan Freitas説。

歐盟可能是最進步的，保護個人免受這種過度干預。6月通過的草案法確保隱私控制並限制面部識別軟件的使用。歐盟提案還要求公司對其服務可能帶來的風險進行一些分析，比如對健康系統或國家安全。

但歐盟的做法引發了反對意見。OpenAI的Altman表示，他的公司可能會“停止運營”在實施過於繁瑣法規的國家內。

華盛頓可以向中國監管機構學習的一點是“有針對性和迭代”，Sheehan説。“建立這些工具，他們可以不斷改進，隨着不斷的監管。”

AI聊天機器人ChatGPT的複雜人類化回覆幾乎看起來像魔法。這也是問題的一部分。Alex Webb告訴我們更多