AI監管潮來襲，各國開始畫紅線_風聞

圖 路透/Dado Ruvic

“無所不能”的聊天機器人ChatGPT還是迎來了人類的挑戰。近期生成式人工智能（AI）因數據安全、倫理問題等遭遇多國監管“圍剿”，令市場投資狂歡暫歇。中國網信辦亦就生成式AI服務管理辦法徵求意見，在支持AI算法等技術自主創新的同時為監管規則畫“紅線”。

分析人士認為，作為硬科技領域的重要一環，中國將繼續大力支持AI技術的發展，但會在價值觀、隱私安全等領域劃出明確的紅線，儘可能避免行業“走彎路”。此外對於AI領域的監管全球亦沒有成熟的先例，料將維持監管和發展並行。

艾媒諮詢CEO兼首席分析師張毅表示，網信辦的最新意見稿主要是從國家安全、企業和行業發展，以及對用户隱私安全保護的角度，進行了一定程度上的規範。在防止AI繼續出現問題造成危害，和規範行業發展讓新技術造福社會兩方面，做出了比較有意義的探索。

“中國對AIGC（人工智能生成內容）的監管，應該更多的是要規避掉在意識形態和價值觀領域的風險，以及由此引發的社會治理次生風險，這是國內的AI技術發展的前提。” 透鏡諮詢創始人況玉清則認為。

他並指出，在上述領域劃出的明確監管紅線並不是新的，只是將已有紅線擴大到AIGC領域的適用範圍。尤其是“當AI成為大國提升國際競爭力工具的時候”，它更承載着文化和價值觀輸出的使命，這一點“可能也是東西方都會共同關注和考慮的”。

中國國家互聯網信息辦公室週二發佈徵求意見稿稱，國家支持人工智能算法、框架等基礎技術的自主創新、推廣應用、國際合作，鼓勵優先採用安全可信的軟件、工具、計算和數據資源。

意見稿並稱，利用生成式人工智能產品向公眾提供服務前，應當向國家網信部門申報安全評估；利用生成式人工智能生成的內容應當體現社會主義核心價值觀；要尊重知識產權、商業道德，不得利用算法、數據、平台等優勢實施不公平競爭。

“監管文件的出台雖然可能會規範行業發展，但未必十分有利於促進行業的高效發展。”文康律所網絡安全與數據合規專委會主任馬清泉律師認為，在國內AI行業發展還沒有取得特別顯著成果的背景下，該文件可能會增加企業管理和應對監管的成本，且可能在行業前期的產品開發上帶來有一些限制。

今年2月微軟旗下OpenAI發佈的聊天機器人ChatGPT掀起投資熱潮，中國互聯網公司正爭相推出競品。百度已於3月中旬率先發布類ChatGPT產品“文心一言”；阿里巴巴週二亦發佈最新大規模語言模型“通義千問”。

中國中證人工智能指數今年迄今已經累漲逾四成，但本週以來則累跌3.5%。

**多國“圍剿”**

面對人工智能的急速進步，3月末意大利政府數據保護局率先宣佈暫時禁用ChatGPT，並對該人工智能應用涉嫌違反隱私規則展開調查。此外據華爾街日報報導，拜登政府已經開始研究是否需要對ChatGPT等人工智能工具進行審查。

張毅指出，目前全球主流國家對於AIGC是持相對慎重的態度去對待，這也不無道理，反映出AI技術在發展的可能方向上，和現有的法律、監管與用户權益保護等存在一定衝突，或出現未來無序發展的可能。

“對於AI的監管現在全球沒有成熟的先例，大家都在探索，短期內估計難有特別大的突破或全球共識。”況玉清認為，各國技術、產業地位不同，對待AI的態度也會有很大不同。

英國政府上月底發佈的人工智能白皮書稱“避免可能扼殺人工智能創新的嚴厲立法”。印度電子信息技術部上週亦在一份聲明中稱，人工智能存在道德問題和風險，但“政府沒有考慮制定法律或規範該國人工智能的發展。”

**AIGC是“雙刃劍”**

ChatGPT的躥紅在近期已經引發對就業危機、數據泄露等問題的擔憂。近期中國官媒亦發聲降温，稱熱捧AI需防泡沫，監管部門要加強對“蹭熱點”“炒概念”及股價操縱行為的監控處置和打擊力度。

中國支付清算協會週一發佈倡議稱，支付行業從業人員謹慎使用ChatGPT等工具，不上傳國家及金融行業涉密文件及數據等。

“大模型一定是個雙刃劍。”張毅表示，AIGC可能存在的風險主要還是來自於智能化程度過高，對於數據收集、內容產出，以及對信息安全等都會有一定程度上的風險；這些風險既可能會出現在違法犯罪，也可能會出現在對青少年或用户的不良信息引導等方面。

網絡安全公司Darktrace最新研究報告顯示，在生成式人工智能和ChatGPT等工具的幫助下，網絡攻擊者正在利用新技術來冒充可信的組織和聯繫人，包括髮送破壞性的商業電子郵件、網絡釣魚等。研究人員觀察到，今年1-2月其客户收到的“新型社會工程攻擊”增加了135%，與ChatGPT的廣泛流行相對應。

社會工程攻擊通常指的是通過與他人的合法交流，來使其心理受到影響，做出某些動作或者是透露一些機密信息。

馬清泉解釋稱，AI的判斷是基於算法，而這些算法的輸出結果又是建立在之前的數據之上。因此，如果數據存在偏差，相應AI的輸出結果就存在着誤差風險，一旦涉及到教育、投資、醫療等領域，就會產生較大的風險。

“如果使用境外平台，在人機交互問答的過程中，中國境內用户分享的個人信息、商業秘密等數據也會存在跨境流出的風險。”他一併指出。

但張毅並認為，對於AI行業的管理不能放任不管，也不應該“一棍子打死”，“把優勢發揮的更優，把短板及時給設防護欄，恐怕是對AIGC產業未來發展的一個最有效，或者是最明智的一個佈局思路。”

中國工信部部長3月末表示，要聚焦人工智能、生物製造等重點領域，強化企業創新、培育新型產業鏈供應鏈。中國科技部同自然科學基金委近期啓動“人工智能驅動的科學研究”(AI for Science)專項部署工作，佈局前沿科技研發體系。

“所有行業、所有應用、所有軟件，所有服務都值得基於新型人工智能技術重做一遍。”面對新一輪AI智能浪潮，阿里巴巴首席執行官張勇在週二的阿里雲峯會上表示，面對智能化的時代所有公司都在同一起跑線上，“技術的創新、技術的進步是永無止境，也永不止步的。”

路透