學者主張人工智須先治理後發展 業界呼籲“先讓子彈飛” | 聯合早報

根據中國工業和信息化部的數據，中國人工智能（AI）核心產業規模已近6000億元人民幣（1114億新元），相關企業超過4500家，初步構建了較為全面的人工智能產業體系，產業鏈覆蓋芯片、算法、數據、平台、應用等上下游關鍵環節。

超大規模市場、海量數據資源，以及豐富應用場景是中國發展AI的獨特優勢。但在一派欣欣向榮的景觀下，關於生成式人工智能治理問題的討論也在進行。今年7月的中共二十屆三中全會就首次提出，要完善生成式人工智能發展和管理機制，建立人工智能安全監管制度。

據説，已故美國前國務卿基辛格生前最後一次訪問北京，也當面籲請中國國家主席習近平重視AI可能脱離人類掌控而造成的災難，力勸中美在治理AI的問題上合作。

AdChoicesADVERTISING

AI的發展與治理之辯也是《聯合早報》所舉行第六屆“新中論壇”的主題之一。新加坡與中國的學者和企業領袖圍繞AI，以“人工智能與中國經濟”“克服挑戰，開闢未來之路”為主題展開閉門兩場圓桌討論會。

第六屆“新中論壇”10月11日在中國蘇州舉行。論壇分上午的公開環節和下午的閉門圓桌討論會，與會專家學者對AI應該“先發展”或“先治理”各抒己見，以下內容均經發言人同意發表。　　

延伸閲讀

[楊莉明：東西方科技領域若分裂 混亂局面將分散注意力

](https://www.bdggg.com/2024/zaobao/news_2024_10_12_713138) [中國學者朱旭峯：人工智能導致財富重新分配 但不能因噎廢食

](https://www.bdggg.com/2024/zaobao/news_2024_10_12_713106) 學者：AI發展一旦踩上加速油門 可能剎車失靈

復旦大學計算機科學技術學院教授、上海市數據科學重點實驗室主任肖仰華在會上指出，AI的快速發展勢必要求現有的社會生產關係、人類情感倫理和價值觀念去適應與調整。然而，人類社會關係、情感倫理和價值觀念的調整是相對緩慢的，與技術的快速升級換代形成極強烈反差，這是AI帶來的首要挑戰。　　

此外，AI也帶來技術平權與普惠問題、技術成癮問題，以及反噬人類等三大挑戰。

肖仰華一一解説。如果AI等先進技術掌握在少部分人和企業手裏，很容易形成不正當競爭優勢，更可能成為集權的工具；人類更難以掙脱出AI所編織的“虛假情感世界”。而技術如果失控，還可能對人類造成反噬，“用好了它，是巨大的生產力；用不好它，是巨大的破壞力”。

他擔心，AI除了“善用”，和造假、侵犯隱私等易識別的“惡用”，很多人可能還沒意識到其長期潛在的“濫用”風險：如果不經審慎研判而不加限制地大規模應用AI，“你再想回頭，恐怕技術對社會生產關係已造成重塑，你已經回不了頭了”。

他提問：“我們現在大量的使用生成式人工智能去做寫作，我們的寫作能力會不會倒退，人類的智力會不會就下降？……AI發展一旦踩上加速油門，是有可能剎車失靈的。”　

肖仰華主張，邊發展邊治理“都不夠”，“我們可能要未雨綢繆，先想好它可能帶來哪些深遠的負面影響，把治理的應對策略提前想好，然後再去發展。”

新加坡國立大學商學院教授、商業大數據分析中心聯席主任龐嚴也提醒，AI模型的訓練過程中，可能存在數據隱私泄露和數據版權問題。

他指出，過去20多年裏，AI發展遠遠快過政府監管政策發展，現在的形勢是監管跟不上技術的步伐。“比如説人工智能應用在武器領域，如果沒有很好的監管，這的確會是一個大的災難。”

AI業者：企業如被捆住手腳 “你沒治理它就死掉了”

同場發言的多名中國AI公司高管，則提出不同觀點。從企業界的角度看，業者更擔心AI的功能全被“掐得很死”，導致商業模式無法跑通，企業被捆住手腳，“你沒治，它就死掉了”。

其中一名業界人士呼籲，生成式AI現階段只是賦能人類，而不是取代人類，“我們還需要讓子彈飛一會兒。”

上海交通大學計算機科學與工程系教授、思必馳公司聯合創始人、首席科學家俞凱則強調，“發展還是第一位的”，即時應對（reaction）才是關鍵。

“AI不是沒有壞的影響，但影響可控……出事不要緊，要緊的是能多快速度自動檢測出問題。”俞凱指出，生產力的發展無法被阻止，不應過度擔憂而把發展視作主要矛盾，現在最主要的矛盾是AI在生產生活中應用得還不夠，而不是管得不夠。

另有學者以中國改革開放的經驗為借鑑，認為“先發展、後治理”的思路更適用於AI發展。

復旦大學智慧城市研究中心副主任胥正川説，中國改革開放的成功，證明分散化、離散化的市場化道路是正確的。他並提醒，幾乎所有創新的科技都不是政府規劃出來的，要放手讓勇於創新、敢於冒險的民營企業去闖去試。

胥正川認為，由於技術發展太快，政府只能提供框架和規則，無法深入管理。因此應通過相互競爭，相互交流和學習的市場主體之間的碰撞，並通過政府的協調和監管，來實現對AI的治理。　

新加坡科技設計大學副校長戴禮翔則建議，應把人工智能的焦點放在可以改變社會的三個機會上，包括中小型企業的轉型、消除邊緣地區的窮困、提高老百姓的負擔能力和生活質量。“新加坡和中國可以合作，研究怎麼解決這些AI帶來的問題。”

陳昌鳳：數據質量成中國AI發展挑戰

除了AI給人類倫理、甚至人的定義所構成的衝擊。與會者也注重談到數據質量的問題。清華大學新聞與傳播學院教授陳昌鳳就指出，中國互聯網數據的質量、可供性和禁用性問題，正在給中國AI發展造成挑戰。

她舉例説，不久前有人在百度上搜索1998年至2005年期間馬雲、馬化騰和雷軍的信息，得到零條結果，凸顯中國互聯網數據存在嚴重根基問題。而中國AI應用使用外國數據，“裏面包含的文化和價值觀都已經拿過來”。

陳昌鳳本人也曾在使用“中國最著名的應用軟件”時，發現其對“國慶日”的定義是7月4日，那其實是美國國慶日。

她指出，AI明顯地顯示出一種不協同的發展，技術和應用、應用和應用之間的距離在加大，“文化層面上，已經明顯呈現出人工智能的價值觀分裂。美國和歐洲是分裂的，中國則有中國的人工智能價值觀。”

語錄：人工智能應先發展還是先治理

支持“先發展”的業界人士：小孩子可能開始的時候也是滿嘴髒話，或者説調皮搗蛋是完全有可能的，但是可以慢慢地把他修正過來。

主張審慎的“治理派”與會者：AI像一個需要被教導和培育的孩子，但誰來教導它？誰來監測它的發育成長？ 誰來設定它的行為的邊界，並解釋原因？誰是“老師”？誰來決定這個“老師”是否合格？