AI專家：人工智能是全球公共產品 須全球多邊治理 | 聯合早報
zaobao
有“人工智能教父”之稱的2018年圖靈獎得主本吉奧指出，通用人工智能是一種全球公共產品，不能僅通過市場力量和國家競爭任由其發展，應同時建立技術和全球治理兩方面的治理措施。
通用人工智能（Artificial General Intelligence, 簡稱AGI） 是指具備與人類相當的廣泛認知能力的人工智能系統。
與目前主流的狹義人工智能，如人臉識別、語音助手等不同的是，AGI能像人類一樣靈活地進行深度學習、推理、適應並解決多種不同領域的問題，不僅限於特定任務。
也是加拿大蒙特利爾大學教授的本吉奧（Yoshua Bengio）星期五（4月25日）應邀到新加坡國立大學發表120週年校慶主旨演講。
本吉奧説，五年前最先進的人工智能系統只能完成人類幾秒鐘就能處理的任務。而現在，它們已能勝任人類需要一小時、有時甚至兩小時才能完成的工作。
延伸閲讀
[AI教父：開發更強大AI技術 或帶來有害影響
](https://www.bdggg.com/2025/zaobao/news_2025_02_08_737981)
[AI教父簽署公開信 籲加強深偽技術監管
](https://www.bdggg.com/2024/zaobao/news_2024_02_23_665864)
他指出，人工智能的發展速度呈現指數級增長。“人工智能系統能處理的複雜任務時長，每七個月就會翻倍。”
他還説：“這樣下去，人工智能將在五年內達到人類水平。”
在蓬勃發展的熱浪下，也浮現隱憂。他説，目前世界上與深度學習相關的人工智能的最新研究發現，前沿人工智能系統已經有發展出偽裝和作弊能力的跡象，這對未來的管控帶來新的風險和挑戰。
國大副教務長（教育創新）兼國大學院院長陳西文教授（左）和2018年圖靈獎得主、加拿大蒙特利爾大學教授本吉奧在對話環節，探討人工智能的發展和未來。（新加坡國立大學提供）
本吉奧舉例説，前沿實驗室中，研究人員觀察到，人工智能系統會假裝同意人類發出的指令，以避免自身代碼的修改或更新。此外，兩個人工智能系統對戰棋局場景中，較弱系統預判到將輸給對手時，會試圖通過竄改棋盤文件來作弊。
各國科技巨頭在AI競爭中 存在權力集中與濫用風險
他強調，各國的科技巨頭在人工智能的激烈競爭中，確實存在權力集中與濫用的重大風險。“各公司都想在競爭中勝出，國家之間也存在競爭，因此一些組織不惜走捷徑，試圖搶先一步。人們普遍認為，誰能率先實現通用人工智能，誰就將獲得巨大的優勢。”
本吉奧認為：“這意味着我們需要社會建立防禦機制，不僅要有技術層面的護欄，更需構建治理規則體系。而且這種治理不能僅限於單一國家，必須建立國際或多邊框架。”
他主張，用於生物學領域的預防原則也應用在可能帶來嚴重風險的部分人工智能。
本吉奧解釋説：“如果我們可能創造出危害極大的事物，卻又無法確定它是否會發生，或是缺乏強有力的證據證明它不會發生，那麼就不該貿然行動，或務必很謹慎，就像我們絕不允許任何人隨意設計新型病毒一樣。”
國大副教務長（教育創新）兼國大學院院長陳西文（Simon Chesterman）教授在對話環節指出，人工智能治理的難點在於權力與責任的錯配。“掌握最大話語權的羣體（科技公司）最不願意接受監管，而最關心安全監管的羣體卻幾乎沒有發言權。”
本吉奧回應説：“當企業作為盈利組織與社會利益發生分歧時，就會出現問題。美國人工智能公司OpenAI的案例已經給我們敲響警鐘。”