全球專家齊聚巴黎 聚焦監管人工智能 | 聯合早報

全球各地的專家呼籲對人工智能（AI）實施更嚴格的監管，以防止其超出人類控制。當前，全球領導人正齊聚巴黎，準備出席一場關於人工智能的高峯會議。

法新社報道，此次會議由法國和印度聯合舉辦，於2月10日至11日舉行。與2023年英國布萊切利公園及2024年韓國首爾的會議不同，法國此次將重點放在2025年人工智能的實際行動上，而非單純關注安全問題。

法國提出的願景是促使各國政府、企業及其他相關方支持人工智能的全球治理，並承諾推動可持續發展，而不是直接制定具有約束力的規則。

法國總統馬克龍的AI特使布夫羅（Anne Bouverot）説：“我們不想把時間都花在討論風險上，同時也有着非常現實的機遇方面需要關注。”

曾多次警示AI危險的美國生命未來研究所（Future of Life Institute）負責人、麻省理工學院物理學家泰格馬克（Max Tegmark）則表明，法國不應錯失這一引領全球行動的機會。

延伸閲讀

[AI教父：開發更強大AI技術 或帶來有害影響

](https://www.bdggg.com/2025/zaobao/news_2025_02_08_737981) [張帆：中美之間生成式AI的拐點與抉擇

](https://www.bdggg.com/2025/zaobao/news_2025_02_04_736973) 全球風險與人工智能安全準備平台GRASP的協調員侯德斯（Cyrus Hodes）説：“我們已經確定了約300種應對這些風險的工具和技術。”該調查結果將提交給經合組織以及人工智能全球夥伴關係（GPAI）成員。

專家警告：AI可能失控 呼籲加強監管

2月6日，由96位專家編寫，並獲得30個國家、聯合國、歐盟及經濟合作與發展組織（OECD）支持的《國際人工智能安全報告》正式發佈。報告指出，人工智能（AI）技術的快速發展帶來了從在線虛假信息到生物攻擊和網絡攻擊等多種風險。

報告協調員、知名計算機科學家本吉奧（Yoshua Bengio）指出：“越來越多的證據表明額外的風險正在浮現，例如生物攻擊或網絡攻擊。”他還對未來可能發生的“AI失控”問題表示擔憂，指AI系統或出於“自身的生存意志”採取自主行動。

泰格馬克則警告：“目前最大的問題是，許多掌握權力的人仍未意識到，我們距離實現通用人工智能（AGI）比找到控制它的方法更近。”

AGI是指在所有領域都能與人類相媲美甚至超越人類的人工智能。OpenAI首席執行長阿爾特曼曾預言，AGI或在幾年內實現。

泰格馬克指出：“最糟糕的情況是，這些美國或中國的公司失去對這一技術的控制，然後地球就由機器統治了。”

加州伯克利大學計算機科學教授拉塞爾（Stuart Russell）表示，他最擔心的是由人工智能控制的武器系統能夠自主決定攻擊目標和時間。