中關村論壇聚焦AI：如何破解“雙刃劍”？

中新社北京3月30日電 (陳杭 王夢瑤)當前，人工智能(AI)正以指數級速度重塑技術範式、產業格局與人類生活方式。當未來AI走向千行百業、千家萬户，如何兼顧發展與安全，實現技術可信、可持續？2025中關村論壇年會期間，中外嘉賓聚焦AI，探討其場景化應用與普惠化路徑。

隨着科技進步和產業變革的加速演進，推動AI發展已成為全球趨勢。世界知識產權組織總幹事鄧鴻森表示，當前，以AI、量子計算等為代表的數字技術專利申請量約佔全球總數的1/3。在生成式AI領域，2017年以來的專利申請量增長超800%，中國、美國、韓國走在前沿。

今年以來，伴隨DeepSeek等大模型的爆發應用，中國多地正積極發力AI產業。“AI是未來產業重要賽道之一，通過大模型突破為代表的技術創新，推動新質生產力的提升。”中國電子信息產業發展研究院未來產業研究中心所長蒲松濤提到，當前，北京、上海等地持續支持大模型前沿研究及應用發展，推出更多具有示範性和代表性的應用場景。

隨着AI大模型領域的飛速發展，通用能力不斷提升，各行業細分領域的大模型和垂直大模型如雨後春筍般湧現。本屆中關村論壇年會上，包括“AI+工業製造”“AI+生活服務”“AI+醫藥健康”等9個應用場景在內的北京人工智能創新應用成果正式發佈，系統展示AI賦能材料、醫藥等領域的前沿創新成果。

西門子中央研究院研發部總裁諾伯特·高斯(Norbert Gaus)表示，西門子正利用AI技術解決工業領域的多項挑戰，通過發揮機器人與AI深度融合等技術優勢，不僅顯著提升傳統制造業的創新力與小批量製造的響應速度，更通過加速產品從研發到市場的全過程，帶來更多創新產品。

隨着AI技術的進一步成熟、普及，其在加速賦能的同時，潛在的安全風險也在不斷增加。“在應用層面，大模型面臨信任壁壘等問題。”北京北方算力智聯科技有限責任公司研究院院長劉秦豫説，隨着AI規模擴大，其決策過程不透明、決策邏輯可解釋性差，可能在高風險領域造成嚴重後果，限制了社會層面對其的信任，也難以滿足業務和監管的需求，需要建立可解釋、符合道德規範的大模型，從而更安全、透明地服務千行百業。

面對機遇與挑戰並存的技術“雙刃劍”，人類已出招積極應對。歐盟《人工智能法案》已於2024年8月1日生效，通過法律手段規範AI技術的應用。在中國，涉網絡安全、數據安全等的法規陸續頒佈執行，《人工智能生成合成內容標識辦法》也將於今年9月1日起施行，標誌着中國在生成式AI領域邁出構建安全可信生態的關鍵一步。

韓國生成式人工智能研究院院長盧圭成表示，從世界範圍來看，中國、美國、歐盟等均聚焦AI技術研發與產業應用，但其背後的數據安全性、算法偏見與歧視等問題值得重視。一旦AI深度偽造與欺詐等問題被惡性利用，將為各行業帶來巨大風險，增加社會治理成本。因此，世界各國應加強國際合作，制定並完善AI安全監管制度，從而更好地引領產業創新，讓AI真正成為推動人類社會進步和創新的強大動力。(完)