擰緊新技術發展的“安全閥”（評論員觀察）——人工智能熱的冷思考②

重視AI安全，不是給這輛疾馳向未來的列車套上枷鎖，而是鋪平軌道，讓其沿着健康可持續的方向，跑得更快、更穩

人工智能浪潮奔湧向前，帶來前所未有的發展機遇，也帶來不容忽視的風險挑戰。“聲音克隆”導致電信詐騙防不勝防，“換臉視頻”引發的造謠誹謗時有出現，“AI幻覺”讓生成內容真假難辨……今天，技術的“雙刃劍”效應愈發具象化。經濟合作與發展組織數據顯示，2024年AI風險事件總數比2022年增加了約21.8倍，並呈快速發展態勢。

有人認為，當下正值AI搶位發展關鍵期，不應做過多限制；有人則覺得，技術問題會隨發展自行得到解決，不必過早干涉。其實不然。要看到，一方面，“先放手後治理”，可能讓“小風險”逐步疊加，變為“大問題”，治理代價會更大；另一方面，規範並不等於“設限”，如果放任技術沿着有違公序良俗、有悖產業規律的方向狂奔，有可能導致錯失發展良機。重視AI安全，不是給這輛疾馳向未來的列車套上枷鎖，而是鋪平軌道，讓其沿着健康可持續的方向，跑得更快、更穩。

習近平總書記指出：“要把握人工智能發展趨勢和規律，加緊制定完善相關法律法規、政策制度、應用規範、倫理準則，構建技術監測、風險預警、應急響應體系，確保人工智能安全、可靠、可控。”落實好這一重要要求，才能平衡技術發展與安全，推動人工智能更好造福社會。

技術每前進一步，治理就要跟進一步。時時有邊界，技術方能在合理框架內有序前行，不越界；規矩跟得上，技術才會在正確軌道上穩健發展，不逾矩。技術發展的歷程，也應是政策法規不斷完善的過程。

持續織密安全防護網，既要為發展劃定紅線，也要為創新留足空間。從發佈《生成式人工智能服務管理暫行辦法》，實行包容審慎和分類分級監管；到公佈《互聯網信息服務深度合成管理規定》，要求給相關AI內容“進行顯著標識”；再到印發《人工智能生成合成內容標識辦法》，推進從生成到傳播全鏈條治理……近年來，以網絡安全法、數據安全法等為依據，AI領域的政策文件不斷出台，推動人工智能治理沿着法治軌道向前邁進。始終跟隨技術前進的步伐動態完善政策法規，方能實現促進發展和依法管理的有機統一。

企業是推動人工智能發展的重要力量，也是直面用户的第一道安全防線，必須擔負起主體責任。人工智能技術日新月異，但無論形勢如何變化，情況如何複雜，“技術向善”應始終是企業追求的原則。以生成式人工智能為例，騰訊宣佈，對違規“AI洗稿”發文行為的主體進行限制和清理；抖音明確，對不當利用AI生成虛擬人物的內容嚴格處罰；今日頭條披露，2024年處理低質AI內容超93萬條。企業“立規矩、明邊界”，既有效防範了風險，也促進了生成式人工智能健康發展。企業增強責任感，不斷擰緊“安全閥”、繫緊“安全帶”，確保技術進步服務於人、造福於人，才能在激烈市場競爭中贏得信任和支持。

發展的問題要靠發展來解決。以技術對技術，以技術管技術，才能真正築牢安全的底線。針對AI造假，合合信息推出新型檢測技術，可捕捉圖像篡改過程中留下的細微痕跡，慧眼辨偽；面向網絡詐騙，浙江一團隊開發“電子標識”，嵌入的音視頻若被用於AI加工，就會觸發“引信”，破壞生成後的內容；奇富科技研發智能風控系統，2024年發佈AI反詐提醒13.8萬次，勸阻潛在被騙者超2.9萬人。善用“技防”，以技術之盾抵禦技術之矛，“通過魔法打敗魔法”，安全防護會更及時、更智能、更高效。

在規範中釋放活力，在創新中築牢防線，這是保障人民羣眾合法權益的必需，也是推動我國人工智能健康有序發展的必然。

《 人民日報 》（ 2025年06月16日 09 版）