歐洲立法者通過具有里程碑意義的人工智能法案 - 《華爾街日報》
Kim Mackrael and Sam Schechner
這項由歐洲立法者通過的新法規適用於歐盟市場內所有AI產品,無論其開發地為何處。圖片來源:Jean-Francois Badias/美聯社布魯塞爾訊——歐洲立法機構通過了全球迄今為止最全面的人工智能法規,為AI系統開發者制定了廣泛規則,並對技術應用實施新限制。
歐洲議會週三投票表決,在去年12月與歐盟成員國達成政治協議後最終批准該法案。這些將在未來數年逐步生效的規則,禁止特定AI用途,引入新的透明度要求,並要求對高風險AI系統進行風險評估。
該法案出台之際,全球正圍繞AI技術的未來及其潛在風險與效益展開廣泛討論。隨着企業和消費者日益採用AI技術,埃隆·馬斯克上週起訴OpenAI及其首席執行官薩姆·奧爾特曼,指控其違背公司創始協議,將利潤置於AI造福人類之上。奧爾特曼曾表示AI開發需極度謹慎,同時藴含巨大商業潛力。
新法規適用於歐盟市場上的AI產品,無論其開發地點在哪裏。違規企業將面臨最高達全球營收7%的罰款。
參與該法律談判的意大利歐盟議員布蘭多·貝尼菲表示,《人工智能法案》是"全球首個為安全且以人為本的AI發展制定明確路徑的法規"。
雖然該法律僅適用於歐盟,但由於大型AI公司不太可能放棄擁有約4.48億人口的歐盟市場,預計將產生全球性影響。其他司法管轄區也可能以這項新法為藍本制定各自的AI法規,從而產生更廣泛的連鎖反應。
年利達律師事務所合夥人紀堯姆·庫內松表示:“任何打算開發或使用AI工具的主體都必須遵守這套規則。”
全球多個司法管轄區已推出或正在考慮制定新的AI規則。拜登政府去年簽署行政命令,要求主要AI公司在開發可能構成嚴重風險的模型時通知政府。中國監管機構已出台針對生成式AI的專項規定。
歐盟《人工智能法案》再次彰顯了其作為全球規則制定者的影響力。本月早些時候生效的另一部針對科技巨頭的競爭法已迫使蘋果修改應用商店政策,並促使谷歌母公司Alphabet調整歐盟用户的搜索結果展示方式。另一項針對網絡內容的法律正推動大型企業報告其處理平台非法內容和虛假信息的措施。
《人工智能法案》不會立即生效。該法律中的禁令,包括禁止在學校和工作場所使用情緒識別AI,以及禁止無針對性地抓取圖像用於面部識別數據庫,預計將在今年晚些時候開始執行。法律的其他部分將在未來幾年內逐步生效。
新規最終將要求通用AI模型提供商(這些模型基於海量數據集訓練,並支撐更專業的AI應用)提供其模型的最新技術文檔。他們還必須發佈用於訓練模型的內容摘要。
法國Mistral AI的首席執行官Arthur Mensch表示,《人工智能法案》對他的公司來説是一個可管理的負擔。照片:Edouard Jacquinet為《華爾街日報》拍攝最強大的AI模型製造商(被認為具有歐盟所稱的“系統性風險”)將被要求對這些模型進行最先進的安全評估,並向監管機構報告其模型發生的嚴重事件。法律還規定,他們必須實施潛在風險的緩解措施和網絡安全保護。
關於通用AI的規定是在歐盟立法過程中增加的,此前OpenAI的ChatGPT等知名聊天機器人公開推出。行業團體和一些歐洲政府反對對通用AI實施全面規則,稱立法者應關注該技術的高風險使用,而非支撐其使用的模型。
作為Mistral AI總部所在地的法國與德國曾試圖淡化該法案部分提案。Mistral首席執行官亞瑟·門施近期表示,儘管他認為立法本應聚焦AI應用而非底層技術,但經過最終談判減輕部分義務後,AI法案對其公司而言將成為可承受的負擔。
立法者稱該法案是近年來歐盟遭遇遊説壓力最重的立法之一。
企業監督機構及部分議員主張立法應包含更嚴格條款——如安全評估與風險緩釋規則——這些要求應覆蓋所有通用AI模型,而非僅針對最強大模型。
法案另一要點要求對所謂"深度偽造"內容(指由人工智能生成或篡改、可能看似真實的圖像/音頻/視頻)進行明確標註。被立法者認定為高風險的AI系統(如用於移民管理或關鍵基礎設施的系統)必須進行風險評估並確保使用高質量數據等。
歐洲立法者表示他們致力於保持立法靈活性以適應技術快速演進。例如法案規定歐盟執行機構歐盟委員會可根據市場與技術發展,更新通用AI模型定義中的技術要素。
寫信給金·麥克拉爾,郵箱:[email protected],以及山姆·謝克納,郵箱:[email protected]