歐盟就監管ChatGPT和人工智能技術達成協議,這是一項具有里程碑意義的法案 - 彭博社
Jillian Deutsch
歐盟達成了一項艱難的協議,這將成為西方世界最全面的人工智能監管。
該集團的內部市場負責人蒂埃裏·布勒頓表示,該協議在促進創新和保護人民和公司權利之間取得了平衡。
他在週六早些時候在一份聲明中表示:“我們花了很多時間尋找在支持執法同時保護我們公民基本權利之間的平衡。”“我們不希望在歐洲進行任何大規模監視。”
在本週超過37個小時的談判後,歐洲委員會、歐洲議會和27個成員國的代表同意對生成式人工智能工具(如OpenAI Inc.的ChatGPT和Google的Bard)進行一系列控制,這些工具能夠根據指令生成內容。
談判代表同意允許對人臉進行一些實時掃描,但需有保障和豁免,布勒頓表示。該協議將禁止根據政治或宗教信仰、性取向或種族等敏感特徵對人進行生物識別掃描。官員表示,這是談判中最困難和敏感的問題之一。
擬議的立法將對違反規定的公司進行罰款,罰款高達3500萬歐元,或全球營業額的7%,具體取決於違規行為和公司規模。
這項草案立法仍需得到歐盟成員國和議會的正式批准。但該協議標誌着邁向具有里程碑意義的人工智能政策的關鍵一步,這將在美國國會沒有任何實質性行動的情況下,為快速發展的技術的監管設定基調。歐盟的目標是在亞洲以外的地區實施首個對人工智能的明確監管。
決策者們已經努力數月來最終敲定AI法案的措辭,並在歐洲大選在六月拉開帷幕之前通過該法案,屆時新的委員會和議會可能會迫使進行更多變革並阻礙努力。
在週五的一次會議上做出了決定,此前進行了將近24小時的馬拉松會議,從週三一直持續到週四。在第一次會議期間,一些談判代表在大廳裏打瞌睡,而其他人則在辯論最敏感的限制公共場所活體面部掃描技術的話題時,最終同意休息。
艱難的討論突顯了對AI監管的辯論已經變得多麼有爭議,分裂了世界領導人和科技高管,因為生成工具繼續風靡。歐盟 — 像包括美國和英國在內的其他政府一樣 — 在保護本國AI初創企業(如法國的Mistral AI和德國的Aleph Alpha)免受潛在社會風險的需要之間掙扎。
這在談判中被證明是一個關鍵的爭論點,一些國家包括法國和德國反對他們認為會不必要地削弱本國公司的規定。
一些細節仍將在未來幾周由公務員們商定,但談判代表們基本上同意對生成式AI制定規則,其中包括對任何大型語言模型開發者的基本透明度要求。那些構成系統風險的模型將需要簽署一項自願行為準則,與委員會合作減輕風險。該計劃類似於歐盟的內容管理規則,即數字服務法案。
最棘手的問題在於對生物識別技術的限制程度。議會在去年春天投票通過了完全禁止使用這項技術,然而歐盟國家卻要求對國家安全和執法進行豁免。最終,雙方同意在公共場所限制該技術的使用,並增加了更多的監管措施。
議會和包括歐盟27個成員國的理事會都需要批准這項協議。法國和德國此前曾對該法案提出嚴厲批評,認為該法案可能會過度監管通用人工智能模型,並扼殺國內的OpenAI競爭對手,如Mistral和Aleph Alpha。
西班牙國務秘書Carme Artigas表示,這項協議符合歐盟國家的意願,“我們希望他們都會確認。”她還補充説,目前Mistral可能不需要遵守通用人工智能控制,因為該公司目前處於研發階段。
法國數字大臣讓-諾埃爾·巴羅在一份聲明中表示:“我們將仔細分析今天達成的妥協,並確保在未來幾周內,該文件保留了歐洲發展自己人工智能技術和保持戰略自主權的能力。”