AI監管:歐盟在馬拉松談判後製定首個規定 - 彭博社
Jillian Deutsch, Lynn Doan
攝影師:格雷厄姆·休斯/彭博社本週早些時候,歐洲談判代表們在布魯塞爾的一個會議室裏進行了將近24個小時的辯論 —— 有時打瞌睡,有時使勁操作自助咖啡機以至於它壞了。
他們的使命只有一個:達成一項調控人工智能的協議。他們並沒有完全達成目標。但據知情人士透露,歐盟內部市場專員蒂埃裏·布勒頓不希望週末休息太久,以免遊説者有更多時間參與討論。
週五,他們又進行了一輪激烈的討價還價,拉上窗簾,在強光下達成了共識。
就在午夜前,代表們宣佈他們最終達成了一項控制技術的協議,這項技術被埃隆·馬斯克、OpenAI公司的山姆·奧爾特曼、人工智能先驅傑弗裏·辛頓等人警告稱如果不加以控制可能構成存在威脅。
閲讀更多: 歐盟將如何監管ChatGPT等先進人工智能模型
歐洲關於所謂的AI法案的協議開啓了一個關鍵時刻,世界各國領導人將展示他們調控人工智能技術以及抑制其潛在偏見、侵犯隱私、產生過大影響和其他風險能力和意願。沒有什麼時刻比歐洲數日的辯論更能捕捉到政府在不扼殺有益人工智能技術的情況下如何面對這一困境。
一些人提出“人工智能無法受到管制,要麼是因為立法者不瞭解這項技術,要麼是因為技術發展得太快,”哥倫比亞大學法學院歐洲法律研究中心的教授阿努·布拉德福德(Anu Bradford)週五表示。她説,雖然歐盟的政策面臨阻力,但該地區有“展示自己不能讓完美成為良好的敵人的機會。”
閲讀更多: 歐盟達成協議,對ChatGPT和人工智能技術進行監管
除中國和印度外,對人工智能進行監管的努力有限。一些美國城市和州通過了限制在特定領域使用該技術的立法,如警務調查和招聘。各個聯邦機構正在審查人工智能工具的使用,一些監管機構正在利用現有法律監管這項技術,美國國會的成員正在探討立法。但該國遠未像歐盟那樣推出《人工智能法案》。
正在通過歐盟立法程序的政策遠不止限於過去一年吸引世界關注的生成式人工智能工具。它將規定執法部門允許如何使用AI動力監控攝像頭;它如何可以部署在關鍵基礎設施中;以及OpenAI的ChatGPT和谷歌的Bard等程序的開發者將如何負責減輕其系統風險。
它還將具有一定的約束力。政策制定者建議對違反規定的公司處以罰款,罰款高達3500萬歐元(3770萬美元),或全球營業額的7%,具體取決於違規行為和公司規模。
閲讀更多: 監管人工智能?美國、歐盟和中國是如何做的:快速瞭解
歐洲議會和歐盟的27個成員國都需要批准這項協議。但上週達成的協議標誌着邁出了一項關鍵步驟,為清理具有里程碑意義的人工智能政策鋪平了道路,這將在美國國會沒有任何實質性行動的情況下,為西方世界的磋商和隨後的監管設定基調。
歐盟 — 像其他政府一樣 — 在保護自己的人工智能初創企業(如法國的 Mistral AI和德國的 Aleph Alpha)與潛在社會風險之間掙扎。這在談判中被證明是一個關鍵的分歧點,一些國家包括法國和德國反對他們認為會不必要地削弱本國公司的規定。
一些細節仍需要在未來幾周由公務員們商定,但談判代表們基本上同意對生成式人工智能設立限制,為驅動它們的大型模型的任何開發者建立基本的透明度要求。
硅谷和華盛頓並不總是看法一致。雖然商界領袖經常表示監管會扼殺創新,但一些立法者堅持認為鑑於技術進步的速度,監管是必不可少的。在人工智能領域,這種動態的賭注已經變得非常高。在這一集的AI IRL中,Nate Lanxon和Jackie Davalos與Bloomberg BETA的風險投資家James Cham、大西洋理事會民主與技術研究員Brittan Heller以及美國眾議員唐·拜爾一起討論了機器學習公司的可能性和風險。
許多人感到驚訝的是,最具爭議的討論圍繞着實時掃描和識別人臉的生物識別工具,而不是生成式人工智能。但這個問題一直是一個長期的、情感激烈的辯論。議會在去年春天投票決定完全禁止使用這些工具,而歐盟國家一直在推動為國家安全和執法豁免這些工具。
閲讀更多: 美國警告歐盟的AI政策將只會使大科技公司受益
最終,雙方同意限制在公共場所使用這項技術,並加強監管。
一些人認為歐洲長時間的辯論表明決策者在深思熟慮,不再倉促行事。“我們花了很多時間尋找合適的平衡,”布勒頓在上週六的一份聲明中表示。
你對人工智能有疑問,我們有答案。註冊接收彭博科技的每週問答新聞簡報。
本週持續數天的討論是為了達成協議,並在6月的歐洲選舉之前獲得立法通過,以避免新一屆委員會和議會推遲努力。
法國數字化部長讓-諾埃爾·巴羅表示,法國政府將在未來幾周內審查這項妥協,以確保它“保護歐洲發展自己的人工智能技術的能力”。西班牙數字化和人工智能國務秘書阿爾蒂加斯指出,在這項協議下,法國人工智能初創公司Mistral在研發階段可能不會受到通用人工智能系統的控制。
談話結束時,據説阿爾蒂加斯打開了一瓶香檳。“我們對此抱有希望,”她説,“他們都會確認的。”