意大利因數據隱私問題禁止ChatGPT——《華爾街日報》

意大利隱私監管機構暫時禁止了OpenAI的ChatGPT，稱該人工智能聊天機器人不當收集和存儲信息，這加速了政策制定者推出新的人工智能規則的進程。

OpenAI上週五晚些時候表示，已根據監管機構當天早些時候發佈的命令在意大利禁用ChatGPT，該命令要求公司必須暫停處理意大利用户的數據。

這是自ChatGPT近幾個月在全球爆紅以來，首批在全國範圍內限制其使用的措施之一。在美國和歐洲各地，出於從數據保護到虛假信息再到就業安全的擔憂，要求監管這種自生成式人工智能工具的呼聲越來越高。

意大利數據保護局表示，OpenAI“沒有法律依據”使用其收集的數據“來訓練支撐該平台的算法”。

OpenAI表示，它認為自己遵守了歐洲的隱私法律，將與意大利的隱私監管機構密切合作，並希望很快能在意大利恢復提供ChatGPT服務。該公司表示：“我們也認為人工智能監管是必要的。”

該監管機構表示，已對OpenAI展開調查，並給該公司20天的時間來展示其正在採取哪些措施來遵守歐盟的隱私規則，否則將面臨罰款。根據歐盟《通用數據保護條例》，最高罰款為公司全球年收入的4%或2180萬美元，以較高者為準。

意大利監管機構還表示，沒有系統來驗證用户的年齡並阻止13歲以下的兒童使用該聊天機器人，從而使他們暴露在“絕對不適合其發育和自我意識水平的回答”中。

遵守監管機構的要求可能意味着OpenAI需要增加年齡驗證、更新隱私政策，並向用户提供更詳細的信息，説明他們的數據可能被如何使用。

如果監管機構堅持要求OpenAI採取措施從其訓練數據中排除或刪除意大利可識別個人的信息，或允許個人反對將其信息納入其中，可能會引發更復雜的爭議——因為像ChatGPT這樣的工具是通過互聯網上數十億份文檔進行訓練的。

OpenAI週五表示，它積極致力於“減少訓練ChatGPT等AI系統中的個人數據，因為我們希望AI學習的是世界知識，而非個人隱私。”

對AI工具尤其是聊天機器人的審查正在加強。本週早些時候，一羣AI研究人員和科技高管呼籲暫停訓練下一代AI工具六個月，以便行業有時間制定安全標準。

OpenAI被要求暫停處理意大利用户的數據。圖片來源：FLORENCE LO/REUTERS據《華爾街日報》報道，新聞出版商已開始研究其內容被用於訓練ChatGPT等工具的程度，以及獲得補償的法律途徑。

監管機構也在密切關注AI。歐盟已接近完成對一項法案的最終辯論階段，該法案於2021年首次提出，旨在規範整個歐盟的人工智能使用。它可能包括禁止某些面部識別用途，並可能要求ChatGPT等工具的製造商進行風險評估，並驗證用於訓練軟件的數據質量。

英國本週發佈了一份白皮書，建議如何授權其監管機構監督人工智能的發展，重點關注工具的安全性、透明度和公平性等問題。

包括摩根大通在內的部分企業及其他實體近幾個月已禁止其內部網絡訪問ChatGPT。威瑞森通信公司表示，此舉是為了防止專有數據所有權流失的風險。

出於對作弊及學習發展的擔憂，紐約市公立學校系統於一月份禁止其互聯網網絡和學校設備使用該聊天機器人。

聯繫作者瑪格麗塔·斯坦卡蒂，郵箱：[email protected]；薩姆·謝克納，郵箱：[email protected]