ChatGPT陷入安全危機，成也數據傷也數據_風聞

文/觀察未來科技

就在這兩天，一直高歌前進的ChatGPT突然急轉直下，陷入了輿論之中。

上週末，先是意大利暫時封殺ChatGPT，限制OpenAI處理本國用户信息。接着，據韓國媒體報道，三星導入ChatGPT不到20天，便曝出機密資料外泄。此後，又有消息傳出ChatGPT目前停止註冊，開始大面積封號，4月2日全面封亞洲登錄賬號。

關於ChatGPT的爭議還在繼續，而接二連三的事件裏——封殺、泄密、封號，都有一個共同的特徵，就是涉及數據安全。實際上，ChatGPT走紅到今天，關於ChatGPT的數據安全一直是人們關心的一個問題，只是這一次，ChatGPT再也無法逃避關於數據保護的現實問題。 

封殺、泄密、封號

意大利對於ChatGPT的封殺來得很突然。

3月31日，意大利個人數據保護局（Garante）於當地時間 3 月 31 日宣佈，即日起禁止使用聊天機器人 ChatGPT，並限制 OpenAl 處理意大利用户信息。這是世界上第一個明令禁止“封殺”ChatGPT的西方國家。

做出這一限令的原因在於，意大利官方認為 OpenAI 沒有檢查 ChatGPT 用户的年齡，這些用户應該在 13 歲或以上，而且沒有就收集處理用户信息進行告知，缺乏大量收集和存儲個人信息的法律依據。

事實也確實如此，ChatGPT並不冤枉。ChatGPT近期就出現了“用户對話數據和付款服務支付信息丟失”的情況。這一消息也被OpenAI官方確認。

不僅如此，近期，ChatGPT在國際巨頭三星的應用上也出現了問題——三星引入ChatGPT不到20天，就爆出了3件半導體機密數據外泄**，**涉及半導體設備測量資料、產品良率等內容，網傳已經被存入ChatGPT的數據庫中。

消息一經發布立馬引發了各界熱議，韓媒方面甚至表示，因為三星員工直接將企業機密信息以提問的方式輸入到ChatGPT中，會導致相關內容進入學習數據庫，從而可能泄漏給更多人。據三星表示，為了避免這種情況再次發生，他們已經告知員工謹慎使用ChatGPT。如果後面仍發生類似事故，將考慮禁止在公司內網上使用ChatGPT。

實際上，自從問世以來，人們對ChatGPT可能泄露企業數據的擔憂一直沒有聽停過。據 Cyberhaven 統計結果顯示，近 160 萬名打工人中，有 8.2% 的員工在工作場所使用過它——許多人稱，因為使用 ChatGPT，他們的工作效率“提高了 10 倍”。同時，有 6.5% 的員工表示會將公司數據複製到 ChatGPT 中，更有 3.1% 的員工表示曾將公司的機密數據放入 ChatGPT。

與之相對應的，越來越多企業因擔心機密數據外泄，禁止員工訪問 ChatGPT還有摩根大通、美國銀行、花旗集團、高盛、德意志銀行等。近期軟銀也向全體員工通報了禁止向 ChatGPT 輸入機密信息等注意事項。看起來，ChatGPT提高工作效率是真的，但它會把對話內容作為訓練數據似乎也是真的。

**就在ChatGPT遭遇封殺和泄密的同時，一場大規模的封號又忽然到來。**4月2日，各個社交平台都流傳着這樣的消息：ChatGPT官方大面積封號，尤其針對亞洲用户。根據蒐集反饋，並非所有賬號都受到影響：有些可以順利登錄，有些只能登錄手機端，有些手機和PC端都無法登錄。但ChatGPT的大規模封號行動似乎已經開始了。據市場統計，已有數百萬用户的賬號受到了影響。在新用户註冊方面，目前註冊網頁已經無法進入，更為關鍵的是很多收碼平台近期已經關閉。

不止ChatGPT，3 月 30 日，據外媒報道，當下最火的 AI 作畫神器 Midjourney也已暫停免費試用。其公司創始人兼 CEO David Holz 在採訪中表示，做出此舉的主要原因是新用户的大量湧入。David Holz 在社交軟件 Discord 上發佈消息時，提到了存在 “怪異需求和試用濫用”。

從封殺到泄密，再到封號，ChatGPT正在陷入一場又一場的爭議。 

成於數據，傷於數據

ChatGPT的成功，離不開大數據的幫助。ChatGPT模型使用從各種來源收集的大型對話數據集進行訓練，包括社交媒體、公共論壇以及其他我們暫未得知的渠道。龐大的數據訓練，才使得ChatGPT具有我們今天看到的優秀性能。

**但這也意味着，模型實際上在不斷地接觸各種對話，其中可能包含相關****的敏感信息。**每次升級都可能伴隨着新的對話和新的隱私泄露風險。為了保護數據安全，開發者必須採取措施確保用於訓練ChatGPT的數據隱私得到妥善保護。但現實卻並非如此。

ChatGPT引發的數據安全包括了三方面的隱患**。首先就是ChatGPT獲取數據合法性的問題。**訓練像ChatGPT這樣的大型語言模型需要海量自然語言數據，其訓練數據的來源主要是互聯網，但開發商OpenAI並沒有對數據來源做詳細説明，數據的合法性就成了一個問題。

歐洲數據保護委員會成員Alexander Hanff質疑，ChatGPT是一種商業產品，雖然互聯網上存在許多可以被訪問的信息，但從具有禁止第三方爬取數據條款的網站收集海量數據可能違反相關規定，不屬於合理使用。國際機器學習會議ICML表示，ChatGPT雖然接受公共數據的訓練，但這些數據通常是在未經同意的情況下收集的。此外還要考慮到受GDPR等保護的個人信息，爬取這些信息並不合規。

**其次，是ChatGPT使用過程造成的數據泄漏問題。**目前ChatGPT對於用户羣體沒有多作篩選，滿足基本條件的都可以註冊成為用户，而且用户在使用ChatGPT前，亦不需要經過特別的培訓，ChatGPT對於用户的使用基本沒作限制。也就是説，用户可以非常任意和開放地使用ChatGPT。

因此，用户為了完成某項任務或達到某個目的，在使用ChatGPT過程中，可能會輸入一些敏感數據、商業秘密甚至是機密信息，稍不留神，就會造成數據泄漏。正如三星近日所擔憂的一樣，數據一旦輸入，就會被收集和使用，輸入的數據亦不能刪除和修改。

3月末，ChatGPT被曝出現bug會導致用户對話數據、支付信息丟失泄露。這一度導致了ChatGPT短暫關閉。OpenAI的回應中表示，這一漏洞可能導致了1.2%ChatGPT Plus用户的支付信息被暴露了約9個小時。漏洞還導致了用户的對話主題及記錄能被別人看到，如果裏面包含隱私信息，則有泄露的風險。

**最後，是ChatGPT的數據可能被惡意使用。**OpenAI首席技術官米拉·穆拉蒂（Mira Murati）曾表示，可能會有人利用ChatGPT自然語言編寫的能力，編寫惡意軟件，從而逃避防病毒軟件的檢測；利用ChatGPT的編寫功能，生成釣魚電子郵件；利用ChatGPT的對話功能，冒充真實的人或者組織騙取他人信息等。 

如何防範數據安全風險

面對來勢洶洶的數據安全風險，從某種意義上講，要保證數據的絕對安全，就要將數據全部物理隔絕，變成“死”數據，這樣顯然是最“安全”的，既拿不走，也不能破壞。但這樣做卻也損失了數據的價值——數據只有在流動、分享、加工處理過程中才能創造價值。

數據安全治理的核心正是保障數據在安全可控的情況下使用併發揮價值。換言之，數據本身無罪，有罪的是數據沒有被安全地保護或使用。也就是説，想要實現數據安全，關鍵要看具體實現的方法和管理措施。

因此，如何確保數據授權、界定數據安全的責任與科技公司的義務，規避隱私泄露、知識產權等風險，這些都將是以GPT技術為代表的人工智能在大規模介入公共領域後，必須首先解決的問題。

**顯然，**以數據為中心，是數據安全工作的核心技術思想。這意味着，將數據的防竊取、防濫用、防誤用作為主線，在數據的生命週期內各不同環節所涉及的信息系統、運行環境、業務場景和操作人員等作為圍繞數據安全保護的支撐。並且，數據要素的所有權、使用權、監管權，以及信息保護和數據安全等都需要全新治理體系。這需要在法規制度方面“劃清紅線”。比如，明確ChatGPT的開發者和使用人等主體責任的劃分和承擔方式；落實數據分類分級，明確ChatGPT獲取數據的途徑和方法的相關法律規定。

其次，數據安全離不開“運用數字技術進行治理”****，即運用數字與智能技術優化治理技術體系，進而提升治理能力。比如，將ChatGPT的語言訓練方法及算法合規納入數據安全合規體系，加強技術監管和定期進行安全審計。

事實上，在數據生命週期的不同階段，數據面臨的安全威脅、可以採用的安全手段也不一樣。在數據採集階段，可能存在採集數據被攻擊者直接竊取，或者個人生物特徵數據不必要的存儲面臨泄露危險等；在數據存儲階段，可能存在存儲系統被入侵進而導致數據被竊取，或者存儲設備丟失導致數據泄露等；在數據處理階段，可能存在算法不當導致用户個人信息泄露等。

面對不同階段不同角度的風險，對症下藥，是技術治理的必要，改進治理技術、治理手段和治理模式，將有效實現複雜治理問題的超大範圍協同、精準滴灌、雙向觸達和超時空預判。

**最後，數據安全的實現不僅要自上而下，更要自下而上。**數據安全治理的核心目的，是實現安全與發展的平衡。這一方面，需要讓企業自己有提升和證明自身數據安全能力成熟度水平的積極性，讓數據安全能力成熟度高的企業擁有更大的發展空間和競爭優勢。另一方面，還需要提高使用人數據安全的風險意識，制定ChatGPT的安全使用指南。

面對人工智能的迅速發展，數據的基礎性戰略資源屬性進一步突顯。ChatGPT只是數據安全治理的第一步，也是不可迴避的重要一步。