給ChatGPT增加更多內存的人類危險 - 彭博社
Parmy Olson
攝影師：SOPA Images/LightRocketOpenAI 正在推出它所稱的ChatGPT中的記憶功能**。**這款熱門聊天機器人將能夠存儲有關其用户的關鍵細節，以使答案更加個性化和“更有幫助”，據OpenAI稱。這些細節可以是關於您的家庭或健康的事實，或者關於您希望ChatGPT如何與您交談的偏好，以便它不是從一個空白頁面開始，而是帶有有用的上下文。與許多科技創新一樣，聽起來前沿和有用的東西也有一個黑暗的反面：它可能會對我們的數字隱私造成更大的傷害，甚至可能把我們進一步推向社交媒體塑造的同質化信息圈。
AI公司多年來一直在追逐增加聊天機器人“記憶”的新方法1，以使他們的機器人更有用。他們也在遵循Facebook的成功之路，收集個人信息以更好地定位用户，為他們提供內容以保持他們的瀏覽。
OpenAI的新功能 —— 將推出給付費訂閲用户和免費用户 —— 還可能使其客户更加參與，有利於業務。2目前，ChatGPT的用户在該服務上的平均訪問時間為七分半鐘，根據市場調研公司SimilarWeb的數據。這使其成為最具吸引力的人工智能服務之一，但這一指標可能會更高。例如，YouTube的訪問時間為20分鐘。通過處理和保留更多的私人信息，OpenAI可以提高這些吸引力指標，並保持領先地位，超過來自微軟、Anthropic和Perplexity的競爭對手的聊天機器人。
但是還有令人擔憂的副作用。OpenAI表示用户將“控制ChatGPT的記憶”，但機器人也可以“自行獲取細節”。換句話説，ChatGPT可以選擇記住它認為重要的某些事實。客户可以進入ChatGPT的設置菜單，關閉他們希望聊天機器人忘記的任何內容，或者完全關閉記憶功能。“記憶”將默認開啓，使用户有責任關閉它。
ChatGPT可以存儲和回憶有關用户的關鍵信息的示例。來源：OpenAI默認情況下收集數據多年來一直是Facebook的設置，如果其他公司效仿OpenAI，擴展“記憶”可能成為人工智能中的隱私雷區。OpenAI表示它只使用人們的數據來訓練其模型，但其他聊天機器人製造商可能更加寬鬆。最近對11個浪漫聊天機器人的調查發現，幾乎所有聊天機器人表示他們可能向廣告商和其他第三方分享個人數據，包括有關人們性健康和用藥情況的細節，根據Mozilla基金會的説法，這是一個倡導在線透明度的非營利組織。
這裏還有另一個意外後果，這讓人聯想到Facebook：一個記憶力強的ChatGPT可能會加強人們所處的過濾氣泡，這要歸功於多年來社交信息流一直在向他們提供一系列確認其文化和政治偏見的內容。
想象一下，ChatGPT在其記憶庫中記錄了我支持某個政黨。如果我之後問這個聊天機器人為什麼它的政策對經濟更有利，它可能會優先考慮支持該政黨的信息，並省略對這些政策的批判性分析，使我遠離可行的反對觀點。
如果我告訴ChatGPT記住我是環境可持續性的堅定支持者，那麼我未來關於可再生能源的查詢可能會得到忽略化石燃料有時可能是可行的答案。這會讓我對能源辯論有一個更狹窄的視角。
OpenAI可以通過確保ChatGPT在政治或社會問題上提供多元化的觀點來解決這個問題，即使這些觀點挑戰了用户的偏見。它可以添加批判性思維提示，鼓勵用户考慮他們尚未表達的觀點。而且為了透明起見，它還可以告訴用户當它提供定製信息時。這可能會減弱其參與度指標，但這將是一種更負責任的方法。
ChatGPT經歷了爆炸式增長，推動用户參與，並且現在存儲個人信息，這使得它的發展軌跡看起來很像馬克·扎克伯格曾經追求的道路。為了避免他的應用程序對心理健康和社會產生的同樣有害的副作用，OpenAI必須盡一切努力阻止其軟件將人們置於更深的信息孤島中。批判性思維的概念對人類來説可能變得非常新穎而危險。
更多來自彭博社論：
想要更多彭博觀點嗎？ OPIN <GO>****。或者您可以訂閲 我們的每日新聞簡報**。**