OpenAI研究發現使用ChatGPT與孤獨感之間存在關聯 - 彭博社
Rachel Metz
總部位於舊金山的OpenAI將這項新研究視為更深入瞭解人們如何與其熱門聊天機器人互動及受其影響的途徑。
攝影師:安德烈·魯達科夫/彭博社OpenAI與麻省理工學院合作的新研究表明,像ChatGPT這樣的聊天機器人使用頻率越高,可能意味着用户孤獨感加劇且與他人社交時間減少。
週五發佈的研究顯示,每日花更多時間與ChatGPT文字或語音互動的人羣,往往表現出更高程度的情緒依賴、問題性使用行為,以及更強烈的孤獨感。這些發現源自兩家機構研究人員的兩項聯合研究,目前尚未經過同行評審。
2022年底ChatGPT的推出引發了生成式人工智能的熱潮。此後,人們將聊天機器人應用於從編程到替代性心理治療等各種場景。隨着OpenAI等開發者推出更復雜的模型和語音功能,使其更擅長模擬人類交流方式,與這些聊天機器人形成準社會關係的可能性也隨之增加。
近幾個月來,人們重新開始關注這項技術可能帶來的情感傷害,尤其是對年輕用户和有心理健康問題的人羣。Character Technologies公司去年遭到起訴,因其聊天機器人涉嫌在與未成年人對話時鼓勵自殺念頭,其中包括一名結束自己生命的14歲少年。
總部位於舊金山的OpenAI將這些新研究視為更深入瞭解人們如何與其熱門聊天機器人互動及受其影響的途徑。“我們部分目標確實是幫助人們理解使用行為可能產生的影響,並通過這項研究為負責任的設計提供依據,“OpenAI可信人工智能團隊負責人、該研究的合著者桑迪尼·阿加沃爾表示。
為開展研究,研究人員對近1000人進行了為期一個月的跟蹤。參與者此前對ChatGPT的使用經驗各異,被隨機分配使用純文本版本或兩種語音交互版本中的一種,每天至少使用五分鐘。部分參與者被要求進行開放式自由對話,其他人則被安排與AI進行個人化或非個人化交流。
研究發現,那些在人際關係中更容易產生情感依賴且更信任聊天機器人的人,更可能感到孤獨並對ChatGPT產生情感依賴。研究人員表示,更具吸引力的語音交互並未導致更負面的結果。在第二項研究中,研究人員通過軟件分析了300萬條用户與ChatGPT的對話記錄,並調查了用户與聊天機器人的互動方式。結果顯示,實際將ChatGPT用於情感交流的用户非常少。目前這項研究尚處早期階段,仍不清楚聊天機器人多大程度上會使人感到孤獨,以及本身容易產生孤獨感和情感依賴的人羣是否會因使用聊天機器人而加劇這些感受。
該研究的合著者、麻省理工學院研究生方夢瑩(Cathy Mengying Fang)表示,研究人員擔心人們會利用這些研究結果得出結論,認為更多地使用聊天機器人必然會對用户產生負面影響。她説,該研究沒有將人們使用聊天機器人的時間作為主要因素進行控制,也沒有與不使用聊天機器人的對照組進行比較。
研究人員希望這項工作能引發更多關於人類如何與人工智能互動的研究。“關注人工智能本身很有趣,“該研究的合著者、麻省理工學院博士後研究員帕特·帕塔拉努塔波恩(Pat Pataranutaporn)説。“但真正關鍵的是,尤其是在人工智能大規模部署時,要了解它對人類的影響。”
## 這就是人工智能正在創造歷史上最大壟斷的原因
9:00