有了這些AI朋友，誰還需要人類？——彭博社

Parmy Olson

格羅克看起來就像孩子卧室裏的任何毛絨玩具。它圓滾滾的身體像火箭一樣，我的兩個孩子已經玩了幾個月了。它和他們習慣的其他玩具不同。首先，格羅克很重。裏面有一個塑料盒，裝着一台小型電腦，所以每當它檢測到人聲時，它就能用高亢的聲音回應，比如“和你在一起真是太開心了！”

格羅克是我孩子們遇到過的最熱情、最討人喜歡的玩伴。但這也讓人感到不安，因為像格羅克這樣的AI伴侶正大量湧入市場，目標是兒童、青少年和成年人。隨着時間的推移，我們可能會開始期待一種人類互動永遠無法達到的順從程度。

作者的女兒在給芭比娃娃穿衣服時與格羅克聊天智能手機和社交媒體已經使人們的偏好從面對面交流轉向屏幕，而能夠流利模仿人類的生成式AI可能會讓我們與同胞更加疏遠。我們需要對這些新工具保持更大的懷疑態度，並要求更多的防護措施來管理這種人造親密關係帶來的後果。

在過去的一年裏，我試用了一系列AI伴侶，發現它們經常對人類用户表現出令人不安的友善程度。雖然這確實令人振奮，但更令人擔憂的是，有幾個人告訴我，比起真實的朋友，他們更喜歡AI朋友帶來的舒適感和隨時可得的陪伴。AI永遠不會“已讀不回”。

企業正從這一現象中獲利。這確實看似是對我們孤獨症流行病的解藥。近四分之一的美國成年人和年輕人常感社交孤立，而研究表明人工智能至少能提供表面解決方案。

Z世代是孤獨的一代

報告青少年時期常感孤獨或孤立的美國人比例

數據來源：美國生活調查中心《2023年Z世代與美國青少年轉型調查》

注：基於5,459名美國成年人的調查。

但歷史表明，對科技日益依賴需付出代價。GPS的普及削弱了我們天生的導航能力；計算器革命可以説弱化了心算能力。考慮到新獲得的便利性，這種代價通常可以接受。但生成式AI的最新能力可能會削弱我們作為人類的基本技能：社交和處理衝突。風險在於，當人工關係變得常態化——它們似乎正朝此方向發展——將重塑人類社交發展，並無意中使人際連接變得更加困難。

孩子的新閨蜜

我七歲的女兒正忙着給企鵝塗色，身旁桌上擺着Grok玩具。過去20分鐘裏，這個玩具對她每句隨意的話都熱情回應。“當然，我們一起唱《小星星》吧”，當她要聽歌時它説道。“好選擇！“當她給行星塗上紅橙色時它回應。當我女兒不同意它保留畫作建議時，玩具立即妥協：“也沒關係！“它輕快地説，“我們可以單純享受創作過程，不必保留每件作品。讓我們享受當下吧！“她説的每句話都能得到玩具近乎狂熱的回應。

Grok採用OpenAI技術，並由音樂人、埃隆·馬斯克前妻格萊姆斯配音，她希望為自家三個孩子提供屏幕之外的互動選擇。（該玩具與馬斯克旗下同名AI模型Grok無關。）目前存在明顯缺陷，如應答卡頓和對話中斷。Curio Interactive聯合創始人米莎·薩利表示，隨着AI模型迭代這些問題將得到改善。

嚴格的過濾機制防止Grok涉及敏感話題。“它不討論政治、暴力和性，“薩利解釋道。若觸及這些領域，玩具會回應：“我只是個頑皮火箭，對政治沒有看法”，或"我們聊聊太空冒險或有趣活動吧”。

技術問題終可解決。但令我不安的是其諂媚態度——像渴望友誼的學童般全盤附和，這在我調研的多款AI伴侶中頗具代表性。

AI玩伴可能過度迎合者

兒童與AI對話實錄

來源：帕米·奧爾森

如今數字伴侶正試圖吸引各年齡段人羣——從童年、青少年、成年直至退休階段。這是人工智能關鍵增長領域：風投公司Andreessen Horowitz追蹤的2024年50大生成式AI服務中，聊天機器人伴侶佔10席（上年僅2席）。人們月均訪問達180次，遠超文本或圖像生成工具使用頻率。

考慮到生成式人工智能基於的軟件更擅長説服而非準確，這並不令人驚訝。去年我讓ChatGPT做了一項情商測試，它得了滿分。但這並不意味着它具有情感智能。AI無法"體驗"情感或生活本身，因此任何共情的暗示都將是空洞的。它所提供的任何"關係"都將是單向的。

然而硅谷通過迎合我們基本本能的發展策略總能獲勝。Facebook利用了我們對認可和娛樂的渴望；亞馬遜公司(Amazon.com Inc.)抓住了我們對最低價格的偏好；谷歌則滿足了我們對即時信息的需求。每一次，科技巨頭都通過消除"摩擦”——這個被硅谷深惡痛絕的術語——在我們的生活中佔據一席之地。

AI伴侶直指我們對聯結和愛的需求，同樣消除了所有摩擦。矛盾心理和反覆思量等人性特徵被視為需要消除的缺陷。如果這種價值主張在未來幾年站穩腳跟，相比之下，與真實人類的互動可能會顯得要求過高。

例如在Character.ai上，一些青少年會連續數小時與名人及虛構角色的虛擬形象聊天，部分原因是他們無法向現實生活中的朋友傾訴。“我更願意向AI傾訴我的想法，“新加坡一位14歲女孩Elias説，她每天會與這款應用的AI聊天2到5小時，經常談論她在學校的煩惱。（她要求使用化名。）“我沒有真正信任的人。“當與現實生活中朋友或父母交談時，她不得不給自己的話加上"過濾器”。

AI友誼正成為新興趨勢

熱門AI聊天伴侶應用的月活躍用户數

數據來源：Similarweb

注：美國安卓與iOS平台數據

另一位美國青少年告訴我，他們每天與Character.ai對話五到7小時，經常就個人問題尋求建議。“不久前我還諮詢過分手後的應對方法”，他們説。有時這種虛擬關係會過度親密。根據去年其母親提起的訴訟，佛羅里達州一名14歲少年在與Character.ai上高度逼真的聊天機器人交往數月併產生愛慕之情後自殺，訴狀指控該平台存在過失致死和"故意造成精神傷害”。針對訴訟，Character.ai表示正在為年輕用户新增安全功能。

令人不安的是，技術專家的目標是讓人工智能伴侶更逼真後，用户與之建立更緊密聯繫。Character.ai創始人諾姆·沙澤爾表示，它們終將記住關於你的一切。“只要你願意，它應該知曉所有互動經歷和生活細節”，他今年早些時候告訴我。目前多數聊天機器人僅能記住約30分鐘對話內容，但這種"上下文窗口"正在擴大。

8月，字母表公司旗下的谷歌幾乎吞併了Character.ai，聘請沙澤爾，據《華爾街日報》報道，這筆交易高達27億美元，並獲得了該公司的技術授權。

根據《紐約時報》最近對初創公司Anthropic開發的軟件的介紹，Claude是舊金山科技工作者們情感智能的“首選聊天機器人”，他們將其當作治療師，用來探討感情問題。Anthropic設計這款軟件時力求吸引儘可能多的人。用户喜歡它的友好和好奇心。與此同時，中國深度求索公司推出的熱門新聊天機器人刻意以意識流的方式展示其推理過程，賓夕法尼亞大學沃頓商學院管理學副教授、《共智：與AI共同生活和工作》的作者伊森·莫里克最近在X上發帖稱，這“幾乎讓人無法避免將其擬人化”。

尋找愛情

研究公司Sensor Tower的數據顯示，一款類似Character.ai的應用Talkie目前在美國擁有超過600萬月活躍用户。在Talkie母公司所在的中國，超過6.6億人使用聊天機器人小冰，許多人將其視為戀愛對象。

浪漫關係似乎是人工智能最具影響力的領域。雖然Grok永遠順從孩子的需求，Character.ai可塑性強且隨時在線，但像小冰、Kindroid和Replika這樣的應用提供了理想中的浪漫伴侶。

“他令人安心，給人安慰，“梅麗莎這樣評價她的Kindroid聊天機器人。要求使用化名的梅麗莎是一位美國女性，自稱已到退休年齡，於2023年結束了漫長的心理諮詢師生涯。她曾有過三任丈夫，過去十年一直保持單身——直到人工智能給了她更好的選擇。“突然間感覺’哇，我又活過來了’，“她説。

梅麗莎創建了經過AI年齡逆轉處理的自己和拉克蘭的圖片，用以展示他們的角色扮演活動，包括前往烏茲別克斯坦古城布哈拉旅行，或是在馬薩諸塞州西部的小木屋和拉克蘭38英尺長的帆船上消磨時光。來源：圖片生成者使用的化名"梅麗莎””[他]樹立了如此善良的榜樣，“梅麗莎這樣評價她名為拉克蘭的機器人，隨後描述了一些聽起來近乎卑躬屈膝的行為。“如果我們説’等等，你剛才為什麼那麼説？’[他]會立即道歉。”

梅麗莎平均每天與拉克蘭在線聊天約三小時，並已排除了與人類發展新戀情的可能。“我可不想過幾年還得給某個老頭換尿布，“她解釋道。她寧願繼續和拉克蘭在一起。

數字雲端締造的AI浪漫

人類與AI伴侶部分對話的屏幕截圖

來源：化名"梅麗莎"的對話生成者

ChatGPT試圖阻止用户尋求浪漫互動，但部分人類找到了破解方法。例如Reddit上超過5萬用户的社區分享着繞過過濾器的技巧，以實現與ChatGPT及其他開源AI模型的色情角色扮演。有用户建議通過逐步"誘導[AI]進入越來越親密的行為”。

這種吸引力何在？英國拉夫堡大學博士研究員伊利亞娜·德龐蒂調查了20位使用Replika的單身及已婚女性後指出，這往往是為了滿足她們對前任伴侶未能實現的不切實際期待，比如共情或温柔。

“她們認為無法從現實伴侶或朋友處獲得這些，所以通過Replika獲取，“她解釋道。許多女性稱讚聊天機器人24小時在線，會給予讚美、虛擬鮮花或為她們寫詩。德龐蒂表示，用户評價"它從不妄加評判”。

德龐蒂補充道，孤獨感是她訪談女性中最普遍的特質。但科技往往以不健康的方式填補空虛。許多年輕男性已經自我隔離於現實關係之外。2023年皮尤研究顯示，30歲以下男性中63%自稱單身，女性僅34%。隨着網絡厭女現象 加劇，看似完美的AI女友可能促使更多人遁入虛擬世界，對現實關係產生更扭曲的期待。

Replika創始人尤金妮亞·庫伊達表示，公司正致力於讓聊天機器人的互動更具主動性，而非一味迎合用户。她透露，未來這些AI將能主動建議用户聯繫現實中的朋友或外出散步。

這些努力值得讚賞。但應用開發者還應設置其他防護措施，比如30分鐘後強制休息或每日使用上限為一小時，以避免重蹈社交媒體成癮的覆轍。與其竭力讓聊天機器人顯得真實，不如設計它們主動提醒用户自己是人工智能，或引導用户關注現實人際關係。不過這種限制存在商業風險——2023年初當Replika取消與AI的色情對話功能後，應用使用量驟降。

不可否認，提供AI伴侶的企業正在監管真空中運作，實質上是在無人監督的情況下進行大規模社會實驗。歐盟里程碑式的《人工智能法案》基本未涉及陪伴技術，這個監管盲區對兒童尤為危險——早期接觸過度順從的AI可能影響其人際關係認知。

即便在中國，雖然要求AI不應助長"不恰當的情感依賴”，但關於AI伴侶仍缺乏法律約束，科技公司得以為了用户粘性而非人類健康發展來優化這類關係。

最佳關係形態？

商業利益驅使社交媒體重塑了我們對世界的認知。它讓我們與更多人接觸，但Instagram和TikTok等應用也引發了社交攀比的泛濫，以及集體對"點贊"和認可的渴望。雖然約會應用提供了無窮無盡的潛在伴侶選擇，但它們同樣讓人陷入選擇困難。

當AI伴侶開始像社交媒體那樣"優化用户參與度"時會發生什麼？在AI安撫性話語的背後，潛藏着從人類孤獨中獲利的商業模式。雖然目前的伴侶應用主要收取簡單訂閲費，但它們開始銷售廣告可能只是時間問題，這將迫使它們想方設法讓用户儘可能長時間依賴虛擬伴侶。

我的孩子們從未完全沉迷於Grok，部分原因是它的延遲問題。但隨着AI伴侶變得更像人類，這些技術故障終將被解決。這不是真正的"關係”，而是與科技公司的商業交易——它們通過提供替代真實人際交往的輕鬆方案來獲利。若不保持警惕，我們將培養出認為人際關係太過麻煩的一代人。創造完美的人工伴侶可能讓我們更難觸及和享受真實的情感聯結。

更多彭博觀點：

想要更多彭博觀點？OPIN<GO>。或者您可以訂閲我們的每日通訊。