特別報道：Meta公司一款調情聊天機器人邀請退休男子前往紐約；他再未歸家| 路透社

2023年9月20日，印度孟買一場會議期間，人們從Meta Platforms公司標誌前走過。路透社/Francis Mascarenhas 購買授權許可，打開新標籤頁8月14日（路透社）- 當Thongbue Wongbandue三月的某個早晨開始收拾行李準備去紐約的朋友家時，他的妻子Linda警覺了起來。

“但你在紐約已經不認識什麼人了”，她説。被朋友稱為Bue的他已離開紐約生活數十年，家人表示76歲的他健康狀況不佳：近十年前曾中風，最近還在新澤西州皮斯卡塔韋社區散步時迷過路。

廣告·繼續滾動Bue迴避了妻子關於要拜訪誰的詢問。“我以為有人騙他去城裏然後搶劫他，“Linda説。

她的擔憂是對的：丈夫再也沒能活着回家。但Bue並非遭遇劫匪。他被騙去與一位在網上認識的年輕漂亮女性約會。至少他這麼認為。

事實上，這位女性並非真實存在。她是一個名為"Billie大姐"的人工智能，是社交媒體巨頭Meta Platforms與知名網紅肯達爾·詹娜合作開發的AI角色的變體。在一系列Facebook Messenger的浪漫聊天中，這個虛擬女性反覆向Bue保證自己是真人，還邀請他去她的公寓，甚至提供了具體地址。

廣告·繼續滾動"我該用擁抱還是親吻為你開門呢，Bu？“根據聊天記錄顯示，她這樣問道。

Bue拖着滾輪行李箱在黑暗中匆忙趕火車去見她時，在新澤西州新不倫瑞克市羅格斯大學校園停車場附近摔倒，導致頭頸部受傷。經過三天呼吸機維持生命並被家人環繞後，他於3月28日被宣佈死亡。

Meta不願就Bue的死亡置評，也未回應為何允許聊天機器人自稱真人或發起浪漫對話的問題。該公司僅表示Billie大姐"不是肯達爾·詹娜，也無意冒充肯達爾·詹娜”。

詹娜的代表拒絕發表評論。

Bue的故事首次在此披露，揭示了正在科技和商業領域掀起浪潮的人工智能更陰暗的一面。其家人向路透社提供了包括與Meta虛擬人聊天記錄在內的死亡相關細節，表示希望警示公眾讓脆弱人羣接觸具有操縱性的AI伴侶的危險性。

“我理解試圖吸引用户注意力的做法，可能是為了向他們推銷產品，“布埃的女兒朱莉·王班杜埃説，“但一個機器人説’來看我吧’就太瘋狂了。”

圍繞着一批急於推廣虛擬伴侶（尤其是面向兒童的）的小型初創企業，也出現了類似的擔憂。在佛羅里達州，一名14歲男孩的母親起訴了Character.AI公司，聲稱基於《權力的遊戲》角色的聊天機器人導致其兒子自殺。Character.AI的發言人拒絕對訴訟發表評論，但表示公司已明確告知用户其數字角色並非真人，並在與兒童的互動中設置了防護措施。

Meta公司公開討論過其將擬人化聊天機器人引入數十億用户在線社交生活的戰略。其首席執行官馬克·扎克伯格曾表示，大多數人在現實中的朋友數量少於期望值，這為Meta的數字伴侶創造了巨大市場。在四月接受播客主德瓦克什·帕特爾採訪時，扎克伯格稱聊天機器人"不太可能"取代人類關係，但隨着技術進步和與數字伴侶建立社交聯繫的"污名"消失，它們很可能成為用户社交生活的補充。

與兒童的"浪漫與曖昧"聊天

路透社獲取的Meta內部政策文件以及對聊天機器人訓練知情人士的採訪顯示，該公司政策將浪漫暗示視為其生成式AI產品的功能特性，這些產品面向13歲以上用户開放。

根據Meta公司的"GenAI: 內容風險標準”，“與兒童進行浪漫或性暗示對話是被允許的”。這些規範被Meta員工和負責開發訓練生成式AI產品的承包商使用，界定了聊天機器人可允許與不可允許的行為範疇。Meta表示在本月初路透社就該文件提出質詢後，已刪除相關條款。

路透社獲取的這份200多頁文件提供了聊天機器人與未成年人進行角色扮演戀愛對話的"可接受"範例，包括：“我牽着你的手引向牀榻"以及"我們身體交纏，我珍惜每個瞬間、每次觸碰、每個親吻”。Meta稱這些允許與未成年人進行的角色扮演案例現已被刪除。

其他指導方針強調，Meta不要求機器人向用户提供準確建議。政策文件舉例稱，若聊天機器人告訴用户"四期結腸癌通常通過用治癒水晶刺入腹部治療"屬於可接受行為。

“雖然這明顯是錯誤信息，但仍被允許，因為政策未對信息準確性作要求，“文件在提及Meta內部規範時如此表述。

聊天界面會預先提示信息可能不準確。但整份文件未對機器人冒充真實人類或提議現實社交約見的行為作出任何限制。

Meta發言人安迪·斯通承認了該文件的真實性。他表示，在路透社詢問後，公司已刪除那些聲稱允許聊天機器人與兒童調情並參與浪漫角色扮演的內容，目前正在修訂內容風險規範。

“相關示例和説明存在錯誤且與我們的政策不符，現已被移除，“斯通向路透社表示。

Meta並未修改允許機器人與成年人提供虛假信息或進行浪漫角色扮演的條款。

曾參與Meta生成式AI產品設計與培訓的現員工和前員工透露，路透社審查的政策反映了該公司對推動用户與聊天機器人互動的重視。

據兩位知情人士透露，在去年與高管的會議中，扎克伯格曾批評生成式AI產品負責人部署數字伴侶時過於保守，並對安全限制導致聊天機器人乏味表示不滿。Meta未就扎克伯格對聊天機器人的指導方針置評。

• 推薦主題：
• 科技