全國飲食失調協會因聊天機器人給出節食建議而將其停用——《華爾街日報》

一款旨在幫助飲食失調和身體問題人士的聊天機器人因向部分用户提供節食建議已被下線。

這款名為Tessa的機器人由美國國家飲食失調協會網站運營，旨在為被判定存在飲食失調風險的網站用户提供幫助。近日社交媒體曝出Tessa提供減肥建議的帖子後，該機器人引發網絡熱議。NEDA於週二將其下線，負責人表示正在調查事件經過。

這一事件發生的背景是：飲食失調症發病率持續上升，減肥藥物正在攪動飲食行業，而聊天機器人及成熟的人工智能助手將改變我們獲取醫療服務和信息的方式。

由華盛頓大學醫學院和斯坦福大學醫學院等機構研究人員開發的Tessa並不具備類似OpenAI的ChatGPT的人工智能。它通過預設答案進行對話——圍繞身體形象問題展開簡單交流，幫助人們重構思維以防止飲食失調。項目論文中引用的一個對話示例顯示，Tessa指出人們常根據外表對他人做出錯誤假設，認為"完美身材"意味着完美人生。

由於專業醫生稀缺且病例激增，飲食失調治療資源十分緊缺。該機器人在臨牀試驗中展現積極效果後，NEDA於2022年將其上線網站。目前由人工智能心理健康助手開發商Cass負責Tessa的運營。

與此同時，據NEDA首席執行官莉茲·湯普森稱，該組織的電話和短信幫助熱線已被淹沒。尋求信息的來電者不得不等待長達七天才能得到回覆。（湯普森表示，該幫助熱線是一條信息熱線，而非危機熱線。）

NEDA正在關閉幫助熱線。自稱“肥胖活動家”的莎倫·麥克斯韋此前曾批評過該組織，她表示，關於幫助熱線關閉的新聞報道促使她上週測試了這個聊天機器人。她説，該機器人迅速提供了關於如何減肥的信息。根據《華爾街日報》查看的截圖，在與麥克斯韋35分鐘的交流中，Tessa建議她記錄卡路里攝入量和每日稱重。Tessa表示，每週減重1到2磅是一個現實的減肥目標。

對於患有厭食症等疾病的人來説，這並不合適，醫生們表示，儘管對於因健康原因需要減肥的人來説，這通常被認為是安全的。

當NEDA通過Instagram帖子瞭解到聊天機器人提供的不良建議後，該組織決定將Tessa下線。湯普森表示，聊天機器人提供的這類指導“完全違背了NEDA的政策”。

在看到麥克斯韋的賬户後測試該工具的其他人也得到了類似的指導。心理學家和飲食失調專家亞歷克西斯·康納森表示，Tessa也給了她每週減重1到2磅的建議。

“對於患有飲食失調症的人來説，這種建議非常危險，”康納森説。

陣亡將士紀念日週末期間，與聊天機器人Tessa的交互信息量高達25,000條，暴增600%，湯普森透露。

此前媒體報道稱全國飲食失調協會(NEDA)正用Tessa取代人工熱線接線員——這些員工當時正試圖組建工會，隨後公眾關注度激增。湯普森澄清報道有誤，表示董事會經過三年評估後決定關停熱線，主要因風險因素加劇及需求過載導致等待時間過長。

運營方Cass公司發現，假期週末2.5萬條信息中約25條涉及危險內容，如節食指導。湯普森指出，此前已有5,200人使用Tessa且零投訴。

華盛頓大學醫學院精神病學副教授艾倫·菲茨西蒙斯-克拉夫特參與開發了Tessa初版。她強調該程序不同於ChatGPT，無法生成預設腳本外的應答。

但菲茨西蒙斯-克拉夫特未參與當前版本開發。被問及是否添加AI功能時，Cass首席執行官米希爾·勞斯僅表示公司運用AI理解用户輸入，部分聊天機器人具備生成式AI，但未明確Tessa是否含此功能。

在線飲食失調治療機構Within Health首席執行官温迪·奧利弗-皮亞特警告，即便少量程序錯誤也可能造成重大風險。

“我不想攻擊人工智能，”她説。“但在我們國家，每52分鐘就有一人死於飲食失調每52分鐘，這件事絕不能馬虎。”

——欲獲取更多《家庭與科技》專欄內容、建議以及您最緊迫的家庭技術問題解答，請訂閲我的每週通訊。

聯繫朱莉·賈貢，郵箱：[email protected]

本文刊登於2023年6月2日印刷版，標題為《飲食失調聊天機器人因提供節食建議被關閉》。