AI機器人監控社交平台"自殺信號" 不到1年救320人_風聞

文章來源丨新京報、中國新聞網

　給自殺者內心“照進一些光”　　樹洞團隊人工智能監控社交平台“自殺信號”進行心理危機干預

　　國內出現了一種新型救助自殺的模式——人工智能監測和救助自殺。

　　首都醫科大學教授黃智生2018年4月發起樹洞行動，中科院心理研究所研究員朱廷劭2017年也成立了類似的團隊。

　　他們的模式接近，都是通過人工智能監控社交平台的自殺信號，進而介入救助。

　　2019年5月14日，樹洞團隊發起一場建隊以來參與人數最多的救援，救下了去武漢約死的一男一女。

　　這樣的監測和救援，每天都在發生。兼職志願者的心理諮詢師王新麗説，這是給自殺者內心“照進一些光”。

　　從2018年8月至2019年3月，樹洞團隊已展開了七百多次救援，其中320人次獲救，而朱廷劭團隊截至2018年2月，也已給超萬位有自殺意念的用户推送了心理危機干預資源。

　　生死營救

　　“跳河嗎，我有羣。”5月13日11時48分，網友“求死組隊”在一個已自殺身亡的微博網友的微博評論區中，發出了這樣一條信息。

　　樹洞行動機器人004號監控到了信息，它分析出這位網友的自殺風險為7級，自殺可能性較高。

　　在微博等社交平台上，有一些自殺身亡的網友，留下了賬號，這些賬號的評論區成了“樹洞”，有人在這兒訴説生活的煩惱，有人在這兒留下遺言悄然離去。

　　004號是首都醫科大學教授黃智生研發的AI（人工智能）機器人，在社交媒體進行巡視，發現有自殺高風險的人羣，並進行預警。

　　信息被髮在樹洞行動救援團的羣中，引起了救援團成員的注意。多位志願者以抑鬱症患者身份與“求死組隊”聯繫獲取的信息是，“求死組隊”微信名為“北冰洋”，是來自河南的一名女孩王洋（化名），她和湖北的一名男孩張庭（化名）準備去武漢跳長江。

　　志願者、心理諮詢師王新麗建議，應該成立救援小組。代號“北冰洋”的救援小組當即成立，成員15人，由黃智生牽頭。

　　兩名自殺者已經買好了車票。王洋買了5月14日從蘭州到武昌的Z266次車票，張庭買了5月15日從襄陽到武昌的K903次車票。

　　多番討論，救援小組成員最終確定的方案是，王新麗在線上與當事人保持聯繫，陳皓在Z266次車上跟隨，行動小組兩人一組，一組在出站口等女生，另一組在出站口等男生。把兩個人的情況作為一個警情報警，必要時候請警方協助帶人去醫院。

　　王新麗用約死者的角色，進入了約死羣。張庭急着確定約死時間，反覆催促王新麗下決定，是否一同約死，王洋也略為着急，因為她在蘭州已快把錢花光了，得儘快去下一站。為了獲得信任，王新麗也買了去武昌的票。

　　在羣中，王新麗試圖拖延時間，聲稱自己要先去看身患直腸癌的姥姥，路程是30公里，時長是來回半天，之後再赴約死。

　　救援小組成員、武漢職業技術學院老師陳皓決定先乘火車趕到鄭州，再上Z266次車，尋找並攔截王洋。15日凌晨3時許，陳皓在Z266次車上順利找到王洋。

　　身着黑色外套、黑色褲子，瘦小的王洋正躺在36號座位睡覺。陳皓拍了圖發在羣裏，彙報了進展，並在王洋不遠處悄悄坐下，觀察和保護。

　　陳皓留意到，王洋沒有帶行李，僅帶了一個小手包，可見王洋選擇了單程，沒有返程。“這説明求死心理比較強烈”。

　　與此同時，救援小組的其他成員也報警求助，民警在車站進行等候。

　　5月15日早上8時40分，Z266次列車抵達武昌火車站。民警和救援小組成員接到了王洋。9時許，晚點的K903次列車也抵達車站，張庭隨後在車站被找到。此時距離王洋發起自殺、二人相約自殺，僅過去約45小時。

　　民警為兩人送上水和食物，並與之溝通，經開導，王洋情緒好轉並平穩，暫時表示放棄輕生念頭。民警聯繫上兩人家人。5月15日晚，王洋的叔叔和張庭的母親先後趕到火車站，將兩人接回家。

　　救援小組成員告訴新京報記者，21歲的王洋早年母親去世，父親在外打工，其從小與爺爺奶奶生活，高中學歷。她覺得自己很不好看，自卑且孤獨。因為性格特質、身體狀態和家人的不理解等原因，王洋情緒持續悲觀，因而產生輕生念頭。在此次約死前，王洋已與另一人約蘭州跳黃河未遂。

　　28歲的張庭家中，父母常年吵架。用他自己的話説，家人對他也是“無時無刻的謾罵”，他已一年沒出門，已長一臉絡腮鬍。心理評估顯示，張庭精神狀態差，有抑鬱症病史，建議送往醫院接受治療。

　　每日監測

　　黃智生告訴新京報記者，這次武昌救援，是建隊以來參與人數最多的一次。類似的自殺信號監測和救援，每天都在發生。

　　“總是幻想跳樓的場景，大概那是生活的一個出口吧……”5月23日，樹洞行動機器人004號從2000條最新樹洞信息中，彙集報告了8條危險信息，這條信息排在第二位。另外7條信息中 “跳樓”“割脈”“燒炭”等字眼反覆出現。

　　每天晚上10時許，004號彙總發佈樹洞監控通報，黃智生將報告發在樹洞行動救援團的羣中，救援小組的成員隨即介入救援。

　　黃智生已經做了30餘年人工智能研究，據他了解，當前，自殺是國內15-34歲人羣死亡的第一原因，而抑鬱症是自殺死亡的主要原因。這些年輕人會通過社交平台表達各種自殺情緒和願望，人工智能可以通過這些平台，在自殺救助上大顯身手。

　　以微博用户為例，8成以上是30歲以下的青年羣體。朱廷劭決定以微博為介入平台，介入干預年輕的自殺羣體。

　　2018年7月25日，黃智生正式上線樹洞機器人（001號），每日搜索發現有自殺高風險的人羣併發布樹洞監控通報。同日，樹洞行動救援團成立。

　　早在2017年4月，朱廷劭也申請成立了中科院行為科學重點實驗室互聯網心理危機（自殺）監測預警中心，用於進行相關課題。

　　黃智生介紹，樹洞機器人的運作機制是，採用知識圖譜技術，每天從微博信息中篩選出大約10條信息，生成自殺監控通報，根據自殺相關關鍵詞的詞庫，進行檢索篩查，從數據採集、數據彙總、自殺風險分析到形成監控通報全自動化。

　　經多次算法改進，樹洞機器人從001號更新到002號、003號到現在的004號，目前，系統對自殺風險判別的準確率平均達82%

　　004號識別的自殺風險級別和預警一共10級，其中6級以上是明確從表達抑鬱情緒轉為“自殺計劃”。6級自殺風險表示，自殺已在計劃中，日期未明，7級-10級自殺風險則表示，自殺方式已確定，區別在於自殺時間，分別為“日期未明”、“大致日期”、“近日”和“現在”。王洋和張庭的案例就屬於7級。

　　朱廷劭團隊最初嘗試的是人工篩選判斷，後發現工作量太大，因而選擇用人工智能構建自殺識別的預測模型。將梳理出來的與自殺相關的關鍵詞進行建模和訓練。

　　黃智生通過詞庫關鍵詞和多次通報留意到，有自殺意念者，會提到一些具體方式，包括“燒炭”“跳樓”“割腕”等，其中“燒炭”是最常見的。他研究發現，微博用户中的有自殺意念者，羣體年齡在16-24歲，共性是約死，女孩子比男孩子多很多，比例大約為3:1。女孩子多因情感和學業壓力產生輕生念頭。

　　共情理解

　　王新麗則仍在與張庭和王洋保持聯繫，她想繼續跟進兩人的情況。此前以約死者的身份和親身經歷與張庭交流時，張庭願意與王新麗聊，現在兩人被救下後，本來警戒心就高的張庭，現在不回微信了。不過好在，張庭沒有刪除她。王新麗希望慢慢讓張庭願意説出自己的遭遇，接下來，她能夠角色轉換為心理諮詢師進行介入，讓張庭接受用藥。

　　王新麗分析，張庭處於封閉狀態，家人待他不好，他不太願意相信別人能幫他，需要心理調整。而王洋情況相對好些，相比張庭拒絕加其他救援小組成員的微信，王洋加了。王洋的微信頭像在高頻地換，雖然表現出來的是心情不穩定，不過越換越好，可見狀態在轉好。

　　會走到自殺這一步，原因有多種，除了抑鬱症，還有身心、性格特質、生活上的困境等原因。黃智生説，除了心理介入，小組成員還要幫忙解決實際問題，比方幫忙輔導作業、找工作，有時候對方暖氣費沒有了，也會幫忙充。對張庭和王洋的救援，小組成員也多次自掏腰包。

　　即便是救援了，有時也會遭遇被救助者的牴觸。2018年12月的一天，004號監測到一條信息，一個女孩在“樹洞”裏説自己想在2019年元旦跳樓。樹洞行動救援團幾經周折聯繫上女孩和其父母后，被女孩父親罵了一頓，“你能有我瞭解？”直到女孩父親看了診斷報告才知道女孩患抑鬱症，但仍保持防備，要求救援團不要告訴別人。

　　網絡的匿名特性，既是優勢也是劣勢，一旦救助者和被救助者斷了聯繫，救助將無從繼續，因而救助者和被救助者保持聯繫、獲取被救助者的詳細信息是關鍵點。

　　多次救援下來，陳皓和王新麗都有了一些救援經驗。去年9月開始參與樹洞救援行動的陳皓之前進行正面勸導偏多，他感覺，共情和有時候一定的偽裝，會起到很好的效果。

　　王新麗認同共情這一點。她從今年2月開始參與樹洞救援行動。在武昌救援中，以約死者的身份，王新麗表現得同樣弱勢，讓對方產生共情和理解，引導説出自己的信息。

　　此前參與的救援中，王新麗有時候也會用心理諮詢師的身份與被救助者交流，用被救助者在“樹洞”中曾表達過的內容，與被救助者溝通，以此共情。“心理學術語上，這是進行心理同頻，”説出他們表達不出來的想法，“讓他們覺得‘自己被看到’”。

　　王新麗説，自己雖然此前沒有學過自殺救援，參與的救援不多，但經觀察，發現救援關鍵在於溝通，讓對方願意傾訴、放下執念和打開視角。她運用具有心理方法的溝通技巧參與救援以來，與被救助者接觸均較為順利。

　　被救助者的信任，讓王新麗有責任感，而救助成功和保持聯繫，讓她很開心。她感覺，救援中的溝通，是給自殺者內心“照進一些光”。

　　倫理爭議

　　2018年8月至2019年3月，不到一年時間，樹洞團隊已展開了七百多次救援，其中320人次獲救。截至2018年2月，朱廷劭團隊也已給超萬位有自殺意念的用户推送了心理危機干預資源。

　　但這顯然是杯水車薪。

　　在社交平台，每天監控到的自殺信號數和志願者人數對比極為懸殊。黃智生團隊中，按每天監控到10條信息計算，團隊僅有餘力救兩三個人。黃智生説，其實因為人力不足救不了剩下的那些人挺痛苦的，只好儘自己的力，能救一個是一個。

　　一開始，黃智生沒想到工程會這麼龐大。他原先以為，將程序開發出來，識別到自殺者的信號之後，接下來告訴家長就可以。沒想到其實很多家長並不理解，救援也沒那麼簡單。

　　黃智生團隊和朱廷劭團隊正在摸索成熟的救援模式。除了已有的、為救援小組成員提供的救援指南《網絡自殺救援指導性建議》，樹洞行動救援團近日正在針對不同類似自殺原因，總結策略，目前已經總結完成《情感救援策略》，《學校霸凌救援策略》也正在形成中。

　　用人工智能干預自殺，並非沒有倫理爭議。

　　黃智生稱，樹洞救援獲取的都是網絡公開數據，在這方面沒有涉及隱私問題。被救援者同他們建立個人聯繫，私下討論的信息都嚴格保密，不向他人透露，除非是報警向警方透露。

　　如果報警，什麼時候介入比較合適、怎麼介入才不算侵犯隱私？

　　黃智生對介入有自己的看法，如果被救助者不是明顯處於要自殺的狀態則不干擾，如果確實處於生命危險，則隱私要退一步，“拯救生命是最高的倫理”。他表示，迄今救助300多例，僅二三十例存在緊急情況需要報警。

　　但為防止造成干擾，目前介入之前，自殺信息會經多渠道確定，比方被救助者確實拍圖證實自己坐在樓頂要跳樓，就會採用報警方式。

　　朱廷劭團隊也是採用類似的思路，即在危急情況才會聯繫警方、家人和學校，徵得被救助者同意才去進行聯繫。

　　在北京心理危機研究與干預中心副主任童永勝看來，警方的介入和一定情況下隱私的讓渡是有必要的，用人工智能發現自殺，警方介入會讓救助效率更高。

　　黃智生表示，目前團隊同警方已經有非常密切的合作，現在報警時説是樹洞救援團，都能得到警方認同和支持。