職場中的AI聊天機器人：高效、專橫、去人性化——《華爾街日報》

田納西州查塔努加市——約翰森·布拉格一直以藝術家審視畫布般的眼光看待自己銷售房屋維修保險的工作。

“我腦海中有一幅提供世界級客户服務的路線圖——知道什麼能觸動人心，什麼能贏得信任，“布拉格説，“就像達芬奇作畫時的狀態。”

作為HomeServe美國公司頂級銷售代理之一，布拉格在過去12個月中有11個月都位列公司432名代理的前10%。這家房屋維修服務公司為北美約500萬客户提供管道、供暖、製冷和電路維修計劃。在城郊寬敞的呼叫中心工作時，他表示成功秘訣很簡單：傾聽客户需求。

“我不只是照本宣科，“布拉格説，“我會傾聽每個人，記住他們的興趣點。我幾乎能讓任何人購買任何產品。”

隨着業務增長，HomeServe最近聘請了新代理協助布拉格及其同事。這位名為查理的新成員是人工智能驅動的虛擬代理，公司運用谷歌對話式AI平台等技術打造。她每天處理11,400通電話，轉接至對應部門，處理理賠並安排維修預約。她會向代理耳語提示客户是否符合特定保險計劃，並在屏幕上顯示來電原因。

自動化與創新副總裁傑西卡·克勞德表示：“我告訴員工要把查理當作私人助理。”

在查塔努加呼叫中心，查理並非人見人愛。她控制慾強，包括要求客服代表與客户交談時必須使用特定話術，違規者將受處罰。她還時常將來電轉錯部門。“我們正湊錢給查理買助聽器呢，“布拉格的同事羅伯特·考德威爾説道，這位業績頂尖的客服代表坐在附近的隔間裏。

有時她會給出令人反感的應答建議。查理最近告訴布拉格先生，有位來電者想申請維修計劃。她沒理解對方是因水管爆裂正在等待維修，且情緒暴怒。當布拉格接起電話複述查理指示的"瞭解到您想辦理登記"時，對方瞬間暴跳如雷。

“我從不照本宣科”，家庭服務公司客服代表喬納森·布拉格在田納西州查塔努加辦公室表示。管理層卻對查理的高效讚不絕口，即將予以晉升。很快她將開始具體指導客服代表的言行，並給人類員工的工作表現打分。

“她本該讓工作更輕鬆，而不只是對我們發號施令，“布拉格説。他擔心查理錯誤太多：“我是業績冠軍，她可不是我上司。”

“大規模重構”

新一代人工智能正在美國職場鋪開，正引發人機之間的權力博弈。

ChatGPT等技術的最新進展，以及自然語言處理和生物識別技術，加上可用於訓練算法的大量數據，加速了從飛行員、焊工到收銀員和餐飲服務員等某些工作完全自動化的努力。麥肯錫公司估計，到2030年，美國所有職業中25%的工作活動可能實現自動化。

然而，如今人工智能的最大影響來自改變工作而非取代它們。“我不認為就業末日即將來臨。但我確實看到了大規模的結構調整和重組——而且工作質量是個問題，“斯坦福數字經濟實驗室主任埃裏克·布林約爾松説。麥肯錫估計，在美國勞工統計局列出的800個職業中，60%的職業在未來幾十年內可能會有三分之一的工作活動實現自動化。

對工人來説，這項技術有望消除數據處理和密碼重置等枯燥、重複性工作的苦差事，同時綜合可以即時訪問的大量信息。

但勞工專家、學者和工人表示，當人工智能處理簡單事務時，人類往往要承擔更復雜、更緊張的工作量。當像查理這樣的算法承擔更多人類決策時，擁有高級技能和多年經驗的工人可能會發現他們的角色被削弱了。當人工智能被用來評分人類行為和情緒時，員工表示這項技術不可靠，容易產生偏見。

最富成效的試驗場之一是呼叫中心，或被勞工專家稱為"信息經濟工廠"的場所，而HomeServe是早期採用者之一。整個行業對員工的考核涉及從"平均處理時長"到"首次通話解決率"等數十項指標，員工倦怠率居高不下。根據市場研究機構Customer Management Practice在2022年4月至6月對1000名員工的調查顯示，65%的客服代表預計將在未來兩年內離職。

HomeServe查塔努加呼叫中心的員工們，這裏由AI驅動的機器人Charlie正在承擔越來越多的工作任務。支持者表示，人工智能通過處理單調任務和決策壓力有望解決大部分問題。近年來，企業開始使用機器學習模型掃描分析客服與客户的對話。會話分析技術能快速識別客户表達的關鍵詞和情緒以發現規律，可監測每位客服的表現並推薦下一步應答策略。

“新型AI技術幫助客服卸下決策負擔，讓他們能夠專注執行，“會話分析初創公司Cresta的客户成功經理Brittany Bell在近期演講中表示，該公司客户包括美國運通、Cox通信公司以及Signet珠寶商旗下Blue Nile等企業。

當人類將決策權交給機器時，他們便不再運用自身的知識與經驗——問問那些被谷歌地圖取代了街道記憶的出租車司機就知道了。康奈爾大學比較僱傭關係教授弗吉尼亞·德爾加斯特在研究呼叫中心自動化時發現，被算法嚴密監控、被迫按腳本工作或對工作方式毫無自主權的人類員工更容易產生職業倦怠，且更難解決客户問題。

對話分析公司MosaicVoice首席執行官朱利安·麥卡錫補充道：“在給予座席人員自主權和規定應答話術之間需要取得平衡。”

包括康卡斯特公司、特許通信旗下Spectrum和考克斯通信在內的企業比HomeServe走得更遠。它們運用名為情感分析的會話AI技術，通過評估對話的積極性、消極性或中立性，來檢測和衡量更主觀的人類情緒與行為。部分模型通過詞彙和語境為對話評分，另一些則加入音高、語調和節奏等參數。康卡斯特會分析大多數客户與座席的對話，並根據"熱情友好"“化繁為簡"等行為標準對員工進行評分。

在對多家企業的採訪中，呼叫中心座席人員表示看重AI快速獲取信息以輔助決策的能力。但許多人反對被迫採用AI生成的建議，或違背自身判斷念誦腳本話術。數位受訪者表示，依賴基於情感分析等主觀指標的自動化績效評估令他們感到不適。

“對於一台沒有情感的機器人來説，要真正判斷通話進展非常困難，”莉絲·希爾德布蘭德·斯特恩説道。她因AI評分系統缺乏人情味及由此帶來的壓力，在Spectrum工作九個月後於去年離職。“我的績效數據受到影響，因為這個系統無法像人類那樣根據我的態度來評估我。”

‘你好，我是查理’

當HomeServe決定引入查理時，公司高管希望確保員工將她視為合作伙伴。

“我認為當人們開始思考人工智能時，很多人會説，‘我要失業了。’對我們中心來説，重要的是讓他們知道這不是要取代他們的工作，而是增強他們的工作能力，”HomeServe副總裁克勞德女士表示。

為了讓查理更具人性化，創意團隊開發了一個能代表員工的虛擬形象。她是一位42歲的混血棕發女性，來自俄亥俄州，喜歡爵士樂，有兩個孩子。（克勞德女士解釋説，選擇中西部背景是因為她沒有口音，而選擇爵士樂是因為人們可能在社區裏聽到這種音樂。）管理層要求客服人員為機器人推薦一箇中性名字。查理最終勝過了德文、麥肯齊和傑西。莎拉（“HomeServe自助機器人代理”的首字母縮寫）因過於缺乏人情味而被否決。

查理最初負責簡單的任務，比如問候來電者，説“你好，我是查理，你的數字助理”，並詢問基本問題，例如“請告訴我你今天打電話的原因”。克勞德女士表示，在學會將來電者轉接到正確的部門後，她能夠將平均處理時間減少36秒，即超過10%。

查理學得很快。到了深秋時節，她已經能熟練處理漏水索賠案件（“這是嚴重漏水嗎？"），同時運用共情技巧（“聽到您家漏水我深感抱歉”）並判斷問題緊急程度（“您能自行關閉水源嗎？"）。隨後她會預約維修承包商上門服務。從接案到結案，查理的處理時間不到兩分鐘，而人工客服平均需要八分鐘。目前她處理了15%的理賠案件，預計明年將提升至20%。首席轉型官金·拉特克利夫表示，希望查理最終能接管40%的客服來電。

“查理介入後，客户問題的解決時間顯著縮短，“HomeServe美國公司首席執行官湯姆·魯辛説。在十二月的特大暴風雪期間，她幫助了1萬名客户（相當於受災總數的12%）完成理賠登記和維修預約，全程無需人工坐席介入。按此效率，她的購置成本將在18個月內回本。“每年為我們減少數十萬分鐘的通話時長，“魯辛先生指出，“而每一分鐘都價值不菲。”

魯辛坦言查理在訓練過程中經歷了成長陣痛：“初期我們必須重新梳理客服人員多年積累的經驗，再將這些知識傳授給電腦系統。“在HomeServe英國分部，英版查理"漢娜"曾持續誤將電話轉接至非水務維修部門，直到程序員發現她因英國口音將"漏水（leak）“誤聽為"湖泊（lake）"。數據科學家發現這個錯誤後，問題很快得到解決。魯辛確信查理早期的失誤都將逐步完善。

“起初需要投入大量時間，但我認為之後增長會呈指數級上升，”魯辛先生表示。

壓力攀升

著名經濟學家約翰·梅納德·凱恩斯曾預言，科技將消除工作的單調性，讓人類減少勞碌、享受生活。企業未曾料到的是，日常通話中的寒暄能讓員工稍作喘息，也是人們建立聯繫的愉快方式。當這種交流消失後，剩下的工作就變得複雜、緊張且充滿壓力。

在HomeServe公司，通話量有所增加。客服人員處理的來電也更為複雜。“客服接到的都是查理（AI）無法解決的電話，”HomeServe維修部經理凱特琳·杜瓦爾説，“這類通話佔比越來越大。現在接起電話時，客户往往有三個問題而非一個。這對客户是好事，但客服壓力更大了。”

曾在威斯康星州阿普爾頓Spectrum呼叫中心工作的客服希爾德布蘭德·斯特恩女士表示，既要達成AI設定的績效指標，又要應對經常辱罵她的憤怒來電者，雙重壓力令她不堪重負。

她成年後一直從事客服工作，做過酒店前台經理、零售和快餐店收銀員，本以為呼叫中心工作會很有成就感。儘管她樂於幫助客户，但AI生成的情緒評分總給她打低分。她表示自己患有耳鳴且説話語調單一，當來電者輕聲細語時常常聽不清楚。

她説AI會因未使用特定關鍵詞扣分，但她始終不知道具體該説什麼詞。主管聽過她的通話後告訴她：“聽起來你做得非常棒。”

為了試圖放鬆，她晚上回家後會坐在電視機前，一邊吃通心粉和奶酪，一邊看三四集《法律與秩序：特殊受害者》的重播。“我試圖把一整天從記憶中抹去，第二天以更好的態度回來。”

她説，隨着時間推移，憤怒的客户不斷來電，她的自動情緒評分持續下降。儘管這份工作每小時支付20美元，還包含免費有線電視套餐，但她認為不值得付出這樣的代價。“我到了無法再抹去它的地步。“工作九個月後，她辭職了。

Spectrum母公司Charter Communications的發言人表示，公司將情緒分析作為績效評估的一部分，但員工也會得到人工反饋。他説該系統不會對員工或客户的音高或語調進行評分，這些分析是評估客户對公司感受和衡量客服表現的寶貴資源。

機器人同理心

情緒分析已成為客户服務分析中最熱門、最具爭議的新領域之一。軟件分析公司Nice是該領域的先驅，其客户包括美國航空集團、Radisson酒店集團、摩根士丹利、華特迪士尼、康卡斯特和Teleflora等。

2014年接任Nice CEO的前以色列軍事情報官員Barak Eilam表示，終極目標是確定客户意圖。Nice的Enlighten情緒分析通過分析"説話內容和表達方式"來判斷客户需求。根據公司營銷材料和數字銷售全球副總裁Kevin Lee的説法，該技術利用詞彙及其使用背景，以及音高、語調和節奏的變化來分析客户情緒。

在新澤西州霍博肯的公司辦公室進行的一次演示中，一個桌面儀表盤展示了酒店客人與預訂代理之間模擬對話的進展。

以下是該互動過程的重現：

李先生説，這種指導就像汽車的碰撞檢測系統，會提醒代理和經理對話即將陷入僵局，並提供避免這種情況的建議。

Nice公司後來表示，其技術不再使用語氣和音高測量，因為這些指標"未能提供有意義的價值”，但未進一步説明其產品具體如何改變。

電信巨頭康卡斯特使用Nice Enlighten系統來檢測客户情緒，並對客服人員與客户的大部分對話進行績效評分。該公司表示，每次通話的詳細反饋使評分更加準確和精確。

在賓夕法尼亞州黎巴嫩市擔任康卡斯特客户體驗代理7年半的查西蒂·米勒認為，AI情緒評分更科學，更不容易出現不一致和人為錯誤，因為評分基於她所有的互動，而不僅僅是之前由人類經理每週評估的一兩次互動。

“我的得分非常高，“她説。系統會因某些詞彙選擇而獎勵代理，比如"大使”、“超快"和"讓我總結一下我們今天做的所有事情”，這些詞彙她很容易使用。她説，主管告訴她系統會測量語氣和音高。她説自己説話時聲音充滿熱情的起伏，AI對此評分很高。“我可以説’你是個廢物！‘但如果我在句尾用上揚的語調説，AI就會喜歡，“她説。

她表示，呼叫中心的許多同事如果説話帶口音或語調缺乏情感，評分就會很掙扎。“我不認為我的表現更出色，“她説，“但對男性聲音或口音存在偏見。許多資深客服都沒能説出那些神奇的關鍵詞。”

另外三名接受Enlighten系統評分的康卡斯特客服表示，他們擔心該模型存在偏袒特定羣體的傾向。一位帶菲律賓口音、在公司工作九年的前客服透露，在AI評分實施前，她持續獲得"高效"評級並連續四年位列百佳客服，這使她享有優先排班權。但啓用AI評分後，儘管主管確認她使用了正確話術，情感分數仍跌破達標線。她已於去年12月離職，轉投未使用AI的呼叫中心。

客服人員反映，儘管晉升加薪取決於評分，但他們通常無法對AI評分提出異議。

康卡斯特發言人丹尼爾·弗裏德曼表示，績效評分基於通話記錄中的詞彙短語。他承認最初包含音高語調分析，但因無法提升評分準確性已停用該功能。該AI通過"客户意圖識別”、“全程保持友善態度"和"建立個人聯繫"等維度來評估"熱情友好"等服務指標。

弗裏德曼稱，客服人員可隨時向主管或在定期小組會議上對AI評分提出質疑。

‘最佳下一步行動’

HomeServe今年對Charlie制定了宏大計劃。該公司將為客服人員推出即時指導功能，建議他們接下來該説什麼或做什麼。“它會自動填充對話腳本，這樣（客服）就不必費心思考如何開啓對話，“克勞德女士表示。

她介紹，客服屏幕上的彈窗會提示"最佳下一步行動”。系統可能檢測到客户已購買燃氣管線保險，就會建議客服同時推銷水管保險。Charlie還會指導客服的説話方式。“她可能會説’這裏停頓太久了’或’你語速太快了’，“克勞德女士説。她強調是否採納Charlie的建議完全自願。另一項計劃是：Charlie將開始對客服人員的通話表現進行評分。

公司承認仍有少數客服尚未接受Charlie，並表示已舉辦多次意見徵集會。發言人表示，目前每天使用Charlie提供數據的客服佔比已從2021年的70%升至90%以上。與此同時，客户滿意度自Charlie啓用以來略有提升，HomeServe計劃繼續發揮其作用。

“我認為沒有什麼是禁區，因為我們必須讓客户以最舒適的方式完成交易，“首席執行官魯辛先生説，“所以我的理念是——實現全面自動化。最終選擇權始終在消費者手中。”

羅伯特·考德威爾在餐飲業工作了35年，他説現在非常享受為家庭推銷保險計劃的工作。“你能真切感受到自己在幫助別人，“他説，“有時候他們自己都沒意識到。”

作為HomeServe公司五年的客服代表，他一直是部門裏的頂級銷售員，喜歡用自己的親身經歷與客户交流以贏得信任。“如果查理賣出一份計劃，我就能賣出四份，”他説。

考德威爾先生穿着一件筆挺的紅色棉襯衫，口袋上方印有“HomeServe”標誌，戴好耳機，俯身在鍵盤上，點擊接聽了當天的第26個電話。一位來自加利福尼亞州賽普拉斯的女士想更改賬單支付方式。在等待考德威爾操作時，她問他是否還需要繼續購買保險。

“我靠固定收入生活，”她説，“我是個老太太。我的房子很舊，所有東西都老舊。繼續選擇你們有什麼好處？”

HomeServe客服代表羅伯特·考德威爾：“我真的覺得你是在幫助人們。”考德威爾詢問了她的水管和下水道管道的使用年限，確認至少有60年曆史。他説，這麼老的管道不應該冒險停保，因為“不是會不會破裂的問題，而是什麼時候會破裂。2013年我就遇到過這種情況，不得不支付了4700美元。”

贏得她的信任後，推銷內部管道計劃變得輕而易舉。但他猶豫了。“如果她連現在的賬單都負擔不起，我實在不忍心再增加25美元的費用，”他説，“我能想象這位80多歲的女士，不得不在買藥和買我的HomeServe計劃之間做選擇。”

一位更年輕的代理人本會向她推銷附加計劃，他説，而查理則會處理賬單變更，很可能完全忽略她的後續問題。有時，最佳行動方案是無法用算法編程的。“這就是那種感覺不對勁的情況之一，”他説。

寫信給麗莎·班農，郵箱：[email protected]

刊登於2023年2月18日印刷版，標題為《人工智能進入辦公室。它專橫、高效且去人性化》。