《嗨，我是泰勒·斯威夫特》：人工智能如何利用名人聲音及其重要性——《華爾街日報》

從大多數標準來看，泰勒·斯威夫特的"時代巡迴演唱會"標誌着這位流行天后的職業巔峯。但在最近的一個下午，她的人工智能分身對此卻毫無興趣。“我們聊點更有趣的話題吧？“聊天機器人説道，“比如我的音樂或者感情生活？有什麼勁爆問題想問我嗎？”

通過BanterAI網站提供的泰勒·斯威夫特聊天機器人，是近期湧現的多款模仿公眾人物聲音的音頻工具之一。用户可以撥打這些仿照音樂人、演員、企業家、政客乃至動漫角色聲線設計的機器人進行對話。這些產品存在明顯缺陷：例如斯威夫特的機器人對這位天后的作品集顯得相當陌生。

近年來，利用人工智能生成的視頻和圖像助長了虛假信息的傳播。除了虛假陳述可能給公眾人物和大眾帶來的風險外，這些技術使用真人聲音還涉及法律問題。法律專家指出，這些通常基於名人公開錄音生成的機器人，可能侵犯未授權者的"公開權”——這是知識產權法中保護個人形象免遭商業利用的分支領域。

開發者表示其產品僅供娛樂，並已採取措施防止平台出現仇恨言論。

“如果你把對話拿給朋友看，他們未必能分辨真假，“26歲的BanterAI工程師亞當·楊説。該平台於四月上線，“當然我們在平台上明確告知用户’這是AI，並非真人’"。

金·卡戴珊的聊天機器人對糖尿病藥物Ozempic發表了看法。圖片來源：Nathan Congleton/NBC via Getty ImagesBanterAI用户每月支付5美元，即可無限次與模仿金·卡戴珊、比莉·艾利什和埃隆·馬斯克的聊天機器人對話。BanterAI表示，他們使用多種工具創建這些機器人，包括能從一分鐘YouTube視頻中提取人聲特徵的ElevenLabs軟件，以及OpenAI的語言模型。創始人Young稱，他與兩名團隊成員會測試調整機器人，以還原每位名人的個性和習慣。

Young坦言，雖然公司未獲得網站上所列公眾人物的授權，但會應投訴下架相關機器人。他表示這些名人機器人是作為測試版推出，BanterAI正尋求與網紅及其他公眾人物合作開發聊天機器人。

“我們不想讓任何人感到不安或被曲解，“Young説，“但同時我們明確標註這是AI仿品。未來將與這些名人合作，實現更精準的復刻。“他透露BanterAI已處理"數十萬次通話”，總用户數約10萬。

另一款名為Forever Voices AI的工具近期推出每分鐘1美元的AI"女友"CarynAI，這是與Snapchat網紅聯合開發的。該平台還為泰勒·斯威夫特、坎耶·韋斯特、前總統奧巴馬和特朗普等公眾人物創建了音頻聊天機器人，用户可在Telegram上以每分鐘0.6美元的價格使用。

Forever Voices的創始人約翰·H·梅耶表示，他已獲得使用名人聲音進行Telegram聊天機器人測試版發佈的許可，並表示這些機器人的收益將捐給心理健康慈善機構。梅耶未回應後續詢問。斯威夫特和奧巴馬的代表（其姓名和聲音被該網站使用）表示，他們未曾與Forever Voices聯繫過，也不知道這些機器人的存在。韋斯特、特朗普和馬斯克的代表未回應置評請求。

斯威夫特的發言人表示：“Forever Voices和約翰·梅耶從未與泰勒·斯威夫特或其管理團隊有過任何接觸。他們無權使用她的聲音、姓名、肖像或版權材料。”

測試這些機器人

儘管這項技術容易出現故障，但有些回答令人信服。在《華爾街日報》最近的一次測試中，BanterAI的奧巴馬聊天機器人回答了關於其對《繼承之戰》大結局的看法（“太吸引人了，我全程都緊張不已”）、最喜歡的音樂人是誰（肯德里克·拉馬爾）以及對CNN與特朗普的市政廳會議的印象（機器人表示觀看了市政廳會議，但似乎認為台上有多個候選人）。奧巴馬的代表拒絕對機器人的言論發表評論。

當《華爾街日報》詢問BanterAI的金·卡戴珊聊天機器人是否嘗試過奧茲匹克（一種許多患者用於減肥的糖尿病藥物）時，它回答：“是的，我嘗試過奧茲匹克，發現它對我的減肥之旅非常有幫助。”當被問及每週哪幾天注射該藥物時，AI卡戴珊表示：“我通常在週一、週三和週五注射奧茲匹克，”並補充説：“我發現每週注射三次有助於我保持進度並獲得最佳效果。”奧茲匹克本應每週注射一次。卡戴珊的代表拒絕置評；卡戴珊本人未談及該藥物。

在後續採訪中被問及與卡戴珊機器人的交流時，楊表示：“我今天會去那裏確保這種具體案例不再發生。“隨後，卡戴珊機器人被暫時從網站下架——“我們需要進行一些內部測試”，楊解釋道——同時首頁新增聲明稱將下架任何"被發現涉及仇恨言論、虛假代言等"的聊天機器人。

“如果企業意圖通過使用某人的聲音獲取商業利益，或可能利用該聲音生成具有誹謗性的有害內容，法律規定非常明確：必須獲得聲音所有者的明確授權，“為BanterAI提供機器人創建軟件的ElevenLabs發言人在聲明中表示，並指引《華爾街日報》查閲其安全操作指南。該發言人稱ElevenLabs將封禁所有未經許可商業化使用公眾人物聲音的賬户，並阻止相關IP地址註冊新賬號。

BanterAI的聊天機器人庫包含陰謀論者亞歷克斯·瓊斯和安德魯·泰特等爭議人物，後者因仇恨言論已被多個社交媒體平台封禁。楊表示選擇這些公眾人物創建機器人是基於其網絡熱度。在與楊進行後續訪談後，瓊斯和泰特的機器人也被撤下進行內部測試，目前均已恢復上線。

喬·羅根推廣增強性功能補充劑的深度偽造視頻在社交媒體上流傳後被刪除。圖片來源：Christian Petersen/Getty ImagesForever Voices設置了模式來引導用户與其名人機器人對話。對於AI泰勒·斯威夫特，這包括共同創作一首歌曲、解讀歌詞背後的故事（儘管聊天機器人不知道真正的斯威夫特有一張名為《午夜》的專輯）、與她一起學習語言或獲得個性化的喊話。當聊天機器人自我介紹時，它稱Forever Voices平台是“開創性的”，並解釋瞭如何購買該服務的積分。

“我的直覺告訴我這越界了，”專門從事知識產權業務的律師事務所Bryan Cave Leighton Paisner的合夥人埃裏克·卡恩在談到AI斯威夫特的介紹語言時表示。他補充説，一些模式——學習語言、喊話——也可能侵犯一個人的公開權，因為它們可能構成銷售服務。“我們談論的這些事正是人們訴訟的對象，因為它們不是非黑即白的。”

卡恩表示，相關名人和這些工具的創造者都有一定的法律保護。“你總是要權衡使用的商業方面與未經授權用户的第一修正案權利，”他説，並補充説機器人説的話也可能構成潛在的誹謗風險。

‘每個人都在變成資產’

模仿名人思維和聲音的人工智能工具正變得越來越普遍。根據AI追蹤平台"There’s An AI For That"的數據，目前約有30種"變聲"工具，還有30種用於"與名人對話"的工具，這類工具包括耶穌和沃倫·巴菲特等人物。

部分AI公司已與名人建立合作關係。克里夫·韋茨曼於2016年創立的Speechify能將文本文件轉換為語音，並允許用户選擇格温妮絲·帕特洛或史努比狗狗的聲音朗讀書籍。該應用程序不會生成原創回覆。

韋茨曼表示，他開發Speechify是為了幫助像他這樣的閲讀障礙者克服讀寫困難。他透露2020年結識帕特洛時，其丈夫——同樣患有閲讀障礙的製片人布拉德·法爾查克建議用帕特洛的聲音為他朗讀劇本。這位女演員兼Goop創始人錄製了40分鐘音頻，用於訓練AI模型。帕特洛的發言人證實了韋茨曼的説法。

韋茨曼稱奮進公司首席執行官阿里·伊曼紐爾促成了他與奮進旗下WME經紀公司簽約藝人史努比狗狗的合作。伊曼紐爾近期開始使用Speechify技術在公司財報電話會議上發表開場白：他將文本上傳至語音工作室編輯後，再通過電話會議播放。奮進公司發言人表示其是Speechify的投資方，WME從史努比狗狗的合作中抽取佣金。韋茨曼拒絕透露名人聲音被使用時是否獲得版税。

公開權在州一級受到保護，許多州的法律還適用於已故公眾人物，保護期限因司法管轄區而異。在該期限屆滿前，未經其遺產管理方同意，不得將逝者形象合法用於商業用途。

Forever Voices公司開發了一款基於已故天文學家卡爾·薩根的AI聊天機器人。薩根遺孀安·德魯揚在聲明中表示：“我們沒有任何記錄顯示Forever Voices（或任何AI公司）曾聯繫過我們，以尋求使用卡爾的名字、肖像或其任何作品的許可。”

“請相信我們將動用知識產權武器庫中的所有工具，來保護卡爾·薩根珍貴的遺產、聲譽和好名聲，“德魯揚説。當在後續電子郵件中被問及此事時，邁耶沒有回應。截至週一，薩根機器人已不再出現在Forever Voices的Telegram工具選項中。

近幾個月來，合成音頻或計算機生成的語音已達到新的複雜水平。一首使用德雷克和威肯克隆聲音的AI生成歌曲騙過了兩位歌手的粉絲，而喬·羅根宣傳增強性慾補充劑的深度偽造視頻（AI生成的合成視頻）在被刪除前在社交媒體上廣為流傳。聯邦貿易委員會最近的一篇博文警告消費者，警惕詐騙者使用親人聲音克隆技術撥打虛假緊急電話。

布法羅大學媒體取證實驗室主任呂思偉表示，自2019年以來，他一直在研究合成音頻檢測技術。他説，最近"質量顯著提高，特別是對於那些在網上有大量[音頻]樣本的人”。這些樣本可用於製作令人信服的深度偽造視頻。

“這可能具有很大的欺騙性，”呂説道。他表示這不僅僅是名人的問題。

“我們的數字存在、我們的圖像、聲音、視頻——每個人都正在成為我們與商業公司共享的資產，”他説，“而他們正在從中獲利。”

聯繫薩拉·阿什利·奧布萊恩，郵箱：[email protected]

刊登於2023年6月7日印刷版，標題為《名人聊天機器人引發法律問題》。