《華爾街日報》："我死在那一天"——AI技術重現槍擊案遇難兒童的聲音

佛羅里達州帕克蘭——立法者們開始接到一羣令人驚訝的孩子的來電——已故的孩子們。

烏茲·加西亞：“我是德克薩斯州烏瓦爾德市羅伯小學四年級學生。或者説曾經是，直到一個拿着AR-15步槍的男人闖入我的學校，殺害了我的18名同學、兩位老師和我。”˿ 點擊收聽AI語音

伊森·宋：“2018年，15歲的我在朋友家被一把未妥善保管的槍奪去了生命。”

還有17歲的華金·奧利弗：“問題是，我在帕克蘭那天就死了。我的身體被戰爭武器摧毀了。”

接着他們都會説類似這樣的話：“我今天回來，是因為我的父母用AI重現了我的聲音來給你打電話。”

這些自動電話——始於造成17人死亡的帕克蘭校園槍擊案六週年紀念日——是一項旨在提高槍支安全意識、推動更嚴格控槍的運動的一部分。但這篇專欄討論的不是槍支政策，而是人工智能的一個決定性時刻，以及利用深度偽造技術傳播信息、連通逝者的做法。

這聽起來像是《黑鏡》中的一集，而這種超現實感似乎至少在一定程度上是重點所在。

華金的父母帕特里夏和曼尼·奧利弗是這個項目的幕後推手。自兒子去世後，他們一直是直言不諱的活動人士，他們表示，這種方法源於挫敗感。

華金·奧利弗在佛羅里達州帕克蘭高中槍擊案中遇害時年僅17歲。插圖：《華爾街日報》，帕特里夏·奧利弗“這是美國的問題，而我們一直未能解決，”曼尼在他們家中接受採訪時告訴我。“如果需要用令人毛骨悚然的方式解決，那就歡迎來到驚悚世界。”

他們的非營利組織推出了The Shotline網站，用户可選擇六段AI生成的電話錄音之一，輸入郵政編碼後直接致電民選代表。

但僅僅因為我們能讓這些聲音從墳墓中歸來，就應該這麼做嗎？一週前我的答案會是‘呃，啥？’現在與這些父母交談後，我理解了他們的動機。

聲音如何被重現？

這些令人不安的逼真聲音由ElevenLabs的AI語音生成器創建。去年我曾用同款服務製作自己的音頻克隆，結果騙過了家人和銀行。

我上傳了近一小時音頻供機器學習模型捕捉節奏和語調，然後輸入想讓深度偽造音頻説的話。這些父母沒有機會錄製孩子清晰的音頻，從家庭視頻中提取的樣本大多夾雜背景雜音或音樂。但該技術已如此先進（且可怕），僅需幾秒零散素材就能生成近乎完美的複製品。

當佈雷特·克羅斯第一次聽到兒子烏茲的聲音時，“我痛哭失聲，”他告訴我。“每次想起，我都會落淚。”伊森的母親克里斯汀·宋也表示自己同樣泣不成聲。

伊森·宋15歲時在朋友家中因一把未上鎖的槍支走火意外中彈身亡。插圖：《華爾街日報》，克里斯汀·宋帕特里夏説，聽到那個聲音彷彿華金仍在身邊。“簡直和他本人一模一樣，”她告訴我。“你多希望這是真的。我多希望他能説‘嗨媽媽，你好嗎？我愛你’。”

為何要重現這些聲音？

決定這些聲音該説什麼構成了倫理難題。你如何確定逝者會作何感想？如何知曉他們願意——或不願——向世界分享什麼？

每位受訪父母都表示確信：他們的孩子會説希望自己還活着。他們會説不想看到其他孩子遭遇槍擊身亡。

華金的父母以他的社交媒體貼文為參照。生前他曾討論過保護兒童免受槍支和校園槍擊傷害。華金的父親曼尼説，兒子希望被銘記為“偉大的人——像列儂、曼德拉、阿里那樣”。他將此視為實現兒子遺願的方式。

帕特里夏和曼尼·奧利弗聆聽六年前在佛羅里達州帕克蘭校園槍擊案中喪生的兒子華金的AI合成聲音。照片：David Hall/《華爾街日報》所有參與的家長都強烈認為，這將有助於鞏固他們孩子的遺產，併為面臨槍支暴力風險的兒童帶來新的保護措施。曼尼表示，其他在槍擊事件中失去孩子的父母（包括帕克蘭事件的其他家長）選擇不參與該項目。（帕特里夏提到，他們家族反槍支暴力的非營利組織"Change the Ref"主要依靠外展活動的小額捐款維持運營。）

藉助ChatGPT和ElevenLabs等工具，現在可以訓練聊天機器人在開放式對話中模擬特定人物。在我幾年前製作的紀錄片中，曾採訪過James Vlahos，他使用更基礎的技術與已故父親對話——即"爸爸機器人"。

但這些父母對創建孩子的複製機器人並不感興趣。實際上，所有語音信息都經過嚴格腳本控制，時長不超過一分鐘。“我不想複製華金，“帕特里夏告訴我，“那不會讓華金復活。”

是否應該復活逝者的聲音？

與AI其他應用場景類似，這種技術可能被惡意使用的風險令人擔憂。試想這些孩子的聲音可能被用來傳播虛假信息或仇恨言論。美國聯邦通信委員會剛剛禁止了詐騙機器人電話中使用音頻深度偽造，指出已有民眾被仿冒親友或同事聲音所騙。

近期，已故名人如羅賓·威廉姆斯和喬治·卡林的AI語音克隆內容在網絡上出現，引發了家屬的強烈反對。

現代遺產規劃通常包含對社交媒體等網絡賬號的身後安排。高茲菲茨帕特里克律師事務所信託與遺產部門負責人艾莉森·阿登·貝桑德指出，未來人們還需在遺囑中明確是否允許死後用AI技術再現自己的音容笑貌。

語音克隆公司ElevenLabs聯合創始人馬蒂·斯坦尼舍夫斯基表示，若遺產繼承人擁有相應權利和授權，公司允許用户複製逝者聲音。貝桑德解釋道，名人更傾向於在遺產規劃中明確其肖像和聲音的使用權。她補充説，現行法律尚未明確未成年逝者父母是否擁有子女形象權。

烏茲·加西亞在得州烏瓦爾德校園槍擊案中遇難時年僅10歲。插圖：《華爾街日報》，佈雷特·克羅斯在報道死亡與科技交匯議題過程中，我領悟到兩個關鍵點：第一，每個人處理哀傷的方式都是獨特的。

“當最後一個記得你的人離開時，你才真正逝去，“烏茲的父親佈雷特告訴我，“所以在我餘下的歲月裏，我會不斷向世界介紹他，讓他的記憶比我更長久。”

第二，科技將持續改變我們緬懷逝者的方式。若認為現有技術已令人震驚，不妨再等待數年發展。

有人會覺得它令人毛骨悚然，也有人認為它將改變世界。這兩種看法可能都沒錯。

——在此訂閲喬安娜·斯特恩的每週通訊《科技那些事》**。如今萬物皆科技。專欄作家喬安娜·斯特恩將作為您的嚮導，分析並解答關於這個永遠互聯世界的種種疑問。

聯繫喬安娜·斯特恩請致信 [email protected]