《華爾街日報》："我死在了那一天"——AI技術重現槍擊案遇難兒童的聲音

佛羅里達州帕克蘭——立法者們開始接到一羣出人意料的孩子的來電——已故的孩子們。

烏茲·加西亞：“我是德克薩斯州烏瓦爾德市羅伯小學四年級學生。至少曾經是，直到一個拿着AR-15步槍的男人闖入我的學校，殺害了18名同學、兩位老師和我。”˿ 點擊收聽AI語音

伊森·宋：“2018年，15歲的我在朋友家被一把未妥善保管的槍奪去了生命。”

還有17歲的華金·奧利弗：“事實是，我在帕克蘭那天就死了。我的身體被戰爭武器摧毀了。”

接着他們都會説類似這樣的話：“今天我‘回來’，是因為父母用AI復原了我的聲音來聯繫您。”

這些自動電話——始於造成17人死亡的帕克蘭校園槍擊案六週年之際——是一項旨在提高槍支安全意識、推動更嚴格控槍的運動。但本文討論槍支政策，而是聚焦人工智能的里程碑時刻，以及用深度偽造技術傳播信息、連通逝者的倫理邊界。

這聽起來像《黑鏡》的劇情，而超現實感至少部分正是其意義所在。

項目發起者是華金的父母帕特里夏和曼尼·奧利弗。自兒子遇害後成為直言不諱的活動家，他們表示這種手段源於挫敗感。

華金·奧利弗在佛羅里達州帕克蘭高中槍擊案中遇害時年僅17歲。插圖：《華爾街日報》，帕特里夏·奧利弗“這是美國的問題，而我們一直未能解決，”曼尼在他們家中接受採訪時告訴我。“如果需要用令人毛骨悚然的方式來解決，那就歡迎這種毛骨悚然。”

他們的非營利組織推出了The Shotline網站，你可以選擇六段AI生成的電話錄音之一，輸入郵政編碼，直接撥打給你選出的代表。

但僅僅因為我們能讓這些聲音從墳墓中回來，我們應該這樣做嗎？一週前，我的回答會是，“呃，什麼？”現在，與這些父母交談後，我理解了他們的動機。

這些聲音是如何復活的？

這些令人毛骨悚然的逼真聲音是由ElevenLabs的AI語音生成器創建的。去年我曾用同樣的服務創建了自己的音頻克隆，騙過了我的家人和銀行。

我上傳了近一小時的音頻，讓機器學習模型匹配我的節奏和語調。然後輸入我希望音頻深度偽造説的話。這些父母沒有機會錄製孩子清晰的音頻。大多數從家庭視頻中提取的樣本都受到背景聊天或音樂的干擾。然而，技術已經變得如此先進（且可怕），只需幾秒鐘的現有音頻就能創建近乎完美的複製品。

當佈雷特·克羅斯第一次聽到兒子烏茲的聲音時，“我痛哭失聲，”他告訴我。“每次想起，我都會落淚。”伊森的母親克里斯汀·宋也表示自己同樣泣不成聲。

伊森·宋15歲時在朋友家中因一把未妥善保管的槍支走火而意外中彈身亡。插圖：《華爾街日報》，克里斯汀·宋帕特里夏説，那個聲音讓她感覺華金依然在世。“簡直和他本人一模一樣，”她告訴我。“你多希望這是真的。我多希望聽到他説‘嗨媽媽，你好嗎？我愛你’。”

為何要重現這些聲音？

決定這些聲音該説什麼內容構成了倫理難題。你如何確定已逝之人會作何感想？如何判斷他們願意或不願向世界分享什麼？

每位受訪父母都表示確信：他們的孩子會説希望自己還活着。他們會説不想看到其他孩子遭遇槍擊身亡。

華金的父母以他的社交媒體貼文為參照。生前他曾討論過保護兒童免受槍支和校園槍擊傷害的話題。華金的父親曼尼説，兒子希望像“列儂、曼德拉、阿里那樣被銘記為偉大人物”。他將此視為實現兒子遺願的方式。

帕特里夏和曼尼·奧利弗聆聽六年前在佛羅里達州帕克蘭校園槍擊案中喪生的兒子華金的AI合成聲音。照片：David Hall/華爾街日報所有參與的家長都強烈認為，這將有助於鞏固他們孩子的遺產，併為面臨槍支殺害風險的兒童帶來新的保護措施。曼尼表示，其他在槍擊案中失去孩子的父母（包括帕克蘭的其他家長）決定不參與。（帕特里夏稱，該家庭的反槍支暴力非營利組織"Change the Ref"主要依靠外展活動的小額捐款維持運營。）

藉助ChatGPT和ElevenLabs等工具，現在可以訓練聊天機器人在開放式對話中模擬某人。在我幾年前製作的一部紀錄片中，我拜訪了James Vlahos，他使用更基礎的技術與已故父親（即"爸爸機器人"）聊天。

但這些父母對創建孩子的聊天機器人不感興趣。事實上，所有信息都是嚴格腳本化的，長度不超過一分鐘。“我不想複製華金，“帕特里夏告訴我，“那不會讓華金回來。”

應該讓這些聲音復活嗎？

與AI的其他應用一樣，這種應用的一個擔憂是它可能被用於傷害。想象一下，這些孩子的聲音被用來傳播虛假信息或仇恨言論。聯邦通信委員會剛剛禁止了在詐騙自動電話中使用音頻深度偽造，稱人們曾被聽起來像熟人家屬或同事的聲音欺騙。

近期，已故名人如羅賓·威廉姆斯和喬治·卡林的AI語音克隆內容在網絡上流傳，引發了家屬的強烈反對。

如今遺產規劃通常包含對社交媒體等網絡賬户的身後安排。Goetz Fitzpatrick律師事務所信託與遺產部門負責人艾莉森·阿登·貝桑德指出，未來人們還需在遺囑中明確是否允許死後被AI複製形象。

語音克隆公司ElevenLabs聯合創始人馬蒂·斯坦尼舍夫斯基表示，若遺產繼承人擁有權利並獲授權，公司允許用户複製逝者聲音。阿登·貝桑德解釋道，名人更傾向於在遺產規劃中明確其音像形象權屬。

烏茲·加西亞在得州烏瓦爾德校園槍擊案中遇難時年僅10歲。插畫：華爾街日報，佈雷特·克羅斯通過報道科技與死亡的交叉領域，我領悟到兩點：第一，每個人處理哀傷的方式都是獨特的。

“當最後一個記得你的人離開時，你才真正逝去，“烏茲的父親佈雷特告訴我，“所以在我餘下的歲月裏，我會繼續向世界介紹他，讓他比我存在得更久。”

第二，科技將持續改變我們緬懷逝者的方式。若認為當前技術已令人震驚，不妨再等上幾年。

有人會覺得它令人毛骨悚然，也有人認為它將改變世界。這兩種看法可能都沒錯。

——在此訂閲喬安娜·斯特恩的《科技那些事》週刊。如今萬物皆科技。專欄作家喬安娜·斯特恩將作為您的引路人，分析並解答這個永遠在線時代的各種問題。

聯繫喬安娜·斯特恩請致信[email protected]