深度偽造技術可以幫助你跳舞 - 彭博社

來源：YouTube布魯諾·馬爾斯在名為 大家一起跳舞的YouTube視頻中開始跳舞，正好在視頻的中間部分，但視頻的真正明星是周廷輝。周是一位穿着緊身牛仔褲的瘦高程序員，他出現在畫面的右側，起初無節奏地揮舞着手臂。就在一瞬間，他的動作與馬爾斯完全一致。周和他在加州大學伯克利分校的研究同事們使用了一種稱為生成對抗網絡（GANs）的人工智能技術來複制這些舞步，偶爾會出現一些小故障。

彭博社商業週刊博格包，拖袋中的克羅克斯，如何贏得美國媽媽的青睞美國芯片引導了導致6歲女孩死亡的俄羅斯導彈亞當·紐曼的最新項目是WeWork的競爭對手做空者的攻擊如何威脅到這家西班牙家族公司自從該視頻走紅以來，周將他團隊的研究轉變為一家名為Humen AI的初創公司，旨在將這一視頻噱頭變成一個應用程序，並最終為好萊塢製片廠、視頻遊戲開發者和廣告公司提供付費服務。這位29歲的年輕人還遭遇了一波關於“深度偽造”的公眾恐慌，這是一種由機器輔助的合成媒體操控。就像布魯諾·馬爾斯的模仿一樣，深度偽造並不需要完美；今年春天，一段假視頻顯示南希·佩洛西口齒不清，使用的技術幾乎與Photoshop相當，迅速在網絡上傳播。國會對此進行了聽證會。

賽門鐵克公司是一家網絡安全公司，發現了三起金融詐騙者成功 冒充首席執行官的案例。女性的臉和身體被貼上色情內容。稍微不那麼令人擔憂的是一些名為Lyrebird和Synesthesia的初創公司，它們向製作商業廣告或聊天機器人的營銷人員出售人工生成的音頻或圖像。藍籌投資者資助了Brud，其虛擬Instagram明星 Lil Miquela以與真實影響者相同的方式向她的160萬粉絲展示和推銷品牌。

對在線虛假信息和隱私的普遍警覺意味着新公司正在以早期初創公司未曾考慮的方式思考其技術的可能性。Humen表示，它正在努力通過保持其視頻庫的健康內容來消除懷疑。用户可以將自己編輯成 有趣的音樂視頻或柔韌的瑜伽姿勢，而不是淫亂或槍擊狂歡。“這就像一個沙盒，”周説。“舞蹈、手勢、問候。不是那種瘋狂的納粹敬禮。”在該應用程序今年晚些時候發佈之前，Humen在其網站上 發佈了一份“數字人權法案”，其中包括“我們將反對未經授權使用您的數據”等原則。該公司還在測試自動檢測被操縱視頻的方法，並用水印標記其為虛假內容。

違反規則的用户應該預期會被禁止在應用程序上發佈視頻，Signia Venture Partners的聯合創始人Sunny Dhillon表示，他將公司的部分資金投入了Humen。他將該政策與YouTube和Twitch的社區標準進行了比較，不過，他補充道：“我們希望做得比這好得多。”另外兩個平台並不以負責任的監督而聞名，現在也在匆忙制定關於深度偽造的規則。

Humen能否保護消費者免受深度偽造可能帶來的影響並沒有保證。大多數深度偽造初創公司都有一些倫理規則，但在僱傭專家以幫助他們減輕惡意使用風險方面的投資不足，技術專家Aviv Ovadya表示，他研究深度偽造並曾諮詢過Humen。曾在虛擬現實和電影領域工作的顧問Linda Ricci表示，好萊塢將會大量使用GANs技術，這可能不是一件好事。“我內心的技術專家和藝術家認為這太棒了，”她説。“反面：這是一個可怕的趨勢。”

Humen在發佈YouTube視頻後籌集了200萬美元的資金，目前仍在理清其界限。在過去的一年裏，Zhou表示，他收到了數十個來自希望像他一樣跳舞的人的未經請求的請求。許多人還希望他錄製已故親人的視頻，以便他們即使在親人去世後也能擁有虛擬副本。“有些人認為這有點可怕，”他説。“我們仍在討論這個問題。” 閲讀更多：“我試圖在一堆隱私設備中躲避硅谷”