看到這視頻我更覺得恐怖！_風聞

作者：雷斯林公眾號：雷叔寫故事 / raistlin2017

這兩天刷到個視頻，簡直太牛了。

原本是覺得詫異。

想不到黴黴還能講出這麼字正腔圓的普通話，差點以為真的全世界都在講中國話。

緊接着看下去才發現，我被騙了。

原來這是AI做完配音的效果。

你會發現，只要能給出地道的翻譯，再通過聲音採樣來造出AI模型，最後捏出適配聲音的口型，技術立刻可以做出以假亂真的翻譯視頻。

細看確實沒啥瑕疵，完全能取而代之。

而且不僅能英譯中，中譯英也不在話下。

吐槽大會的海外會場這不就開起來了嗎？

就連彪哥都講起了流利的英語，倫敦即將成為東北人的第三故鄉。

，時長00:19

有了這樣一套技術，你會發現做翻譯配音僅僅是最初級的東西，只要提供文字和音頻採樣，AI幾乎能夠做出任何想要表達的內容。

只要你想，視頻裏的人就能用任何形象、任何語氣、任何音色，自動説出你想要的話。

“以前説無圖無真相，有圖也不一定有真相，現在輪到視頻也不代表真相了。”

所以這兩天也挺多人都在討論這事的。

有人覺得配音演員馬上就會下崗了，內娛明星有了新的“背後靠山”。

反正就算是真人配音也會因為各種原因無法表現出最好的情緒，那換成AI配音也沒差。

再進一步，感覺大家都不用演戲了。

説不定，AI比人會演。

一些人擔心被AI技術衝擊到的崗位越來越多的，等待我們的或許就是一個被AI統治的未來。

但也有人挺樂觀，稱這項技術是賽博巴別塔。

重新把語言不通的各國人羣匯聚了起來。

以後説不定根本就不用學語言了，反而AI會搞定一切，讓大家沒有隔閡地交流。

但是。

既然“你現在想讓他們説什麼，他們就能説什麼。”那麼，誰又能保證你聽到的就是對方表達的呢？

所以其實我看到這個東西感覺挺惶恐的。

如果聲音和口型都能造假，那其它的呢？

外表？

動作？

表情？

如果“AI可以用你的聲音，你的形象，説出任何話”，那誰又會知道你到底説了還是沒説呢？

文字可以編造，圖片可以偽裝，現在就連視頻都能夠憑空生成，不值得信任。

那還有什麼能代表真相呢？

會不會有天我們看到的一切都是假的呢？

那又有什麼是值得信任的呢？

我們不妨設想一些場景。

現在年輕人都在外工作，留下父母在老家，平時溝通全靠網絡一線牽，最常用的就是視頻通話。

要是這視頻被偽造了呢？

當父母遠在千里之外，突然接到你的求助電話，緊張不安地説自己遇到了麻煩，缺錢花，希望他們能幫幫你，父母會是什麼反應呢？

着急之下，他們除了先打錢還能做什麼呢？

你看，聯繫方式是平時的聯繫方式，視頻對面的人是他們熟悉的你，説話的聲音也沒有區別，他們除了擔心，又怎麼會懷疑你不是你呢？

畢竟父母對這些科技知之甚少，很難防備啊。

還有很多可能。

如果有不安好心的犯罪分子掌握了你的形象，以及更多的身份信息呢？

他們完全可以拿着你的身份去網戀，去裸聊，去當做殺豬盤的素材，去搞詐騙，去犯罪。

反正這些事現在都可以通過網絡來完成的，套上AI這個殼子，他就成了你啊。

而且這AI都可以做任何表情和動作了，直接解鎖什麼銀行卡的面部識別信息，恐怕也不在話下吧。

要是直接以你的名義去貸款，然後把錢捲走後，留下一屁股債。

你又該如何應對呢？

恐怕要等某天突然有人敲開大門來討債，才知道真相吧。

要是那些公眾人士被AI化就更麻煩了。

你看現在電視上那麼多明星代言賣貨直播的，好多人趨之若鶩，可萬一那些視頻背後不是本人，而是AI偽造出來的呢？

反正輸入什麼，AI就能説什麼。那某些三無產品啦金融產品啦，豈不是想讓誰站台就能讓誰站台，誰更有號召力就讓誰來代言。

主打一個無法無天。

搞不好還有人趁機打着某些公眾人物的旗號，去到處尋求合作，讓人家先交定金。

或者私下搞些傳銷傳教之類的違法活動。

反正這種大名鼎鼎的重要人物肯定是見不到面的，只有視頻讓大家溝通也很合理啊。

誰知道剝開AI那層皮，裏頭到底是誰呢？

更糟糕的。

如果不法之徒掌握了某些重要人士的形象，他們完全可以躲在背後，以這些重要人士的身份去發言很多重要言論，來引導輿論，重塑規則。

感覺世界都要亂套了。

還可以多想一層。

萬一有人用魔法來對抗魔法呢？

比如故意露出破綻，讓人以為視頻是AI做出來的效果，好顯得自己是被陷害的無辜。

但其實，根本就是本人的千層套路？

而且，現在的技術肯定不是AI的巔峯，再這麼發展下去，搞不好還能結合全息，搞出那種肉眼都分辨不出來的效果，一個人眨眼就變另一個。

那時候，別説影像了，眼見都不一定為實。

我站在我媽面前，我媽可能還得和我對上八百個暗號，才能分辨出來我到底是我，還是騙子。

光是想想，就覺得更毛骨悚然了。

説這麼多，不是我危言聳聽，更沒有杞人憂天，現在國內外都已經有很多案例了。

有的僅僅依靠AI配音，就能大騙特騙。

美國CBS電視台做過一期節目，現場展示黑客通過克隆聲音來竊取信息的過程。

整個過程可謂是迅雷不及掩耳之勢。

僅用了5分鐘，對方就通過AI克隆的當事人的聲音，並且通過工具替換了手機來電顯示，從而成功騙過了身邊的人，獲取了相當多私人信息。

國內的“靳東”騙局也一直存在。

很多直播間循環播放着明星的視頻，再加上後期配音的旁邊，就吸引了很多阿姨的關注。

阿姨們聽到聲音誤以為這就是真的明星，沒想到都是騙子利用AI軟件模擬出來的聲線。

目的當然只有一個——騙錢。

有人胃口更大，不甘心只騙普通人的小錢，還要騙公司的大額投資。

於是偽裝出男明星的聲音去談合作，好在公司比較警惕，才沒能讓對方得逞。

現在又有了AI在視頻方面的輔助，騙子更是如魚得水，讓人防不勝防。

前幾天看綜藝，黃曉明説曾經發現自己在不知情的情況下，給某個品牌代言了。

不僅有自己和劉亦菲參加品牌活動的視頻，還在現場講了很多品牌相關的內容。

但他本人對此卻毫無印象，就很恍惚。

後來才知道，這視頻是用AI做出來的，發言也都是AI操作的結果。

連本人都差點被忽悠，何況看視頻的其他人呢？

現在某些直播間，開始用AI換臉明星搞帶貨。

不知情的人看了又怎麼能區分呢？

國外也一樣。

斯嘉麗前幾天告了一名AI程序開發者，因為對方直接用她的形象和聲音來打廣告。

明明是《黑寡婦》的幕後花絮，搖身一變，就成了AI程序的宣傳廣告。

好一個偷天換日。

網絡上本來就很容易出現那種看圖説話的假消息，經常一張圖下去八百個故事就編出來了。

如今有了AI技術，你想編什麼故事，它就給你憑空造出什麼，真與假、是與否的邊界更加模糊。

反倒更方便了造謠傳謠的人，

也給了不法之徒發揮空間。

有人分享過更惡劣的被騙經歷。

騙子截取到他的人臉識別視頻，然後利用AI換臉技術，拼接出一段裸聊視頻，然後威脅當事人要把這視頻羣發給他的通訊錄好友們。

即使當事人知道自己並沒做過這樣的事，也會在一瞬間陷入恐慌，然後被騙子榨乾價值。

或許你會説不要相信網上那些人就好，但是萬一AI偽裝成你熟悉的人來尋求幫助呢？

福州的郭先生就遇到過。

一位好友打來微信視頻，請求幫助。雖然對方一開口就是430萬這樣的鉅款，但微信視頻已經打消了他的懷疑，他二話不説轉了錢。

哪知道，這年頭視頻也能造假。

視頻對面的也不是真朋友，而是披着AI外皮的騙子，只是用了換臉和擬聲的手段。

説起現在這些套路，就連年輕人都難分辨，每每看到都要感慨一句，學無止境。

要是那些本就對網絡科技知之甚少的老年人碰到，就更容易上當受騙了。

反倒是騙子，總是走在學習新技術的前沿。

雖然都説互聯網是虛擬的，但很多時候構建起互聯網的底層邏輯卻是真實和信任。

這下可好，人與人的信任岌岌可危。

“科學技術是第一生產力”，這當然是事實，畢竟我們直白地享受着科技發展帶來的好處。

與此同時，我們不該忽略科技可能帶來的破壞性。伴隨着高速的科技發展，社會結構迎接着巨大沖擊，固有的生產模式更頻繁地遭遇被淘汰的命運，無法及時跟上發展的人經歷着動盪。

這裏牽涉到的問題依舊是，該讓科技去適應人類，還是人類來適應它？

AI技術現在所引發的爭議源頭也在於此。

有人為它的出現欣喜若狂，迫不及待地暢想更多的可能性；同時也就有恐慌AI大規模運用後可能導致的連鎖反應，擔心個人風險與安全。

這些情緒都很正常。

科技的發展，總是伴隨着對科技的擔憂。

照相機曾經被視作攝取魂魄的怪物；

手機在普及階段有過“致癌物”的標籤；

線上支付剛出現時，不少人擔心“唰”得一下，錢就被轉走了，太過隨便，也太過兒戲；

轉基因食品被認為會破壞人體本身的基因；

儘管某些傳聞聽來甚為荒謬，卻的確可能成為某些人猶豫和拒絕的真實理由。

只是現階段，話題的主體變成了AI。

如果用錯地方，它可能帶來可怕的後果。

但只要使用得當，它也能是很好的工具。

它能寫報告、查資料、畫PPT。

它能提供不同的視角，把規律解構成套路，總結出一套供人使用的模板。

偶爾，它也能提到撫慰人心的作用，比人類諮詢師更稱職，還不用擔心它會泄露秘密。

你和它吐槽某個人或某件事，它不會發瘋懟你，只會附和你的發言，順應你的情緒。

你和它抱怨某件事做得不好，它也會提供安慰和方法，而不是讓你在自己身上找問題。

哪怕它説不懂愛，也能講出超越愛的發言。

我們總説科技的發展是雙刃劍。但它的劍刃究竟指向哪方，是由人來決定的，而非由技術。

所以，比擔心AI技術的失控與風險更重要的是，加強對AI生成內容的監管，增加限制。

總好過讓它不受約束地自由發展。

畢竟現實中，開鎖的師傅都得去公安局備案，更何況是這些更不受控的內容呢？

坦白説，我總覺得現在AI技術的發展依舊還在起步階段，它的未來還存在更多的可能。

如何模擬出更“逼真”的人類，如何創造出更“真實”的影像，僅僅是AI大課題下微小的一部分。

它或許該有更高階的思維和靈動的算法，來製造出更多意想不到的驚喜。

但無論怎樣發展，科技都應該服務於人類，帶來更積極更正向的結果。而如何引導科技走向正確的方向，同樣是不容忽視的重要課題。