一起價值2.5億港元的Zoom深度偽造詐騙案顯示了新的人工智能風險 - 彭博社
Parmy Olson
Deepfakes are everywhere.
攝影師：OLIVIER DOULIERY/AFP
面部識別最近才開始流行。
攝影師：Qilai Shen/Bloomberg給你下達命令的老闆是真實的還是隻是看起來真實的？現在深度偽造技術已經讓Zoom視頻通話變得更加尷尬，讓我們質疑我們的同事是否真實。香港的一名金融工作者在一次視頻會議中被冒充成其首席財務官和其他同事後，向騙子轉賬了超過2500萬美元，這或許是迄今為止利用深度偽造技術進行的最大規模的公司欺詐案。這名工作者對一封要求進行秘密交易的電子郵件感到懷疑，但騙子在通話中看起來和聽起來如此令人信服，以至於他匯出了這筆錢。
企業IT經理們花了十多年的時間，常常徒勞無功地試圖訓練辦公室工作人員識別釣魚郵件，並抵制點擊可疑附件的衝動。通常情況下，黑客和欺詐者只需要在數百人中找到一個人無意中下載所需的惡意軟件，就能侵入企業網絡。藉助AI驅動的視頻工具，他們正在進入我們認為安全的領域，突顯出深度偽造技術在過去一年內的迅速發展。雖然聽起來像是科幻小説，但這類精心策劃的欺詐案現在相對容易設置，讓我們進入了一個新的懷疑時代。
在香港的欺詐案几乎肯定使用了實時深度偽造技術，這意味着在會議期間，虛假的高管會像騙子一樣實時模仿他們的聽覺、説話和點頭動作。根據喬治亞州立大學犯罪學教授大衞·邁蒙的説法，自去年以來，網絡詐騙分子一直在視頻通話中使用實時深度偽造技術進行規模較小的欺詐，包括浪漫詐騙。
邁蒙在LinkedIn上發佈了下面的視頻，展示了開發人員向潛在的欺詐者出售深度偽造視頻工具的演示。在視頻中，你可以看到左邊是一個男人的真實形象，右邊是他的虛假人物，中間是一個美麗的年輕女子在欺騙男性受害者：
對於我們大多數人來説，這是未知的領域，但以下是香港受害者本可以用來發現深度偽造的方法，以及我們在未來進行敏感視頻通話時都需要做的事情：
- 使用視覺線索來驗證你正在交談的對象。深度偽造仍然無法在實時中進行復雜的動作，所以如果有疑問，可以要求你的視頻會議對方在一張紙上寫下一個單詞或短語，並在攝像頭前展示出來。你可以要求他們拿起附近的一本書或進行一個獨特的手勢，比如觸摸耳朵或揮手，所有這些對深度偽造來説在實時中都很難逼真地複製。
- 觀察嘴巴。留意唇同步的不一致或奇怪的面部表情，超出了典型的連接故障。
- 使用多因素認證。對於敏感會議，考慮通過電子郵件、短信或認證器應用進行第二次對話，以確保參與者的身份與其聲稱的一致。
- 使用其他安全通道。對於將涉及敏感信息或金融交易的關鍵會議，你和其他會議參與者可以通過加密消息應用如Signal驗證你們的身份，或通過同樣的通道確認決策，比如金融交易。
- 更新你的軟件。確保你使用的視頻會議軟件是最新版本，以防它包含了用於檢測深度偽造的安全功能。（Zoom Video Communications沒有回答是否計劃向用户提供此類檢測技術。）
- 避免使用未知的視頻會議平台。特別是對於敏感會議，使用像Zoom或Google Meet這樣具有相對強大安全措施的知名平台。
- **留意可疑的行為和活動。**一些策略經得起時間的考驗。對於緊急要求付款、涉及重大決定的臨時會議，或者語氣、語言或説話風格的變化要警惕。騙子經常使用壓力戰術，所以要小心任何急於迅速做出決定的嘗試。
一些這些技巧可能會隨着時間而過時，特別是視覺線索。就在去年，你可以通過要求説話者側身來辨別深度偽造視頻。現在一些深度偽造視頻可以逼真地左右搖頭。
多年來，欺詐者一直在侵入富人的計算機，收集他們的個人信息，以幫助他們通過銀行的安全檢查。但至少在銀行業，管理人員可以制定新流程，迫使下屬加強安全措施。企業世界則更加混亂，各種不同的安全方法讓欺詐者可以輕易地擴大他們的網絡，找到漏洞。
越來越多的人意識到可能存在欺詐的可能性，騙子們的機會就越小。我們只能付出代價，因為視頻會議的不適感變得越來越痛苦，而有關同事靜音的Zoom老梗也變成了要求他們撓撓鼻子。
更多來自Bloomberg Opinion的Parmy Olson：
想要更多彭博觀點嗎？ OPIN <GO>****。或者您可以訂閲 我們的每日新聞簡報**。**
在過去的十年中，中國引入先進的監控技術，使得中國共產黨比歷史上任何政權都更有能力監視公民。西方政府擔心這種技術威權主義模式可能會隨着中國向全球發展中國的設備而傳播。美國已經對中國公司實施了一系列限制，部分原因是為了減緩這些技術的發展和出口。
雖然警惕是必要的，但對中國式“老大哥”主導世界的末日警告是誇大其詞的。中國的監控國家之所以如此強大，並不是因為技術，而是因為共產黨無與倫比的組織存在和複雜性。這種獨特的體系不像攝像頭、傳感器和軟件那樣容易出口。