科技雲報到：從“N 號房”看Deepfake亂象，如何證明“我”不是我_風聞
科技云报到-深度原创企业级IT内容行家昨天 21:22
科技雲報到原創。
“9張瑪麗蓮夢露的照片裏，有2張是AIGC偽造的，你能看出來哪張是假的嗎？”
比賽可以用AI技術去對抗，但實際生活中肉眼難辨AI真假，我又要如何去證明‘我’不是我？
就在不久前，Deepfake又以惡性事件造成大面積恐慌出現在公眾視野。連日來，有多位韓國女性在中文社交平台發帖求助，稱韓國正再次上演“N號房”事件，包括未成年在內的眾多受害女性，都是在毫不知情的情況下照片被盜用，不法分子利用Deepfake技術換臉至淫穢色情圖像或視頻之中，在韓遭大面積傳播。
Deepfake即利用深度學習算法，實現音視頻內容的模擬和偽造，可用於電影製作、視頻編輯、虛擬現實等領域。韓國N號房事件的同一時間，馬斯克在社交媒體上被AI換臉致老人大額退休金被騙，引發廣泛討論。
從製造虛假信息到偽造名人影像，Deepfake再次觸碰道德與法律邊界，AI發展催生深偽技術濫用，讓社會深刻意識到對抗Deepfake迫在眉睫。除了手握技術利器之外，更應利用行業資源與人才優勢，共同應對，方能事半功倍。
近日，風起雲湧的黃浦江畔，2024外灘大會如約而至。隨大會一同亮相的，還有一場全球矚目的Deepfake攻防挑戰賽，全世界的“最強大腦”齊聚於此，上演一場對抗深偽技術的頭腦風暴。
值得一提的是，大賽倡導優秀參與者開源比賽模型，降低技術門檻、加強技術交流，進而幫助更多人檢測偽造內容，助力AI向善。倡議一經發出，就得到中國科學院自動化研究所VisionRush隊伍和澳門大學JT Group的積極相應。截至目前，已有近百名選手及所在隊伍表示願意參與代碼接力，希望通過技術手段，為每一個可能受到傷害的人提供保護。
Deepfake技術猖狂 恐慌情緒仍在蔓延
Deepfake的邪惡之處在於，不僅偷走了臉，更是竊取了人們的身份、名譽、隱私和尊重…
韓國採用深偽技術的性犯罪案件數量每年都在增加，犯罪嫌疑人中包括不少青少年。此次參與N號房事件，在韓軟件Telegram羣聊中進行傳播的人多達22萬。韓媒稱，受害者包括大學生、教師和服役人員。即便如此，韓國警方並未給出很好的解決方案，致恐慌情緒無限蔓延。
不僅是韓國，當下放眼全球，各國都時有發。就連美國著名歌手泰勒·斯威夫特、企業家埃隆·馬斯克這樣的名人也難逃被AI戲弄的時刻。
全球Deepfake攻防挑戰賽後，“VisionRush”決定在網上開源其參賽作品，模型可幫助Deepfake受害者降低技術使用的門檻，為無數孤立無援的韓國女性受害者帶去希望，能夠證明“我”不是我。
攻防賽上，針對Deepfake技術，全球眾多優秀的選手展現了高水平的思考以及高技術的正面較量。大賽分主流的圖片和音視頻賽道，數據集含公開及偽造數據，偽造圖片有超50種生成方式，音視頻納入超100種組合攻擊方式，訓練數據總量超百萬。
螞蟻數科出題團隊ZOLOZ和天璣實驗室考慮多重因素打造高度模擬真實場景的攻擊環境，為選手提供極具挑戰的競賽平台，推動AI向善技術人才的培養和發展。
現如今生成式AI爆火，數據量龐大，圖片和視頻有時候真假難辨，專業的防禦也很難。VisionRush隊長王博表示，除了監管難度大之外，資源投入不平衡也是防偽的一大難點，希望以後學術界和產業界可以共同合作，推動網絡安全的研究工作。
參賽選手唐永威本科就讀於商科專業，卻在AI領域找到了自己的天賦。他以獨特的思維方式，從業務角度出發理解賽題，進行建模和優化迭代，並最終獲得視頻賽道的一等獎。
兩個半月激烈比拼，優秀技術與AI模型湧現，為全球抵抗Deepfake注入信心。
這場由螞蟻集團主辦、螞蟻數科承辦的比賽，針對“AI換臉”的欺詐風險進行攻防實戰演練，設立百萬獎金池，賽事吸引來自全球21個國家和地區的2200多名參賽者，共1500多支團隊。
“報名人數超出想象，大賽審核人員也從最初的一名增加至五名。”作為此次大賽背後出題團隊的負責人，ZOLOZ技術總監姚偉斌表示，“大賽希望引起大家對Deepfake危害的重視，通過賽題強大的數據庫去推動行業檢測能力提升，將訓練集、驗證集和公開測試集開源，為各公司訓練檢測能力提供直接幫助。從長遠考慮，希望推動人臉檢測標準的發佈，以及國家法律法規層面對AIGC內容進行規範。
螞蟻數科CEO趙聞飆表示，“此次大賽螞蟻數科將以往商業實戰中積累的攻防經驗融入賽事設計與賽題數據集，希望與同行結成戰友關係，共同提升全行業的安全防禦水位，引起全球對Deepfake的重視，這也是承辦比賽的初心所在”。
AI換臉不僅會出現在極端惡性犯罪中，還會出現在日常的刷臉認證、金融支付、電信詐騙等生活場景之中，給人們的生活和財產安全帶來嚴重威脅。
姚偉斌坦言：“AIGC的生成偽造攻擊量今年比去年增加了10倍，去年的攻擊濃度為1%，今年升至10%，相當於100個人中有10個人的身份信息是AIGC偽造的，風險呈指數級上升，這一現象在韓國、菲律賓、印尼等多個國家都普遍存在，不得不高度警惕。”
為此，ZOLOZ早在2017年就推出了可信身份認證服務，基於證件識別與防偽、金融級人臉識別、身份風險網絡等先進技術及全套風險策略，早已成為多國金融APP的重要安全防線。
ZOLOZ在螞蟻集團多年的風控經驗基礎上，搭建了一套端雲一體的全鏈路技術體系，前端通過精密傳感器校驗與多維特徵動態風控，嚴格審查軟硬件環境，確保生物特徵數據真實無篡改。同時，利用深度學習模型分析面部動態，在面對國外不同膚色、不同人種、不同語言時都能夠精準判斷真人實時互動。
技術升級的同時，挑戰也在不斷上演。
以印尼“待就業卡”計劃為例，可信身份認證技術發揮了關鍵作用。面對印尼政府對隱私數據不能出境的嚴格要求，ZOLOZ投入資源在印尼機房部署本地系統。此外，為適應中低收入階層學員採用的H5登錄方式但安全性較低的情況，ZOLOZ更是有針對性地加強HTML5頁面的安全性。截至目前，技術已幫助1700萬人實現在線職業培訓，保障 21.3 億美元獎學金精準發放到學員電子賬户。
在菲律賓，身份認證服務挑戰更為巨大。由於沒有統一的身份證件，各類證件質量參差不齊，ZOLOZ為此設計了通用開發框架以適配不同版式證件。上線eKYC功能後，雖然菲律賓本地錢包GCash具備了識別10多種當地證件的能力，申請流程和成本大幅降低，但在信息存儲不能出境的限制下，ZOLOZ通過獲得多項安全認證（如ISO27001、27701、SOC2、PCIDSS等），並在其SaaS雲端不保留任何個人數據的方式，與菲律賓的安全團隊緊密合作，確保了用户信息的安全與合規。
儘管挑戰重重，但可信身份認證服務出海至今，已顯著助力多國數字化進程。驗證時間從幾天縮短至3分鐘，成功率從65%提升到90%以上，實人認證準確率達99.9%，成本大幅下降。ZOLOZ的技術在全球範圍內展現了強大的適應性和實力，其服務現已覆蓋金融、電信、政務等領域，惠及數十個國家和地區，成為全球數字化轉型的重要支撐。
國內誕生首個 “AI換臉”行業標準
歷史上，從http到https的轉變歷經近十年才得以廣泛應用，Chrome最終強制要求使用https以杜絕假冒網站，為解決AIGC問題提供了思路借鑑。
未來，每一張AIGC生成的圖片和視頻或許都應帶有簽名，如https證書一般，以攔截偽造方式、降低防禦成本，這需要政府、標準制定方、大模型廠商和安全廠商等多方面共同努力。目前，大模型廠商在生產端已採取添加水印等規範措施，但消費端的瀏覽器、聊天工具等尚未對AIGC內容進行限制觀看操作。
如此看來，Deepfake仍有太多可乘之機，法律法規的完善便日顯迫切。
8月1日，歐盟出台的《人工智能法案》正式生效，成為人工智能監管的重要轉折點，其影響廣泛。9月5日，歐盟輪值主席國匈牙利代表歐盟簽署《人工智能框架公約》。隨着 AI法案在全球不斷出台，為全行業更新了標準，但這還遠遠不夠。
在姚偉斌看來，利用Deepfake犯罪之人頗為狡猾。儘管ZOLOZ已幫助不少國家對抗Deepfake，但仍無法阻止犯罪從一個區域轉移至另一個區域。
企業也應擔當責任。今年5月16日，ZOLOZ加入新加坡人工智能倫理與治理倡議（AI E&G BoK），與行業機構共建健康、穩健、合乎道德的人工智能生態。外灘大會期間，ZOLOZ聯合十餘家機構發佈國內首個面向金融場景的“AI換臉”檢測標準。該標準的發佈為金融場景下的虛假數字人臉安全檢測和評估提供了依據，也填補了這一領域的空白。
未來，在國內，ZOLOZ將與信通院合作推動內容水印、標識落地；在國外，會與Adobe發起的C2PA聯盟共同規範內容標識。
我是我，但“我”也可能不是我。
AI技術如同一把雙刃劍，在展現技術創新的同時，也為社會安全敲響警鐘。
面對挑戰，我們亦見技術社區積極構建防禦體系，開源攻防模型，提升公眾意識。
展望未來，強化法規與技術並行，不僅能夠遏制不當使用，更能保障數字時代的誠信與安全，讓AI持續向善發展，服務於人類社會的長足進步。