危險的人臉識別_風聞

來源：微信公眾號“燃財經”

作者：閆麗嬌 阿倫

AI換臉軟件ZAO的走紅，打開了人臉數據應用的潘多拉魔盒。 

“僅需一張照片，出演天下好戲”，這是ZAO的宣傳口號。當不少人驚歎於其換臉效果的逼真之時，一些人開始擔憂：倘若這一技術被居心叵測的人利用，同樣“僅需一張照片”，你就可能變成色情電影演員、犯罪事件主角或其他你不想成為的人。而這些以假亂真的素材，極有可能成為新型敲詐或詐騙的趁手工具。就像網友擔心的那樣：視頻欺詐很快會成為最流行的犯罪玩法，對騙術識別能力差的老人有極高殺傷力…… 

卸載ZAO（很多人這麼做了），也許能減少一些你的擔憂。但一個嚴峻的事實是，除了ZAO之外，收集並使用我們人臉數據的機構和企業，正變得越來越多。比如，擁有你相冊讀取權限的APP、為你提供人臉解鎖功能的手機廠商、對你進行身份驗證和麪部檢測的金融或教育類APP，甚至是你辦公樓裏的刷臉出入系統，以及無處不在的安防攝像頭。**為了便利，我們正在把自己的人臉數據免費交給越來越多擁有新技術的組織。**這一趨勢浩浩蕩蕩，個人彷彿無法抵抗。 

個人信息買賣幾乎每天都在發生，而如今我們連“臉”都不能好好保護了。除了上面提到的AI換臉帶來的欺詐風險之外，攻擊人臉識別系統從而進行身份冒用帶來的財產、名譽、人身等方面的安全隱患也不容忽視，而3D打印技術的成熟正讓《碟中諜》電影裏面的換臉場景成為現實。更可怕的後果在於，一旦人臉數據與其他隱私數據打通，我們最終會進入“裸奔時代”——當你走在大街上，掌握數據的人只要看你一眼，就洞悉了你的一切，身份、職業、收入、偏好、性格…… 

如果不想淪為數據的奴隸，我們必須從今天開始認真對待我們的“臉面”。

你的人臉正在成為別人的生意

在北京中關村的一家咖啡館裏，劉嘉為燃財經演示了自己的創業項目。 

用户只需上傳一張照片，幾秒之內就能自動生成一份長達12頁的“事業報告”，報告會對一個人的人格特徵、內在特質、外在特質等進行詳細的分析和評價，目的是診斷其適合的職業和管理風格。在使用不同人臉進行了多次嘗試後，準確度之高令筆者十分驚訝。

“這絕對不是AI算命。”劉嘉反覆對燃財經強調，他的產品基於基因學、心理學、醫學等科學，並結合了AI和大數據等前沿技術。未來，劉嘉希望把分析範圍從事業向情感、健康等領域拓展。在筆者看來，劉嘉的項目的最終目標非常可能是——僅需一張照片，就能洞悉你的一切。 

驚奇，伴隨着恐懼。 

劉嘉的項目只是人臉識別浪潮中的一朵小小浪花。一個不得不承認的事實是，我們的人臉正在成為別人的一門生意。 

不久前，人工智能企業曠視科技在港交所提交招股書。曠視科技成立於2011年，起家於人臉識別，在計算機視覺領域與商湯科技、依圖科技、雲從科技並稱CV（計算機視覺）四小龍。2016年、2017年和2018年，其營業收入分別為6780萬元、3.13億元和14.27億元。資料顯示，曠視科技為OPPO、vivo、聯想等知名企業提供人臉識別相關服務。 

**曠視科技謀求上市的背景，是人臉識別技術從公共領域向消費領域的快速延伸。**過去，由於技術創新不足、應用推廣有限、成本高，人臉識別被制約在公共用途，一直沒有進入更廣泛的商業化應用中。 

在智能手機採用人臉識別技術之前，採集我們人臉數據的場景主要是：小區、街道、地鐵、寫字樓、商場、景區等公共場所，採集主要用於安防目的和管理目的。比如去年，張學友在全國召開巡迴演唱會，累計有超過10名逃犯在演唱會前後被抓，“功臣”正是人臉識別技術，這讓張學友本人都不得不感嘆：“我們國家真的太先進了”。 

近幾年，這一局面得到扭轉。智能手機劇增、移動支付習慣的養成，加上人們對智能家居的狂熱，個人消費需求的增長直接推動了移動端消費級人臉識別應用的爆發。從這一點上説，我們正在協助越來越多的廠商收集人臉數據。 

2017年，蘋果推出支持人臉識別解鎖的新款手機iPhone X，小米Note3、vivo V7+等智能手機也推出了人臉識別功能。同年，支付寶、京東、蘇寧也都先後開啓刷臉支付功能。人臉識別的消費級應用場景開始不斷延伸。和指紋識別、虹膜識別、語音識別等其他生物識別技術相比，人臉識別具有極高的便利性和不錯的安全性，其應用場景不斷增多。

資料來源 / 中商產業研究院

中商產業研究院的一份報告顯示，2019年生物識別技術將進入大規模應用階段。**據預測，2020年我國生物識別技術（含人臉識別技術）行業市場規模將突破300億元。**圍繞人臉識別，已經形成了基礎層（芯片、算法、數據）、技術層（視頻人臉識別、圖片人臉識別、數據庫對比檢驗）、應用層（硬件、應用和應用方案）的完整產業鏈結構。

如果細心觀察，你會發現線上線下越來越多的場景都在增加人臉識別功能。

人臉識別過度使用令人擔憂

ZAO的風波還沒過去，曠視科技的風波就來了。

人臉識別被用於課堂 

幾天前，一張帶有“曠視”標誌的視頻監控圖像在社交網絡上瘋傳。圖中不僅有被監控的兩名學生，還有她們的行為數據，比如趴桌子、玩手機、睡覺、聽講、閲讀、舉手的次數等。儘管曠視科技回應稱，這只是“概念演示”。但關於隱私的討論鋪天蓋地而來。大部分人認為：技術雖好，但應該“用對地方”。 

對於人臉識別的應用，微軟主席布拉德·史密斯曾在去年的一場科技研討會上發出警告：****“如果不加以規範和監管，臉部識別技術會徹底改變人們的生活方式並讓人們毫無隱私可言。”

這不是危言聳聽，來看看我們的科技公司們都在謀劃什麼吧。 

教育是人臉識別的“重災區”。不少教育科技公司都推出過類似曠視的監控功能，聲稱可以分析學生在課堂上的行為，並對異常行為實時反饋。一段宣稱是“智慧課堂行為管理系統”的描述是這樣的： 

系統每隔30秒會進行一次掃描，針對學生們閲讀、舉手、書寫、起立、聽講、趴桌子等6種行為，再結合面部表情是高興、傷心，還是憤怒、反感，分析出學生們在課堂上的狀態。目前僅趴桌子一項為負分行為。若此類不專注行為達到一定分值，系統就會向顯示屏推送提醒，任課教師可根據提醒進行教學管理。

除了課堂以外，高校所謂的“智能校門”，教室門及宿舍的出入也都在加裝人臉識別系統。但閘機只是切入點，更多方案提供方希望用AI重構教育全流程，所以出現了上面我們看到的場景。《2019年中國智慧教育行業市場發展及趨勢研究報告》數據顯示，2018年智慧教育的市場規模超過5000億元。眾多AI技術公司、教育場景公司加入紅利的爭奪中。 

巨頭公司也不例外。京東曾推出過一款基於AI的“超級眼鏡”，**據介紹，佩戴“超級眼鏡”的店員可以看到眼前顧客的會員信息、用户畫像、購物傾向等重要信息，全面實現“知其所想，投其所好”。**2017年，京東還推出過自己的無人便利店，通過刷臉來記錄顧客的購買喜好，並將這些消費行為信息保留。 

百度將活體識別技術用在百度錢包賬號找回功能，騰訊微眾銀行用於開户過程。微眾銀行活體檢測需要鏡頭前的用户讀一段文字，並配合語音識別檢測。藉着刷臉識別、人臉支付等黑科技的噱頭，能夠收集人臉信息的應用到了無孔不入的地步。如今人臉識別應用已經變得娛樂化，收集人臉數據的門檻正在一步步降低。

娛樂化大大降低了廠商收集用户人臉數據的門檻 

當然，正如蘋果公司CEO庫克所説，“技術本身沒有好與壞，一切由我們人來決定”。 

人臉識別的應用邊界在哪裏，值得所有從業者思考。百度創始人李彥宏曾經因為説“中國人願用隱私換便利”引起輿論圍攻，在技術好與壞的判斷上，科技大佬們的態度也很關鍵。 

可怕的後果

早在2017年，前美國中央情報局技術分析員斯諾登就曾經預言：以手機解鎖為代表的人臉應用出現，會讓人臉掃描正常化，也會讓人臉識別終將被濫用。 

如今，**隨着越來越多的人臉數據被上傳到雲端，數據泄露或違規使用的可能性大大增加。**以ZAO為例，ZAO能走紅的一大原因是，它降低了AI換臉的使用門檻。但該技術同樣可能被用於虛假宣傳，比如愛“炫富”的微商們，以前喜歡P圖和奧巴馬握手，以後是不是會直接上一個以假亂真的握手視頻？以前希望借“馬雲語錄”為各種忽悠項目站台的微商們，以後是不是會直接上一個馬雲“親自代言”的視頻？ 

敲詐和詐騙也需要警惕。2017年底，國外一位ID為“deepfakes”的網友，首先使用了AI換臉算法，此後這種算法也被命名為deepfakes。隨後在國外的Reddit論壇上，產生了大量的AI換臉視頻。然而這一技術後來被亂用，開始有人用換臉技術將色情作品中的主角換成明星臉，並上傳到著名的色情影片分享網站Pornhub上。未來，如果有人把我們換臉成色情影片演員、犯罪事件主角、被綁架的人質……或者偽裝成我們進行視頻通話（結合聲音模擬技術），並以此進行敲詐或對親友詐騙，後果同樣不堪設想。 

《每日郵報》日前報道，今年3月，一名詐騙犯利用AI語音模仿軟件冒充公司大老闆，成功讓一家英國能源公司的CEO相信自己正在與德國公司的老闆通電話，並騙走了22萬歐元。未來，如果類似騙術結合換臉視頻，詐騙的成功率恐怕會更高。 

FaceTime是蘋果手機內置的一款視頻通話軟件，曾有不少網友表示接通後對方處於黑屏狀態。除了發垃圾廣告外，還存在一種可能，對方截取你的面部畫像用以破解人臉識別系統，細思極恐。 

用淘寶搜索“假臉面皮”，可以以非常低的價格輕鬆買到周潤發、劉德華、周星馳等明星的乳膠面具，有商家也可接受定製。未來，隨着3D打印技術的成熟，電影《碟中諜》裏面的場景恐怕很快會成真。 

福布斯記者Thomas Brewster發佈過一篇文章，介紹了3D打印頭型如何成功騙過智能手機人臉識別的過程。Thomas Brewster合成了一張自己完整的3D圖像，打印出了一個3D頭型，然後對5款手機的人臉識別功能進行解鎖測試，驚訝的是其中有4款都淪陷了。人臉識別被成功騙過意味着我們並不能百分百依賴人臉識別措施。

Thomas Brewster的3D打印頭型 

唯一值得慶幸的是，換臉技術暫時還不能大規模威脅到我們的手機支付安全。一位技術人員告訴燃財經，刷臉支付需要調用攝像頭對人像進行檢測，屏幕反拍的方式目前並不能騙過攝像頭的生物監測技術。 

但也不要輕易樂觀。美國有一款名為Twinning的應用，用户只需上傳照片，就能通過人臉識別找到與其容貌最相似的明星。但在走紅之後，產生了非常嚴重的信息泄露，現在在谷歌搜索中，還能看到不少泄露出來的照片。因此，謹慎使用可能收集我們人臉數據的應用十分重要。 

可能到來的“裸奔”時代

人臉識別最大的風險在於，一旦人臉數據被泄露並和其他個人信息打通，將導致一個徹底“透明”的時代的到來。 

今年年初，燃財經曾經報道過巧達科技，這家企業因為非法竊取公民信息被查封，36人被檢察機關依法批准逮捕。燃財經拿到的一份文件顯示，巧達科技宣稱其數據庫有2.2億自然人的簡歷、簡歷累計總數37億份。此外，巧達科技還有超過10億份通訊錄，並且掌握着與此相關的社會關係、組織關係、家庭關係數據。 

巧達科技靠此牟利巨大。2016年，巧達科技全年收入1.2億元，淨利潤4800萬元；2017年，巧達科技全年收入4.11億元，淨利潤1.86億元，淨利潤率超過45%。而其殺手鐧就在於對數據的“打通”。 

人臉數據，倘若被泄露，並與其他數據關聯，將帶來災難性的後果。因為其特殊性在於，人臉代表着對一個人現實身份的確認。未來，非常可能出現的場景是：當我們走進一家商店，店員立刻就能知曉關於我們的一切：身份、職業、收入、偏好、性格…… 

而當這一天來臨時，每個人都將處於“裸奔”狀態。甚至戴上面具也無濟於事，因為攝像頭還能識別你的體型、你的步態。

我們應該如何對待人臉識別

除非與世隔絕，否則無法完全拒絕人臉識別。 

對外經貿大學數字經濟與法律創新研究中心執行主任許可認為，人臉識別技術在商業上的使用無法一刀切禁止，從理論上講，所有的數據都有泄露的可能。對於個人而言，需要在便利性和個人信息保護上權衡和取捨，對於珍視個人信息勝於便利的人，最好完全不使用任何要求進行人臉識別的App，通過市場機制倒逼企業做好隱私保護。 

北京市安理律師事務所高級合夥人王新鋭表示，人臉數據在各國的立法中通常都屬於個人敏感信息。之所以敏感，在於其天然能夠真正識別個人身份且終身無法更改，而且容易以非接觸的方式收集。從某種程度上説，生物識別信息真正定義了我們每個人。 

目前，多國都在開始進行立法強化對人臉信息收集以及識別技術應用場景的約束。今年7月，繼舊金山之後，美國出現了第二個禁止人臉識別的城市。馬薩諸塞州的薩默維爾市議會通過了禁止在公共場所使用面部識別軟件的投票。新政策生效後，該市各機構、分局或下屬部門，均不得在公共場所使用面部識別技術。但只是禁止了公共場所的使用權，沒有涉及商業範疇。

我國也已經有數據相關的立法，正在徵求意見階段。國家互聯網信息辦公室在今年5月發佈的《數據安全管理辦法（徵求意見稿）》中規定：“如果收集使用規則包含在隱私政策中，應相對集中，明顯提示，以方便閲讀。另僅當用户知悉收集使用規則並明確同意後，網絡運營者方可收集個人信息。”而且“網絡運營者不得以改善服務質量、提升用户體驗、定向推送信息、研發新產品等為由，以默認授權、功能捆綁等形式強迫、誤導個人信息主體同意其收集個人信息。”

王新鋭認為，換臉、換聲這類App最大的問題在於其大規模收集的生物識別信息如果發生泄露及濫用，會造成各種欺詐和造假。且**生物識別信息的丟失會比其他身份信息的丟失造成更嚴重的後果。**主要原因在於不可更改性，比如郵箱、電話可以更改，但人臉、聲音、虹膜等信息泄露後，沒有辦法再更改。 

針對AI進校園、生物識別技術在校園逐步開始應用的現象，9月5日，教育部科學技術司司長雷朝滋在接受澎湃新聞採訪時表示，“（對於人臉識別技術應用）我們要加以限制和管理。現在我們希望學校非常慎重地使用這些技術軟件。” 

到目前為止，人類在人臉識別這一技術面前仍然處於手足無措的觀望狀態。我們應該行動得更快一點，在人臉識別的大規模危害正式發生之前。