經濟學人:為啥廢青上街要戴帽子,捂口罩,照激光燈_風聞
风起向南飞-2019-08-24 15:23
面部識別越來越流行,關於反制措施的一些想法
人工智能技術(AI)的不斷進步,帶動了面部識別系統如野草般不斷普及。知名社交網絡公司Facebook就應用這項技術來給上傳照片上的人添加標籤。智能手機用它進行解鎖。也有些銀行已經用它來對交易進行核實,超市用它來識別未成年買酒者,廣告公司用它來評估觀眾對廣告的反應。美國國土安全部估計到2023年的時候,97%的境外訪客將接受面部識別的掃描。具有面部識別的攝像頭已經在中國西部的新疆組網,併成為警用設施的一部分。作為羣體監控的一部分,部分英國警方也對這項技術進行了測試,用於在街上發現罪犯。
然而,抵制運動也在暗處慢慢發酵。美國的部分城市,包括舊金山和奧克蘭,政府已經禁止像警察這樣的機構使用這項技術。在英國,儘管議員從未停止呼籲,但禁止警察進行相關測試的努力仍未獲得成功。正如近期發生在香港的遊行事件一樣,移民申請未獲成功的難民通過手持激光燈照射監控攝像頭的方法仍能躲過攝像頭的捕捉,因為在激光照射時,攝像頭會產生光暈從而無法正常工作。與此同時,一小部分隱私鬥士和相關學者也在直接探索反制“面部識別”的技術。
正面朝前
面部識別依賴於機器學習,機器學習是隸屬於人工智能技術下的一個子學科,通過機器學習計算機能夠自學完成程序員無法精確描述及解釋的任務。首先,該系統將接受成千上萬張面孔樣例的訓練,在它能精確識別一張面孔時給與其肯定,在識別錯誤時,否定它,它被訓練的能從一堆照片中將含有特定面孔的照片識別出來。一旦它對人臉的樣子形成了概念,它就能分辨出特定的面孔來。對人臉細節特徵變化的把握來源於算法,但通常通過一些關鍵的解剖學數據形成數學模型來展現,例如鼻子相對於其他面部器官的位置,兩隻眼睛之間的距離等。
實驗室測試發現,此係統的識別準確率極其可靠。美國標準制定機構NIST的一項調查發現,在2014年至2018年期間,人臉識別軟件將已知人物的圖像與數據庫中此人的圖像進行匹配的能力從96%提高到99.8%。但是由於機器學習的原因,他們試驗時的視覺系統是定製的。換句話説,計算機的視覺系統與人完全不同,這也導致了算法存在大量的漏洞。
例如,2010年,美國科學家兼藝術家亞當·哈維,作為其紐約大學碩士學位的畢業論文的一部分,他創造出了“計算機視覺眩暈”(cv [computer vision] Dazzle)技術,一種愚弄面部識別系統的化妝風格。他運用高亮色彩,高對比度,分級描影和不對稱的化妝風格方法來擾亂識別算法對人臉的假定推測。雖然對於人的眼睛來説,這種化妝方法絲毫不起作用,但是對於計算機,或者至少是對此套識別算法來説,亞當·哈維達到了他的目的,給算法成功製造了識別障礙。
雖然戲劇般的妝容能擾亂機器的識別功能,但也更容易引起人們的注意。HyperFace是哈維的一個新項目。cv Dazzle的目的是改變面部特徵,而HyperFace則致力於將真人的臉隱藏於數十張假面之下。它使用塊狀的、半抽象的和相對無害的外觀模塊圖案,這些圖案的設計是為了儘可能強烈地吸引分類器。這樣做的目的是在一大堆假的陽性數據中掩蓋真實情況。該圖案的衣服已經上市,衣服上的線條和黑色斑點讓人隱約想起嘴巴和眼睛。
在一篇發表於2018年的論文上,香港中文大學、印第安納大學布盧明頓分校和中國信息技術巨頭阿里巴巴公司的研究人員提出了一個更精妙的想法。在棒球帽上安裝上發光二極管將紅外線光點投射到穿戴者的臉上。許多用於面部識別的攝像頭都對紅外線的光譜很敏感,因為人眼感受不到紅外線,所以這種方法是一種理想的隱藏真實面目的方式。
在針對FaceNet(一種由谷歌開發的人臉識別系統)的測試中,研究人員發現,適量的紅外線照明可以可靠地防止計算機識別出它正在看着的一張臉。更復雜的對抗也是可能的。在對研究人員的同事進行識別時,先尋找到在數學意義上與其同事相似的面孔圖像,並對二極管進行精細控制,然後引導FaceNet,結果在70%的嘗試中,識別出的同事的臉實際上完全是另一個人。
訓練一種算法來對抗另一種算法就是為人所知的反機器學習。這是一種富有成效的方法,創建的圖像會誤導計算機的視覺系統,而對人眼卻毫無作用。2016年,來自匹茲堡卡內基梅隆大學和北卡羅來納大學的研究人員發表了一篇論文,論文寫道:將一塊看起來毫不起眼的抽象圖案打印到紙上,並貼在一副眼鏡上,就能夠使計算機視覺系統將戴着這幅眼鏡的男性AI研究員判定為美國女星米拉·喬沃維奇。
7月,比利時魯汶天主教大學的一組研究人員在一次計算機視覺會議上發表了一篇類似的論文,此次研究人員愚弄的是人的眼睛,而不是面部識別算法。他們利用算法生成了一個40平方釐米的圖案,在測試中,雖然警衞能夠真真切切的看到拿着這種圖案的人經過,而坐在計算機後看監控的人卻對此視而不見,無法從屏幕上找到他。
研究人員自己也承認,所有的這些系統目前都有其侷限性。而且,大多數的算法都是針對特定的特徵進行識別的,這也制約着這些系統無法大規模部署。哈維説,令人欣慰的是,儘管面部識別系統越來越普及,但並非隨處可見或者已臻完美。埃塞克斯大學的研究人員發表於七月份的成果表明,儘管倫敦警方進行了42次匹配實驗,但只有八次被證實獲得了成功。哈維説道,即使在中國,也只有一部分的攝像頭具有敏鋭的捕捉人像並進行面部識別的功能。簡單的防護同樣具有一定迷惑功能。“即使是僅僅穿上高領毛衣,戴上太陽鏡,低頭看手機(而不是直視攝像頭),這些措施加在一起就起到了一定的保護作用。”