9.9元AI寫真“敲醒”了三羣人,一次公眾隱私意識的覺醒_風聞
IT时报-《IT时报》官方账号-07-25 18:44

暴擊移動電話的是微信,打敗海馬體的是妙鴨?
作者/ IT時報記者 孫妍
編輯/ 孫妍
已經很久沒見到朋友圈刷屏相似風格的照片,證件照、古風照、港風照……成片效果甚是精美逼真,還以為是海馬體、天真藍出寫真拍攝優惠套餐了,沒想到是9.9元就能擁有的AI寫真,出自一款叫“妙鴨相機”的小程序之手。
其實,這是一款用AI生成風格化照片的應用,上傳20張正臉高清照片,支付9.9元,AI就能幫你生成數字分身,然後挑選不同風格,一鍵生成寫真風的照片,如果需要下載原圖或生成高清版照片需要耗費2鑽石,1鑽石摺合0.1元,鑽石6元起充。


“妙鴨相機”小程序在7月17日上線,微信指數顯示,從7月18日開始,“妙鴨相機”這一關鍵詞的搜索指數便直線上升,7月24日指數為688萬,日環比247.15%。
可能連它自己都沒預料到,以致於算力準備不充分,高峯期排隊製作時間長達十幾小時,四五千人排隊,這幾日排隊時長已縮短到幾小時。
“妙鴨相機”的刷屏,“敲醒”的第一羣人是海馬體、天真藍等連鎖寫真攝影機構。
不需要花一兩小時化妝換裝,不需要等幾天的修片時間,最重要的是,不用支付100至500元的昂貴費用,用户可以收穫同樣精緻的寫真照,而且離逼真已不遠。這些攝影機構雖然已經開始採用AI修圖工具,但它們沒有預料到,AI寫真這一“價格屠夫”來得如此快。


如出一轍的證件照生意搶定了,流水線生產的寫真照搶定了,也許結婚照、婚紗照的生意也快被搶。生成不同風格的模板並不難,稍有難度的是雙人、多人頭像的處理。
其實,最有危機感的是第二羣人——數字人圈、元宇宙圈,甚至AIGC(生成式人工智能)圈。
圈內人表面平靜,私底下已吵翻天,沒想到打開C端市場的AIGC應用是一個如此簡單的應用。也許,簡單、剛需、門檻低就是現象級產品的王道。
讓數字人圈甚至元宇宙圈忌憚的是,阿里大文娛的野心。沒錯,“妙鴨相機”主體是未序網絡科技(上海)有限公司,也是土豆網的主體公司,而優酷土豆早就被阿里大文娛收購。
細讀“妙鴨相機”的用户服務協議,可以讀出不少門道,首先,阿里大文娛的野心很大,準備把數字分身搬到元宇宙,這就涉及到2D照片轉換成3D形象,從技術上來説,還需一段時間的沉澱,但讓用户用起來是最重要的,阿里大文娛至少邁出了第一步。
當年,微信革了中國移動“飛信”的命只是開端,固定電話、移動電話等社交方式都發生了巨大的變革;外賣革了方便麪的命只是開端,到店就餐等生活方式也發生了巨大變革。
“妙鴨相機”革了海馬體等連鎖攝影機構的命只是一個開端,創意圖庫、視頻製作等行業都將很快被“革命”,速度取決於AIGC圈的合規工作,C端產品將更快點燃市場。一個重要的節點是,8月15日起,《生成式人工智能服務管理暫行辦法》將正式施行,一場AIGC改變社交、生活方式的變革正在醖釀。
比起優酷土豆抓住了生成式AI的財富密碼,更令人欣喜的是,這是一次公眾隱私保護的覺醒。
在“妙鴨相機”走紅後,其過度索取隱私數據的“霸王條款”便引發爭議。最初的用户協議顯示,用户需授權“妙鴨相機”在全世界(包括元宇宙等虛擬空間)範圍內享有永久的、不可撤銷的、可轉讓的、可授權的、免費的和非獨家的許可,使得“妙鴨相機”可以任何形式、任何媒體或技術(無論現在已知或以後開發)使用用户的內容。“妙鴨相機”係為了能夠提供、確保和改進本服務(包括但不限於使用AI生成內容作為再訓練數據等)。

初版用户協議
最終,用户的質疑促使“妙鴨相機”修改了用户協議和隱私條款併發布聲明,表明用户上傳照片只用於數字分身製作,不會提取也不會用於識別和其他用途,且分身製作完後自動刪除。

用修改後的協議來看,“妙鴨相機”確實刪除了不可撤銷的授權許可,以及過度索取授權等問題。

修改後協議
曾記得,在用户換臉 “出演”電影經典片段刷屏時,只有媒體或安全圈人士在呼籲用户注意個人隱私保護,絕大多數用户並沒有意識到隱私泄露的嚴重性。這幾年,《個人信息保護法》、《數據安全法》等法案的出台,也漸漸喚醒了用户、相關公司的隱私保護意識。
多位從事安全工作的“白帽子”對記者説,還是不敢輕易嘗試這類製作數字分身的工具,“20張高清正臉照片,可以做很多事了。”“90%以上的信息泄露都是監守自盜,而不是黑客攻擊,公司可能沒有主觀惡意,但對員工沒有很好的約束力。”一看到要上傳高清正臉照片,他們的腦海裏就會閃過深度偽造技術和無數的案例。
前不久,10分鐘被騙430萬元、9秒鐘被騙245萬元等鉅額詐騙,都是受害者在微信視頻通話後,才將錢轉給了所謂的“好友”,詐騙分子極有可能利用了AI換臉、AI換聲等技術。一位大學教授最近也跟記者説起,自己經歷了類似的AI換臉騙局,詐騙分子盜用的是一位地方領導的微信,所幸這位教授識破了騙局。
在此之前,詐騙分子甚至用假人臉騙過了安全防範等級極高的銀行App。國內安全團隊瑞萊智慧RealAI就曾通過對抗樣本攻擊,破解19款安卓手機的人臉識別解鎖系統。即便是搭載了交互式活體檢測功能的十餘款金融和政務服務類App,也都被輕易破解。
連安全專家也沒有很好的技術手段來規避這類騙局,但都提醒道,普通人儘量不要在社交媒體上大量曬個人及家人的照片、視頻等,因為深度偽造視頻的原材料就是這些,數據越多,訓練出來的視頻越逼真。
待到C端用户的AIGC應用百花齊放時,隱私安全、版權保護等問題必將湧現。微信、抖音包圍人生的時代,即將發生變化,AIGC會創造一個新時代,顛覆總髮生在意想不到的邊緣,誰會是下一個微信、抖音?
排版/ 季嘉穎
圖片/ 妙鴨相機
來源/《IT時報》公眾號vittimes