陳根：妙鴨相機爆火之下，AI寫真的安全問題怎麼辦？_風聞

文/陳根

近日，“妙鴨相機”爆火。

作為一款AI寫真小程序，我們只要通過這個小程序，上傳一定數量的照片，選擇好模版，就可以一鍵生成AI風格化寫真，包括肖像照、藝術照、證件照等。

雖然首次生成需要支付9.9元的數字分身製作費，不過，相比動輒幾百上千的攝影工作室約拍價格，9塊9幾乎是可以“無腦衝”的程度。妙鴨相機在爆火的同時，也引發了人們對於AI寫真的倫理與安全問題的擔憂。

**AI寫真面臨的倫理與安全問題之所以會被關注，核心原因就在於基於AI的技術進入了真正落地應用的階段，**不論是寫真，還是醫療，或者是文本，都會面臨安全與倫理的問題。但AI寫真的安全與倫理問題相對比較急迫，不僅牽涉到潛在的詐騙問題，更會牽涉到藉助於AI生成技術導致的一些照片與小視頻換臉問題。

同時，在AI寫真技術目前，肖像權的保護與個人肖像隱私，以及基於人臉識別系統的一些安全措施都將面臨着根本性的挑戰。尤其是包括妙鴨在內的各種AI照片寫真與合成技術，對於用户而言在使用之前更重要關注的是這些平台數據的安全保護措施。

對於擁有這些人像生成AI技術的平台而言，當前首先考慮的並不是商業化的問題，而是如何保障用户數據庫的安全，這些數據庫的安全不僅牽涉到用户隱私安全，還牽涉到國家安全層面。

因此，我們看到白宮在前幾日緊急召集AI巨頭企業到白宮商議對策。這讓我們看到了正在到來的人工智能時代，人類社會已經有了明確的基本共識，就是要藉助於技術的約束來讓AI技術服務於人類，讓AI成為人類社會的效率提升工具。要藉助於有效的技術方式，保障AI在安全與可控的倫理範圍內發展。 

AI巨頭在白宮的壓力下，提出了八項技術的安全措施。這可以説是全世界所有從事於AI開發與訓練企業需要學習的地方，就是在追求AI技術發展的同時，必須要考慮對AI技術的監管，以及要考慮AI萬一偏離設想後的風險管控與干預。

訓練AI服務於人類社會很難，但是如何再AI自我學習的情況下，能夠管控AI不偏離服務人類社會的這個設想更難。