【島叔説】“一鍵脱衣”造黃謠?警惕AI“髒應用”_風聞
侠客岛-侠客岛官方账号-04-03 21:02
古有“人活一張臉”,今有“一鍵8張臉”——
隨着AI換臉技術發展,改頭換面不再稀奇。但近日,廣州一名正常打扮的女子,在社交平台曬了一張再日常不過的照片,竟被人用AI技術將臉和身體“移花接木”,直接生成了一張地鐵裸照。
“一鍵脱衣”造黃謠,這是利用AI技術作惡,明顯越過了道德和法律邊界,對當事人造成極大傷害。這就有必要説説其間的法律問題。

(圖源:網絡)
一般來講, AI換臉是基於人臉圖像識別的深度偽造技術,應用時很容易存在侵害肖像權風險。《民法典》第一千零一十九條明確規定,任何組織或個人不得利用信息技術手段偽造等方式侵害他人的肖像權;未經肖像權人同意,不得製作、使用、公開肖像權人的肖像,法律另有規定的除外。
2022年就有一個這方面的典型判例。模特樓某某發現,某公司運營的AI換臉APP照搬自己的古風造型視頻模板,用户只需上傳個人照片,就可將模板中的臉替換成任意人臉,除五官發生實質性變化,其餘內容都與原視頻一致。法院審理認為,被告未經樓某某同意,通過技術手段提取涉案古風肖像視頻,擅自上傳至其運營的APP供用户使用,侵害了樓某某肖像權,最終判決被告向樓某某賠禮道歉並賠償損失5000元。
技術的社會屬性是技術風險形成的根源。許多人蔘與AI換臉,初衷無非是圖一樂,可一旦技術向廣大市場開放,運營者就容易利慾薰心,把換臉變成偽造和篡改。
早在2017年,斯嘉麗·約翰遜等多名好萊塢女星的臉就被AI替換入色情視頻。國內也有“惡意換臉”黑產鏈條,一些網上賣家公然宣稱“100元打包購買200部換臉情色片,囊括一二線女星”“400元可購買換臉軟件及教程,一鍵搞定,包教包會”。
**這些案例不單事關肖像權,更涉及侵害當事人名譽權、著作權、個人信息等多項權利。**而在女子被AI“一鍵脱衣”事件中,造謠者還可能涉嫌誹謗罪、侮辱罪、製作淫穢物品牟利罪等刑法罪名。試想,如果這方面技術應用沒有限制邊界,普通人或公眾人物的肖像都可隨意變換偽造,公共秩序將會受到怎樣的衝擊?
今年1月,國家網信辦等部門聯合制定的《互聯網信息服務深度合成管理規定》(下稱“規定”)正式施行,就給此類AI合成技術劃下紅線:“任何組織和個人不得利用AI換臉技術等深度合成服務製作、複製、發佈、傳播法律、行政法規禁止的信息;不得利用深度合成服務從事危害國家安全和利益、損害國家形象、侵害社會公共利益、擾亂經濟和社會秩序、侵犯他人合法權益等法律、行政法規禁止的活動。”
《規定》第十四條還特別指出,深度合成服務提供者和技術支持者提供人臉、人聲等生物識別信息編輯功能的,應當提示深度合成服務使用者依法告知被編輯的個人,並取得其單獨同意。
什麼意思呢?就是立法者重申,人臉等生物識別信息屬於“敏感個人信息”,使用前需得到被使用人“單獨同意”。換言之,使用AI換臉技術時,必須就法律所規定的人臉等個人信息處理活動取得當事個人同意,不能將其與其他信息混同一處,更不能將不同種類的個人信息處理活動混淆使用,模糊而概括地“騙取”個人同意。
説白了,要換走一張臉,就必須在內容、方式、目的、受益、風險等方面取得“臉主”的充分許可。
新興技術有無限未來,但同樣需要明確使用邊界,避免造福人類的技術變成刺向人類的匕首。