《華爾街日報》:新澤西州一所高中因學生真實照片被偽造裸照引發軒然大波
Julie Jargon
當新澤西州韋斯特菲爾德高中的女生們發現男生們在羣聊中分享她們的裸照時,她們感到震驚,這不僅是因為隱私被侵犯,更因為這些照片並非真實。
學生們稱,一名或多名同學利用人工智能在線工具生成這些圖片後與他人分享。這一事件在這個紐約市郊的富裕小鎮引發了軒然大波。
隨着免費或廉價AI工具的普及,經過數字篡改或偽造的圖片視頻呈爆炸式增長。專家表示,雖然從奧普拉·温弗瑞到教皇方濟各等名人的偽造形象吸引了媒體關注,但絕大多數虛假內容涉及色情。
由於此類圖像的法律界定模糊——以及如何或是否應懲罰製作者——在AI技術飛速發展的當下,家長、學校和執法機構正疲於應對。
該校在給家長的電子郵件中證實了此事,但韋斯特菲爾德公立學校發言人拒絕透露涉事學生人數,也未證實是否採取了紀律處分,理由是需保護學生隱私。
部分韋斯特菲爾德家長表示,他們的女兒感到羞辱與無助,擔心這些照片日後流傳會對女孩們造成傷害。更令他們沮喪的是,目前問題仍未得到解決。
即便在家長羣體中意見也存在分歧。當地臉書羣組裏,有人呼籲嚴懲圖片製作者,也有人認為這只是年輕人應被原諒的過失。
這場爭論及其餘波可能會持續數月。韋斯特菲爾德警方正在調查中,一位州參議員已要求縣檢察官介入此案。
竊竊私語
一位母親轉述其女兒(當事人同學)的説法稱,10月16日星期一,韋斯特菲爾德高中的二年級男生表現得"怪異",他們彼此交頭接耳,比平時安靜許多。
這位母親表示,女生們開始追問緣由。直到10月20日,一名男生才向部分女生透露了竊竊私語的內容:至少有一名學生利用人工智能網站,將網上找到的女生照片製作成色情圖片,隨後在羣聊中與其他男生傳播。韋斯特菲爾德的女學生們向校方報告了此事,校方隨即開始約談可能知情的男生。
韋斯特菲爾德高中校長瑪麗·阿斯芬迪斯在10月20日致家長的郵件中表示,她相信這些圖片已被刪除且未繼續傳播。
“這是非常嚴重的事件,“阿斯芬迪斯寫道,“新技術使得偽造圖像成為可能,學生們必須明白這些行為對他人可能造成的傷害和影響。“她承諾將繼續教育孩子們負責任地使用技術。
據家長反映,多名女生從校方處獲知,部分男生在生成的圖片中指認了她們。學區發言人拒絕透露校方工作人員是否查看過這些圖片。
接受《華爾街日報》採訪的女生家長(包括向當地警方報案的四位家長中的兩位)表示,他們及其女兒都未曾見過這些圖片。據知情人士透露,警方也尚未獲取相關圖像。
“目睹年輕女孩在人生脆弱階段遭受心理創傷,這種情形令人痛心。”韋斯特菲爾德市市長雪萊·布林德爾在接受採訪時表示。作為該市首位女性市長,她自稱是女性權益的長期倡導者。
曾任職HBO高管的布林德爾呼籲受影響者向警方提供證言。韋斯特菲爾德市政府發言人表示警方不予置評。
多蘿塔·馬尼稱,她14歲的女兒弗朗西斯卡已收到校方通知,確認其照片遭盜用。
“我恐懼的是這些照片何時會曝光。女兒前途光明,但沒人能保證此事不會影響她的職業發展、學業或社交。”已向警方報案的馬尼表示,她不願女兒與圖片製作者同校學習。
一部手機即可作惡
數字霸凌在美國校園普遍存在。智能手機內置攝像頭使網絡騷擾的危害更持久深遠。儘管人們使用Photoshop等修圖軟件已有多年曆史,但新型AI圖像生成器能輕鬆偽造完整照片。任何圖像都可通過社交平台和通訊軟件一鍵擴散。
“幾年前生成圖像需要整套計算機設備,現在只需一部iPhone。”Reality Defender首席執行官本·科爾曼表示。該公司專為企業和政府機構提供AI偽造圖像檢測服務。
大型公司的圖像生成器——如OpenAI的Dall-E和Adobe的Firefly——設有內容審核機制,禁止用户生成色情圖像。但簡單網絡搜索就能找到數十款換臉和"脱衣"工具。科爾曼指出,由於這些服務很可能使用公開的開源軟件,即便不是完全不可能,實施內容管控和技術防護也極為困難。他補充道,人眼幾乎無法分辨真假圖像。
圖像檢測公司Sensity AI數據顯示,這類被稱為“深度偽造”的虛假影像中,90%以上涉及色情內容。包括Snap和TikTok在內的科技公司已與政府機構合作,阻止此類圖像傳播。Snap等平台表示會封禁涉及未成年人的AI生成色情內容,並向國家失蹤與被剝削兒童中心舉報。
‘嚴重犯罪’
法律專家表示,針對真實人物的偽造色情圖像是新興問題,聯邦法律尚未跟上。弗吉尼亞、加利福尼亞、明尼蘇達和紐約等少數地區已立法禁止傳播偽造色情內容,或賦予受害者在民事法庭起訴製作者的權利。
新澤西州參議員喬恩·布拉姆尼克(其選區包含西田市)正在調查該州是否有現行法律或待審法案能將此類內容的製作與傳播定為刑事犯罪。若沒有相關法律,他表示將着手起草相應法案。
“這在新澤西州必須被視為嚴重犯罪,”他説道,並補充已要求聯合縣檢察官調查韋斯特菲爾德高中事件。
芝加哥知識產權律師娜塔莉·埃利扎羅夫指出,涉及兒童性虐待材料的法律可能適用於此案,因為這些法律禁止傳播未成年人蔘與露骨性行為的數字圖像、計算機生成圖像甚至虛擬影像。她進一步説明,此類案件需由州或聯邦檢察官受理,必須確認三個要素:被描繪者為未成年人、內容具有性露骨性質,以及存在製作、持有或傳播行為。
本週拜登政府作為人工智能行政令的一部分,明確要求防止生成式AI製作兒童性虐待材料或“未經當事人同意的真實個體私密影像”。
另一起美國校園偽造色情案已提起刑事指控。四月,長島一名22歲男子因偽造併發布母校女性同學的不雅合成照及個人信息,被判六個月監禁。原始照片拍攝時這些女性尚處於初高中階段。
刪除社交媒體
在週一家庭會議上,馬尼的女兒弗朗西斯卡向眾人描述了韋斯特菲爾德高中女生們的遭遇。
“起初我哭了,後來我決定不該沉溺悲傷,”她對在場者説,“我應該憤怒,應該為自己和其他受害者發聲。”
出席者包括其他學生的家長,以及布林德爾、布拉姆尼克、三位女性鎮議會成員和一位學校董事會成員。(《華爾街日報》獲准通過電話旁聽。)
弗朗西斯卡表示,當天在學校的一場團體輔導會上,一些女生提到她們對必須與據信製造並傳播這些圖片的人同校感到不適。
她説,這起事件讓部分女同學開始重新思考自己在網上的發帖行為,因為她們對內容如何被利用幾乎無法控制。據她所述,有些人刪除了自己的社交媒體賬號。
“我們知道社會上存在一些變態的人,“她對在場人員説,“但你絕不會想到自己的同學會這樣侵犯你。”
——欲獲取家庭與科技專欄、建議及您最緊迫的家庭科技問題解答,請訂閲我的每週通訊。
聯繫朱莉·賈根,郵箱:[email protected]
本文刊登於2023年11月4日印刷版,標題為《偽造青少年裸照震動校園》。