Meta計劃利用人工智能來識別青少年在Instagram上謊報年齡的行為 - 彭博社
Curtis Heinzl, Kurt Wagner
首席執行官馬克·扎克伯格在1月份的參議院司法委員會關於兒童在線安全的會議上。攝影師:肯特·西島/彭博社Meta Platforms Inc.因其對青少年心理健康的影響而受到家長和立法者的抨擊,計劃利用人工智能識別在Instagram上謊報年齡的年輕用户,並自動將他們切換到更嚴格的隱私設置。
根據Meta青少年和社會影響產品管理總監艾莉森·哈特內特的説法,Meta將使用一種稱為“成人分類器”的專有軟件工具,將用户根據其個人賬户數據分為兩個年齡組——18歲以上或以下。該軟件可以篩選用户的個人資料,查看他們的關注者列表以及他們互動的內容,甚至會掃描朋友發佈的“生日快樂”帖子,以預測用户的年齡。
根據該軟件的發現,哈特內特首次分享了這一過程的更多細節,懷疑未滿18歲的人將被自動放入青少年賬户,無論他們在個人資料中聲稱的年齡是多少。9月份,Instagram推出了這些新的青少年賬户,這些賬户具有更嚴格的默認隱私設置,例如限制用户可以接收消息的人以及可以查看的內容類型。該公司沒有透露成人分類器的準確性。
該公司已經根據青少年自報的生日將他們轉移到這些更嚴格的設置中,但計劃在明年初利用成人分類器來幫助捕捉那些可能試圖規避新規則的人。所有18歲以下的用户將自動被歸入青少年賬户,但16歲或17歲的人將被允許自行更改更嚴格的隱私設置。然而,任何16歲以下的人都需要父母的同意才能禁用更嚴格的設置。
多年來,妥善保護青少年用户免受有害內容的影響一直是Meta面臨的挑戰。該公司向青少年賬户的轉變得到了外界的讚賞,外界長期以來一直認為Meta在保護年輕用户的在線安全方面做得不夠。
這家社交網絡巨頭正在 面臨來自數十位州檢察長的訴訟,指控該公司故意讓孩子沉迷於社交媒體,並助長了青少年心理健康危機。它也成為了父母的目標,父母聲稱他們的青少年因使用Meta產品時看到的內容或進行的對話而 因藥物或自殺而死亡。
在2021年,前Facebook員工轉變為舉報者的 弗朗西斯·霍根 向媒體發佈了數千頁文件,顯示該公司的研究發現 Instagram可能對青少年女孩的心理健康產生負面影響。
隨着新限制的實施,Meta現在面臨的挑戰是執行這些限制——考慮到孩子們常常找到方法繞過訪問年齡限制材料的限制,這並不是一項小任務。英國電信監管機構的一項研究發現,三分之一的社交媒體賬户持有者聲稱自己的年齡為18歲或以上。
在互聯網上的許多網站上,謊報年齡是非常簡單的。Steam,一個在線視頻遊戲市場,僅要求用户在查看和下載成熟評級遊戲之前自報出生日期。其他出售酒精的網站,例如,只要求用户點擊一個按鈕以驗證他們已超過21歲。
Meta旨在使在Instagram上謊報年齡變得更加困難。例如,該公司將標記那些嘗試使用相同電子郵件地址但不同生日創建新賬户的青少年。該公司還可以檢查手機的唯一設備ID,以猜測誰在新個人資料背後。
查看更多:Instagram推出針對青少年的限制性新隱私設置
試圖手動增加賬户上列出的年齡的青少年將必須通過上傳正式身份證明(如駕照)或發送視頻自拍來證明自己,Yoti,一個可以根據面部特徵估計年齡的第三方服務。Yoti和Meta隨後在驗證後刪除這些圖像。用户之前可以通過讓朋友為他們擔保來驗證年齡,但Meta表示該選項已被取消。
被錯誤分類為青少年的用户最終可能能夠向公司申訴以取消他們的青少年賬户狀態,一位發言人表示,儘管該過程仍在開發中。目前,在Meta努力提高其成人分類器的準確性時,被錯誤預測為青少年的用户可以在沒有父母許可的情況下手動關閉該狀態。
Meta的年齡驗證方法得益於人們在應用程序上分享的大量個人信息,包括他們的社交圈、愛好和內容偏好。Instagram的青少年賬户仍在美國和其他幾個國家推出,但到目前為止,Hartnett表示,青少年謊報年齡的問題比公司預期的要少。
儘管Meta付出了努力,Hartnett和其他高管認為,最能保護隱私的年齡驗證過程將 涉及應用商店在青少年下載某些應用之前驗證其年齡。一位 蘋果公司的發言人表示,這種方法將違反數據最小化原則,而 Alphabet Inc.的谷歌發言人表示,解決這個問題並沒有“單一的解決方案”。
但是,將年齡驗證的責任轉移到谷歌Play或蘋果的App Store “假設應用商店擁有真實的事實”,邁克爾·史密斯,哈佛大學教授,教授數據隱私課程,在一封電子郵件中表示。這並沒有解決用户從一開始是否誠實的問題。“Meta在年齡驗證方面的問題難道不是簡單地轉移到了應用商店嗎?”