TikTok上的“Blackout Challenge”正在誘使年輕孩子走向死亡 - 彭博社
Olivia Carville
阿羅約家庭在阿里亞尼的卧室。
攝影師：大衞·卡斯尼克，彭博商業週刊“西西被纏住了！”
這個5歲男孩驚恐的呼喊聲在阿羅約一家三居室的密爾沃基板房裏的走廊裏迴盪。那是2021年2月，他在睡前和他9歲的妹妹阿里亞尼一起玩耍。他們的母親在參加聖經學習班，他們的父親在地下室的車間裏，聽不到聲音。男孩看着阿里亞尼爬上一個玩具箱，把一根金屬狗鏈繞在脖子上，將釦子掛在衣櫃門的鉸鏈上。現在她懸在離地面2英尺的地方，踢着，拼命地抓着她的脖子。
幾天後，阿里亞尼被埋葬時穿着一條公主裙和頭飾，指甲剛剛塗過，男孩告訴父母發生了什麼。他們在玩一個遊戲，他説，就像他們在 TikTok 上看到的。
阿里亞尼在她家的照片。攝影師：戴夫·卡斯尼克，彭博商業週刊這個遊戲有一個名字：窒息挑戰。全世界的孩子們用家庭用品勒頸直到暈厥，拍攝他們在恢復意識時獲得的腎上腺素飆升的視頻，然後將視頻發佈在社交媒體上。這是幾十年來窒息挑戰的現代版本，只是現在它們通過強大的社交媒體算法傳遞給孩子們，並且觸及那些還不足以完全理解風險的年齡。
Arriani的死亡沒有受到媒體的報道，TikTok直到數月後才得知。但該公司知道，一些年齡不足以在其應用上創建個人資料的孩子們正在玩黑暗挑戰遊戲時死亡。在此之前的幾周，TikTok的信任與安全團隊，負責保護用户並捍衞公司聲譽，已經開始調查西西里巴勒莫的一起類似事件。一名10歲的女孩Antonella Sicomero於一月被發現用浴袍腰帶懸掛在毛巾架上身亡。Antonella的父母告訴當地媒體她死於在TikTok上玩的“一款極端遊戲”。巴勒莫檢察官辦公室展開了調查，意大利的隱私監管機構要求這家社交網絡刪除任何在該國無法驗證年齡超過13歲的用户，指控其未能遵守讓未成年人遠離應用的規定。
在 Terminal**上收聽The Big Take播客。收聽這個故事的音頻版本。
信任與安全團隊的一小部分成員花了幾天時間審查Antonella最近觀看的每個視頻剪輯，根據兩名看過內部報告摘要的團隊成員的説法，他們要求匿名，因為未獲授權與媒體交談。視頻很多：報告稱Antonella，由於新冠疫情關閉了學校，每天在應用上的時間長達10小時。該團隊還瞭解到，像許多同齡孩子一樣，Antonella在創建賬户時聲稱自己年齡超過13歲。
團隊報告稱未發現TikTok的算法推薦了這個挑戰給Antonella。團隊成員表示，這讓高管們鬆了一口氣。制定了一項危機管理策略，將TikTok與這場悲劇拉開距離，將其描述為整個行業的問題。公司告訴記者，這個挑戰“從未在平台上成為趨勢”，並表示用户是“從TikTok以外的來源瞭解到它的”。
在過去的18個月中，至少有15名12歲或以下的兒童死於這個黑暗挑戰
TikTok一直堅持相同的説法，包括最近向Bloomberg Businessweek發表的聲明，因為太小而不適合上社交媒體的兒童繼續死亡。根據數據，在過去的18個月中，至少有15名12歲或以下的兒童死於這個黑暗挑戰，這些數據是從新聞報道、法庭記錄和與家庭成員的採訪中整理出來的。Businessweek。在這段時間內，至少有五名13歲和14歲的兒童也死亡。在這些死亡事件發生後的頭條新聞中，經常單獨指責TikTok，但警察部門拒絕了信息自由法案請求，以查看可能有助於證明哪個平台涉及其中的事件報告。
到阿里亞尼去世時，高管們正在忙於想出如何更好地檢測和清除謊稱年齡的兒童。沒有有效的機制可以阻止未成年用户進入社交媒體平台，這個問題自它們發明以來一直困擾着它們。2021年，據熟悉談話內容的人士稱，TikTok至少與兩家面部年齡估計軟件提供商會面，這些軟件可以相對準確地區分兒童和青少年。這些機器學習程序會掃描面部以獲取有關一個人年齡的線索，這些公司表示，這些系統可以在不識別個人或存儲任何數據的情況下運行，這可能引起隱私擔憂。
TikTok的黑暗面
儘管如此，據熟悉談話內容的人士稱，TikTok的一名高管否決了這些交易。這家公司隸屬於總部位於北京的字節跳動有限公司，被世界各地的監管機構和政客指控是中國政府的監視工具，並面臨着在美國可能被禁止的風險，目前仍在審查中。據該人士稱，這位高管擔心使用生物特徵數據會引起懷疑，認為中國在監視兒童用户。其他社交媒體平台，包括Twitter、Instagram和照片分享應用BeReal，此後已與這些年齡估計軟件提供商合作。
TikTok拒絕就會議發表評論，也沒有解釋為什麼沒有采用這項技術。它表示，刪除了未成年人的賬户，僅在今年上半年就刪除了4100萬個。但是，據前員工稱，擁有超過10億全球用户的任務是無休止的——只需問問任何年輕的TikTok癮君子，刪除他們的賬户是否會讓他們在平台上呆上幾分鐘以上。
刊登在 Bloomberg Businessweek，2022年12月5日。 立即訂閲。圖片插圖：Justin Metz for Bloomberg Businessweek；圖片來源：Getty；TikTok美國法律禁止社交媒體公司收集13歲以下兒童的數據，TikTok表示遵守規定。在美國，嘗試註冊賬户的未滿13歲的兒童將被轉移到一個應用程序的版本，他們可以觀看經過策劃的內容，而不需要個人資料或看到廣告。但TikTok擁有青少年文化——根據一項調查，它是美國最受歡迎的應用程序，被近70%的13至17歲青少年使用，公司意識到孩子們經常謊報年齡以獲取成人版本。儘管TikTok不披露用户年齡信息，泄露給New York Times的內部數據顯示，2020年多達三分之一的用户年齡不到14歲。
這對公司來説是一個敏感問題，根據一份內部消息文件，公司告訴員工“談論年輕人，但不要談論兒童。” 《商業週刊》審查過。 TikTok因允許兒童使用其應用而被罰款，全球各地的監管機構正在調查其年齡驗證措施。它還在美國面臨錯誤死亡訴訟，聲稱其算法向8歲的兒童發送了黑暗挑戰。
對於本文采訪的二十多名現任和前任信任和安全工作者來説，持續的審查是一個好消息。他們表示公司可以而且應該做更多來防止兒童使用該應用。“TikTok的公關口徑是用户安全是我們的首要任務，”一位不願透露身份討論公司內部事務的加利福尼亞前信任和安全負責人説。“這是不正確的。增長是第一要務。成為世界上最受歡迎的應用是第一要務。賺更多錢是第一要務。”
2018年，當字節跳動花費約8億美元將TikTok與音樂應用Musical.ly合併時，它不僅獲得了2億多新用户。它還繼承了美國聯邦貿易委員會對Musical.ly讓年幼兒童使用其應用的調查。多年來，Musical.ly一直無視美國法律，歡迎那些未滿13歲的人使用其應用，同時違反了旨在保護青少年免受廣告商針對的《兒童在線隱私保護法》。
Musical.ly的聯合創始人兼聯合首席執行官Alex Zhu在2016年的一次 [TechCrunch會議上承認，該應用的許多頂級用户未成年。但他表示，這是符合法律的，因為這些孩子得到了父母的同意。Zhu説，設定年齡要求沒有意義；如果Musical.ly要求輸入出生日期，孩子們只會撒謊。儘管這可能是一個誠實的承認，但在2019年，字節跳動被 美國聯邦貿易委員會罰款570萬美元，當時是美國歷史上最大的兒童隱私和解金額。（這筆罰款幾乎沒有對這家現在 估值為3000億美元的公司造成影響，很快就被 17億美元的兒童隱私罰款所超越，這筆罰款是針對 谷歌旗下的YouTube和谷歌的。](https://www.youtube.com/watch?v=ey15v81pwII)
2016年，Zhu在TechCrunch Disrupt London上。攝影師：John Phillips/Getty Images在同一場2016年的會議上，Zhu表示，Musical.ly與其他娛樂應用的區別在於其每日挑戰。該公司每天推廣一個新挑戰，通常會產生超過100萬個視頻。當Musical.ly併入TikTok時，這些挑戰也隨之而來。
這些挑戰引起了第一波新冠疫情期間被困在家的青少年的共鳴。它們從編排好的舞蹈演變成了家庭聯結的潮流，比如在一個視頻中展示四代人或給寵物打扮。2020年，TikTok的下載量增加了75%。為了放大這一增長，公司代表聯繫了影響者，鼓勵他們嘗試不同的挑戰。
當一些挑戰變得危險，比如孩子們爬高堆疊的牛奶箱、大量服用Benadryl或破壞學校財產時，TikTok建立了一個“傷害譜系”，以幫助其審核員決定什麼內容可以保留，什麼內容應該刪除，據該公司美國安全負責人Eric Han稱。肉桂挑戰中，用户吃一勺粉末可能導致輕微肺部損傷，但被認為不太可能造成災難性傷害，因此信任和安全團隊在內容上附上了警告並將其保留。他們還有其他緊迫問題要解決，包括選舉誠信、打擊仇恨言論以及應對特朗普政府對TikTok提出的國家安全擔憂的威脅。
在那種混亂和應用程序爆炸性增長的背景下，挑戰變得越來越危險。在摔斷頭骨挑戰中，兩個人會誘使第三個人跳起來，然後在半空中絆倒跳躍者，導致有關腦震盪和腦損傷的報道。插座挑戰涉及將一枚硬幣掉在部分插上電源的手機充電器的插腳上，看着它發出火花，導致學生被指控破壞財產。火焰挑戰中，孩子們用催化劑澆在物體上並點燃，有時會導致三度燒傷。而窒息挑戰有時是致命的。
閲讀更多：
美國衞生官員似乎只研究了社交媒體蓬勃發展之前幾年與勒頸遊戲有關的死亡案例。2008年疾病控制和預防中心發佈的一份報告發現，從1995年到2007年，即第一部iPhone發佈的那一年，有82名6至19歲的兒童死於玩勒頸遊戲。政府自那時起就沒有再發表關於這個問題的研究報告，但研究人員的個別報告表明，社交媒體已經放大了這個問題。
Judy Rogg在她的12歲兒子Erik在2010年玩遊戲時死亡之後成為了一個倡導者，當時TikTok還沒有被創建。Rogg成立了一個名為Erik’s Cause的非營利組織，幫助學校瞭解如何應對在線風險，並收集有關勒頸遊戲相關死亡的統計數據。她發現自2018年以來，至少有33名不到13歲的孩子死亡。“隨着社交媒體的普及，它變得更受歡迎，” Rogg説。“它絕對是一種爆炸。”
這些挑戰在各個平台上傳播，隨着用户規避安全限制，不斷演變成新的形式，使用不同的標籤和代碼詞。勒頸挑戰有許多名稱，從更明顯的“勒頸遊戲”和“昏厥挑戰”，到更微妙的“flatliner”和更晦澀的“space monkey”。孩子們拼錯單詞以避免被發現，比如“space monkee”或“blackout tr1ck”。今天在TikTok上有一些帶有這些標題的視頻，展示孩子深呼吸並互相按壓胸部直到暈倒，或者用手勒住對方的脖子。你可以看到孩子們暫時失去意識，然後醒來笑着。一個標題説：“最瘋狂的感覺。”
超過70%的美國兒童在12歲之前擁有手機，英國8至11歲的一半兒童每天觀看TikTok內容，根據兩國的調查。TikTok培訓其審核團隊查找未成年用户，並依靠基於文本的分析來檢測個人資料中寫有年齡等關鍵詞。它還依賴其他用户來展示他們的賬户。公司發言人Mahsau Cullinane拒絕透露更多細節，以避免教會孩子們如何“規避我們的安全措施”。她指出TikTok在2020年推出了一個工具，允許家長監控他們孩子在應用上的活動。
全球約有40,000名審核員負責審核TikTok的視頻，其中四分之三是合同工作。據前員工稱，每個審核員每天查看大約1,000個視頻，每個視頻大約需要20秒的審核時間。他們表示，該系統並不針對尋找未成年用户。帖子通過掃描每個上傳的視頻（僅在今年第一季度就有100億個視頻）的人工智能軟件進行篩選，並自動刪除任何違反社區準則的內容，如裸露或暴力。如果軟件不確定，它會將材料發送給人類進行評估。每個視頻如果觀看次數超過約3,000次（數字在各國有所不同）也會發送給審核員，確保最受歡迎的內容得到人工審核。13歲以下的孩子不太可能發佈違反準則或達到那麼多人眼睛的內容，不過。
TikTok的審核員可能正在積極尋找未成年用户的賬户，但他們從未刪除Arriani Arroyo的賬户，在那裏她為她的260名粉絲髮布視頻。她並沒有隱藏自己的身份：她的個人資料照片是她9歲時的照片。在她的視頻中，她跳舞、笑着和和她的兄弟玩耍。她的最後一條帖子有457次觀看。
“這是她最後穿的衣服，”Christal Arroyo説着，從她女兒的梳妝枱上拿起一件條紋印花睡衣。她小心翼翼地展開上衣，露出了醫護人員剪開的一道鋸齒狀裂縫。“我不喜歡看它們，”她説着，重新摺疊起衣物。“我來聞一聞。” 雨點砸在窗户上，閃電在Arriani的卧室裏投射出一道白色的光。Arroyo沒有注意到。她閉着眼睛，深呼吸着女兒殘留的氣味。
Arriani喜歡閃閃發光的東西、指甲油和童話公主裙。她收集貝殼，在她的日記裏寫下待辦事項：“刷牙、挑選衣服、打扮化妝、玩得開心！” 她最喜歡的歌曲是 Girl on Fire by Alicia Keys，她會在早晨的日常中唱這首歌。她在8歲時就想要一部iPhone——“就像美國的每個孩子一樣，”她的母親説。她最喜歡的應用是TikTok。當疫情在2020年關閉了她的學校時，Arriani變得“着迷”於它，Arroyo説。
阿里亞妮和她的兄弟花了幾個小時做舞蹈趨勢和病毒挑戰。有些足夠無害，比如嘴裏含水直到開始咯咯笑或者只吃紅色食物24小時。她們在她去世的那天晚上一起玩耍。“有人評論説，‘父母在哪裏？’”她的父親埃迪·阿羅約説。“嗯，那天，那一刻，我就在家，什麼都沒聽到。”他的兒子下到地下室告訴他阿里亞妮被纏住了。
“我跟着他上去看出了什麼問題，就在那裏我發現了她，”他指着他兒子的卧室説。她用來上吊的狗繩原本是為一隻他們計劃購買的小狗準備的。“她無法呼吸，無法呼救，”埃迪説。
有些父母會收拾行李離開，被記憶所困擾。阿羅約一家選擇留在阿里亞妮去世的房子，因為那也是她生活的地方。她鑲有寶石的Juicy Couture Ugg靴子放在牀邊；她的粉色睡美人睡眠面罩掛在牀柱上。他們本想把她埋在街對面的墓地，透過她閃閃發光的窗簾可以看到那裏的地面。但是靠着埃迪的卡車司機工資撫養五個孩子——克里斯塔爾是一名全職預法學生——他們買不起一塊墓地。所以，阿里亞妮被埋在了離家七分鐘車程的地方。
葬禮之後，阿羅約一家問阿里亞妮的朋友她去世時在玩什麼遊戲。那時他們第一次聽到“黑暗挑戰”這個詞。
阿羅約家族在阿里亞尼的墳墓前。攝影師：戴夫·卡斯尼克為彭博商業週刊隨着更多孩子的死亡，他們閲讀新聞報道。約書亞·海萊耶蘇斯兩個月後在科羅拉多被發現脖子上綁着一根鞋帶；他的父親澤里亞胡恩説，他死於嘗試TikTok的暈厥挑戰。六月份又有三名兒童死亡，同樣導致了暈厥挑戰的頭條新聞：內特·斯奎爾斯，13歲，在馬薩諸塞州；拉泰裏厄斯·史密斯小，9歲，在田納西州；以及詹姆斯·博伊德-格爾傑利，14歲，在澳大利亞。七月份，8歲的拉拉尼·沃爾頓被發現在卧室裏上吊，同樣是在田納西州。九月份，海登·羅伯特·克雷格，10歲，在喬治亞州的後院樹上被發現上吊。
警方沒有公開將這些死亡事件與TikTok聯繫起來。根據Erik’s Cause創始人羅格的説法，其他死亡可能未被報告。“不幸的是，許多這些死亡被錯誤地歸類為自殺，”她説。證明孩子參與了挑戰或找出涉及的平台的唯一方法是官員進行心理屍檢——調查孩子的在線網絡和友誼圈，以重建他們可能在想什麼——或者對他們的設備進行法庭分析，以確定他們在線觀看了什麼。
在拉拉尼·沃爾頓去世的田納西州克拉克斯維爾市，警察就是這樣做的。根據她父母提起的訴訟，警方表示，對她手機的分析顯示，她在死前的一天的一次公路旅行中花了幾個小時觀看了TikTok上的黑屏挑戰視頻。（克拉克斯維爾警察局的一位發言人拒絕置評。）在喬治亞州發現海登·羅伯特·克雷格的屍體後，一名警察注意到他附近有一部iPad，根據《商業週刊》看到的一份事件報告，它刷新顯示了一個帶有血腥刀符號的黑屏TikTok視頻。
TikTok亞太地區安全諮詢委員會的成員，由外部專家組成，也對黑屏挑戰與他們地區的死亡案件聯繫在一起表示擔憂。林芳阮，一位越南兒童在線安全專家，也是該委員會的成員，表示有幾名孩子在柬埔寨、菲律賓和越南嘗試這一挑戰時死亡。其中，一名來自胡志明市的孩子只有5歲。她在YouTube上觀看了這一挑戰後，用一塊紗巾從她的雙層牀上吊死了。（YouTube的一位女發言人表示，該平台會刪除黑屏挑戰視頻，並禁止“任何會導致窒息或窒息的活動”）
一些委員會成員建議TikTok和其他社交媒體平台建立聯盟，阻止危險挑戰的傳播，熟悉私人會議的人士表示。但是TikTok在硅谷沒有太多朋友。根據《華盛頓郵報》的報道，一個潛在的盟友，Meta平台公司，於2021年僱傭了反對研究人員，散佈關於TikTok傳播危險挑戰的新聞報道，而這些挑戰實際上起源於Facebook。Meta沒有否認這種誹謗活動，以轉變公眾對其最大競爭對手的看法，而該競爭對手同時也在努力複製其格式和算法。
Cullinane，TikTok女發言人表示，公司“非常認真地對待每一份關於涉及危險行為或挑戰的報告。” 每次有人死亡或者有頭條新聞出現，TikTok都會成立一個特別小組進行調查。但內部人士表示，這些調查旨在轉移責任。每當一個黑屏挑戰的頭條新聞與TikTok聯繫在一起時，負責該案件的團隊都會找到證據表明死者使用了多個社交媒體平台，並得出結論無法證明哪個應用程序指引他們參與挑戰。在某些情況下，團隊甚至無法確認是否存在TikTok賬户。
在2021年1月安東內拉·西科梅羅（Antonella Sicomero）去世以及意大利禁止未經驗證的TikTok賬户之後，該公司同意重新驗證該國1250萬用户的年齡。結果刪除了50萬個賬户。TikTok還告訴其地區經理們要密切關注市場上任何黑屏挑戰內容，刪除宣傳此類內容的視頻，並終止用户在應用程序中搜索此類內容的能力。TikTok拒絕透露刪除了多少視頻，但Cullinane表示公司從未發現挑戰在平台上趨勢。她指出了一項委託調查顯示，僅有0.3%的青少年表示他們參與了他們認為“非常危險”的挑戰。這項全球調查還發現，有2%的人表示他們參與了他們認為“有風險和危險”的挑戰。
儘管TikTok採取了措施，死亡事件仍在發生。去年12月，10歲的Nylah Anderson在費城郊區的家中用手提包帶自己上吊身亡。在她去世後，她的母親Tawainna Anderson發現了Nylah和她的表弟玩窒息遊戲的手機視頻，並向警方報告。
Nylah Anderson來源：賓夕法尼亞東區聯邦法院一名警官在一份事件報告中寫道，表弟告訴他，“這是他們在TikTok和YouTube上看到的一個勒頸挑戰。” 根據尼拉的母親在五月份在賓夕法尼亞聯邦法院提起的一起針對TikTok和字節跳動的致命傷害訴訟，尼拉手機的法庭分析顯示，TikTok向她發送了一個視頻，鼓勵她將一個手提包放在壁掛衣架上，將頭部放在包和肩帶之間，然後懸掛自己直到暈倒。控訴書稱，該公司“毫無疑問地知道致命的暈厥挑戰正在通過他們的應用傳播，而且他們的算法明確地將暈厥挑戰傳遞給了包括那些已經死亡的兒童在內的兒童們。”
七月份，社交媒體受害者法律中心在西雅圖代表阿里亞尼·阿羅約和拉拉尼·沃爾頓的父母提起了第二起訴訟。該中心成立於2021年，由馬修·伯格曼，一位產品責任律師創立，已對TikTok、Meta、 Snapchat和YouTube提起了40多起訴訟，指控對心理健康造成傷害、社交媒體成癮和致命傷害。伯格曼，他的職業生涯一直在起訴石棉製造商，去年當他聽説Meta告密者弗朗西斯·豪根泄露文件描述Facebook如何傷害青少年時，他將注意力轉向了社交媒體。伯格曼表示，這些平台“正在對我們的孩子進行實驗，將利潤置於人民之上。”
Zaiden Baldwin（左）和Lalani Walton。社交媒體受害者法律中心提供阿羅約和沃爾頓家族提起的訴訟聲稱，TikTok對這些女孩的死亡負有責任，因為其算法推薦了挑戰，並未能阻止其傳播。今年8月，該案件被修改以增加另一位原告，即11歲的扎伊登·鮑德温（Zaiden Baldwin）的祖母和法定監護人，他於今年夏天早些時候在新墨西哥州的一個棚子後面被發現上吊。投訴書稱，他告訴他的姐姐他在TikTok上看到了關於窒息挑戰的視頻，並想嘗試。該案件仍在審理中，TikTok尚未提交答辯。
“這些公司最不願意做的事情就是站在陪審團面前向他們解釋為什麼他們的利潤比生命更重要，”伯格曼説。“他們將儘可能利用一切法律手段來避免這種清算，而我們將盡最大努力追究他們的責任。”今年9月，新墨西哥州又有一名13歲男孩在嘗試窒息挑戰時死亡，第三起針對TikTok的訴訟案件隨之提起。
TikTok女發言人卡林恩表示，她對這些家庭表示同情，但不能就未決訴訟發表評論。今年7月，該公司提交了一項駁回尼拉·安德森訴訟的動議，聲稱其“沒有法定義務保護免受第三方危險活動描繪的侵害”。TikTok在動議中稱，根據《通信廉正法》第230條的規定，技術平台不會對其網站上發佈的內容承擔責任。今年10月，法官駁回了該案，同意即使TikTok向尼拉推薦了挑戰，也不能起訴TikTok。尼拉的母親的律師已經提起上訴。
最高法院可能會對此事發表看法。十月份，它同意審理一個與第230條免責規定範圍有關的不相關案件。它的決定可能會允許停電挑戰訴訟繼續進行，或者將其消滅。
克里斯塔爾·阿羅約和她的兒子在家外。攝影師：大衞·卡斯尼克為彭博商業週刊拍攝社交媒體平台正受到越來越多的議員的壓力，要求它們採取更多措施保護兒童。九月份，加利福尼亞州州長加文·紐森簽署了一項在線隱私法，該法是以英國的適齡設計準則為模板，要求科技公司優先考慮兒童的最佳利益而不是商業利益。這項加利福尼亞法典將於2024年生效，要求公司“以合理的確定程度”估計兒童用户的年齡。一項聯邦法案，也包括有關年齡驗證的部分，今年夏天得到了參議院小組的兩黨支持。該法案，兒童在線安全法，要求國家標準與技術研究所花一年時間研究平台如何能夠準確驗證年齡同時保護未成年人的隱私。
科技公司一直面臨的平衡之道是：安全與隱私。如果他們使用面部識別技術或要求用户提供政府簽發的身份證明，比如駕照或護照，他們就會因侵犯隱私權和囤積個人數據而受到批評。如果他們只要求用户輸入出生日期，他們就會因未採取足夠措施保護謊報年齡的孩子而受到攻擊。而任何年齡驗證引入的摩擦都與 TikTok 內部文件中包含的信息背道而馳：“我們的最終目標是增加每日活躍用户。”
懸而未決的監管壓力已經迫使年齡確認問題擺在了前台，導致一些最大的社交媒體平台在過去的18個月裏僱傭了第三方年齡估計公司。與尋求識別個人並依賴存儲數百萬圖像的面部識別技術不同，年齡估計軟件不會保留、分享或重複使用數據，據數字身份公司 Yoti Ltd. 的首席政策和監管官 Julie Dawson 表示。Yoti 總部位於倫敦，與 Meta 旗下的 Instagram 合作；其軟件已研究了數十萬張帶有已知年齡的面孔，並且被編程為將圖像分解為像素，分析模式並估計這個人有多大。
“他們已經準備好了這些解決方案。他們幾乎可以立即實施。”
去年，Yoti 在私下會議中向 TikTok 展示了這項技術，Dawson 表示，“截至目前，他們還沒有決定採取行動。” TikTok 還會見了 Hive，一家與 Twitter Inc. 和 Reddit 合作的舊金山公司，根據三位知情人士的説法。這些討論始於 2021 年初，但也沒有取得任何進展。
道森表示，TikTok“非常擔心”允許第三方軟件提供商使用其生物識別數據的形象。那年二月，字節跳動同意支付 9200萬美元來解決伊利諾伊州用户提起的一起集體訴訟，指控該公司未經他們同意使用面部圖像進行定向廣告。TikTok否認了這些指控，但四個月後，它修改了隱私政策，允許該應用明確收集其用户的“面部特徵和聲紋”。十月份，其高管們在國會接受質詢，詢問他們打算如何使用這些數據。他們迴避了問題，但表示TikTok收集的數據比其他社交媒體公司少。
波士頓兒童醫院數字健康實驗室主任、兒科醫生 邁克爾·裏奇表示，問題在於“這些公司並不把用户視為需要服務的客户，而是把他們視為正在出售的產品。” 平台並不嚴格執行年齡限制，因為這並不符合他們的最佳利益，他指出。“任何人都不會感到意外，這些公司只是在走過場設置年齡限制，而並沒有嚴格執行。”
馬克·伯克曼，社交媒體安全組織的首席執行官，一個消費者保護團體，表示TikTok未使用第三方年齡估算軟件正在傷害兒童。“他們的保護措施是不足夠的，”伯克曼説，他的團體提供關於如何讓孩子在網上安全的教育建議。“他們已經準備好了這些解決方案。他們幾乎可以立即實施。但他們選擇不這樣做。這是在服務商業利益，而不是安全利益。”
八月份又發生了兩起死亡事件。阿奇·巴特斯比，英格蘭埃塞克斯郡的一名12歲男孩，在經過數月的生命支持後去世。他被發現脖子上纏着繩索昏迷不醒。他的母親告訴記者，他曾嘗試過窒息挑戰，儘管驗屍官沒有找到支持這一説法的證據。同樣在八月，利昂·布朗，14歲，在蘇格蘭家中被發現無反應。當地新聞報道稱，他的朋友告訴他的母親，利昂在TikTok上看到了窒息挑戰，並在視頻通話中與他們一起嘗試。
“我對TikTok的問題是，你們將會採取什麼措施來改變這個平台？因為目前對任何人都不安全，對任何孩子絕對不安全。”阿羅約説，她的幸福隨着阿里亞尼的離世而消失。“一個社交媒體應用，”她想着，語氣困惑。“我從未想過這會導致我失去女兒。”
在她去世前幾周用手機拍攝的視頻中，阿里亞妮坐在父母的車後座上，穿着一件帶有藍色花朵的褶邊粉紅色上衣。她黑色的頭髮被拉後，凌亂的頭髮在耳朵上方捲曲。她用一隻手拿着手機，攝像頭離得很近，你可以看到她最近掉了一顆乳牙。“不要在意別人對你説的話，”阿里亞妮説。“要自信，要充滿激情，因為這個世界上的每個人都是美麗的。”她向攝像頭飛吻並做出和平手勢。“那麼，再見，”她微笑着説。
*《商業週刊》*將視頻發送給了Hive，這是與TikTok會面的軟件公司之一。其機器學習模型將視頻分解成幀並掃描每個圖像，以得出對阿里亞妮的年齡估計。“做到這一點的技術肯定是存在的，”首席執行官凱文·郭説。“但也許這些平台更傾向於不瞭解這個問題的範圍。”
Hive的模型用了三秒鐘來估計阿里亞妮是10歲。她在離10歲生日還有三個月時去世了。