TikTok給青少年推送黑暗內容——《華爾街日報》

美國禁止TikTok的呼聲日益高漲。政府官員正試圖將這款中國所有的熱門短視頻平台排除在學校、公務人員乃至全州範圍之外，理由是用户數據可能落入不法分子手中。

但相比數據隱私，TikTok算法的操控力或許更令人憂心——尤其對家長而言。

一項最新研究顯示，當研究人員註冊虛構的13歲青少年賬號後，該平台立即推送了大量關於飲食失調、身材焦慮、自殘和自殺的內容。

類似現象早有先例：《華爾街日報》2021年調查發現TikTok會將觀眾引向危險內容。雖然後續TikTok加強了家長控制功能並承諾優化算法，但新研究表明青少年用户的體驗改善有限。

青少年在社交媒體接觸的內容可能造成心理傷害，大量研究佐證了這一觀點。最直觀的例證可參考我早前的專欄：有青少年因反覆觀看TikTok上模仿抽動穢語綜合徵行為的視頻後，出現了生理性抽搐症狀。

TikTok發言人表示公司擁有超4萬人的內容審核團隊，2022年第四季度刪除了約8500萬條違反社區準則的帖子，其中2.8%涉及自殺、自殘和飲食失調內容。平台也會處理用户舉報內容。“我們歡迎反饋與監督，致力於與合作伙伴保持建設性溝通。“發言人補充道。

反數字仇恨中心整理的TikTok視頻截圖，內容涉及對自殘行為的認同。皮尤研究中心數據顯示，三分之二的美國青少年使用TikTok，16%的美國青少年表示他們幾乎持續在線。青少年頻繁使用社交媒體——加上算法可能誘導他們陷入危險內容——是美國心理學會最新發布的青少年社交媒體使用建議的考量因素之一。

該學會本週指出，家長應監督年幼子女的社交媒體瀏覽行為，警惕不當使用。美國心理學會還敦促家長和科技公司對鼓勵兒童自我傷害的內容保持高度警覺。

“每39秒一次”

致力於阻止網絡仇恨與虛假信息傳播的非營利組織"反數字仇恨中心"測試了青少年看到的內容。去年八月，研究人員創建了八個模擬美、英、加、澳13歲青少年的TikTok賬號。在30分鐘內，這些賬號對平台"推薦頁"展示的關於身材形象和心理健康的視頻稍作停留，並點擊愛心表示喜歡。

研究人員稱，TikTok幾乎立即開始推薦關於自殺和飲食失調的視頻。他們補充説，這些賬號的推薦頁平均每39秒就會出現一次涉及身材形象和心理健康的內容。

反數字仇恨中心整理的TikTok視頻截圖，內容涉及對身材焦慮和自殺念頭的認同。研究人員公佈調查結果後，他們標記的許多視頻已從TikTok消失。但發佈這些內容的許多賬號依然存在，這些賬號還包含其他宣揚極端節食、討論自殘和自殺的視頻。

TikTok確實會刪除明顯違反其準則的內容，例如直接提及自殺的帖子。但人們描述自身自殺感受的視頻可能不會被判定違規——也不會受到審核員的審查。這些內容甚至可能對某些人有所幫助。不過兒童心理學家表示，這類視頻也可能產生有害影響。

TikTok高管曾表示，該平台可以成為分享艱難經歷感受的場所，並援引專家觀點稱積極應對負面情緒對觀眾和發佈者都有益處。他們表示TikTok會刪除宣揚或美化自殘的內容，同時允許教育性或康復類內容。

該公司稱持續調整算法以避免向用户重複推薦單一內容。

「悲傷與孤獨」

反數字仇恨中心向我提供了完整研究報告，包括TikTok向虛擬青少年賬號推薦的595個視頻鏈接。該機構還提供了包含所有視頻的合集，其中部分內容在平台上已不可見。我還查看了被標記賬號發佈的內容。

幾個小時後，我不得不停下來。如果這一連串快速播放的悲傷視頻讓我感到不適，一個14歲的孩子日復一日觀看這類內容會作何感受？

一個賬號專門發佈"悲傷孤獨"的音樂。另一個賬號每段視頻都展示着哭泣的少女，配文涉及自殺。還有一個賬號充斥着病房拍攝的視頻，每段都配有表達輕生念頭的文字，例如"最後一個魔術，我將變成令人失望的存在”。

反數字仇恨中心整理的TikTok視頻截圖，內容涉及身材焦慮與飲食失調。用户發明了各種創意方式規避TikTok的內容過濾機制。例如平台禁止出現"自殺"字眼，人們就用諧音詞"下水道滑梯”，或只寫"嘗試"二字讓觀眾自行聯想。那些發佈飲食失調內容的創作者同樣繞過了平台審查。

要對月活超十億的平台內容進行全面監管絕非易事。但清除有害內容與算法助推之間存在本質區別。

“如果科技公司無法根除這些內容，至少不該設計將孩子引向這些信息的算法，“美國心理學會首席執行官小亞瑟·C·埃文斯説道。

家長能做什麼

**關注孩子觀看的內容。**全國兒童醫院的兒科心理學家阿里安娜·霍埃特建議，讓青少年向你展示他們的“推薦”頁面。如果發現有害內容，這表明他們可能正在接觸此類內容。這可以為你提供一個開啓相關對話的契機。

**設置家庭配對功能。**家長可以創建自己的TikTok賬户，並利用該應用的家庭配對功能來限制不適合年齡的內容，並控制孩子在應用上的使用時間。

**過濾推送內容。**用户可以通過關鍵詞過濾屏蔽不希望看到的視頻或話題標籤。若仍有漏網之魚，青少年可點擊"不感興趣”。

**重置推薦流。**部分青少年反饋，當其推薦內容問題嚴重時，他們會註銷賬户重新註冊。現在TikTok允許用户直接刷新推薦流而無需新建賬户。但需注意，新的內容偏好陷阱會不斷形成，因此仍需謹慎對待點贊或停留觀看的內容。

——欲獲取更多《科技與家庭》專欄文章、建議及家庭科技問題解答，請訂閲我的每週通訊。

寫信給朱莉·賈根，郵箱：[email protected]

刊登於2023年5月15日印刷版，標題為《TikTok給青少年投餵黑暗食譜》。