偽裝嫖客、做卧底，我是抖音“守夜人”_風聞

風控，不就是一羣封號的人嗎？

很長一段時間，互聯網企業的“安全人”都被外界冠以這樣的誤解。

他們最大的成績，就是平台上沒有犯罪、沒有黑產、無大事發生。他們的努力，也和黑產一樣不被陽光所照射。

但沒有人知道的是，國內的互聯網黑產已是千億規模的市場。虛假點擊、羊毛黨、“假靳東”、“寵粉詐騙”、同城招嫖，各種欺詐黑產層出不窮。

用户的信息無時不刻不被黑產竊取，一旦被盯上，等待他們的是精心佈下的陷阱。

然而，同黑產對抗沒有捷徑可走，完全是一場人力和財力的比拼。

幸運的是，在這場戰爭中，有一支不計較財力、發誓要暗中保護大家的隊伍。

就像是《冰與火》之歌裏面的守夜人，永遠眺望着森林幽暗的深處。這支守夜人隊伍，則24小時盯着互聯網黑產的深淵。

以下是關於這些守夜人的真實故事：

文 | 常寧寧

編輯 | 卓然

兩個男孩擁抱親吻，這正常嗎？

“這個帳號不太對勁”，2020年3月，一凡收到了審核員發來的一條特殊視頻。

視頻內容的主人公是兩個小學生模樣的男孩在互相輕吻、擁抱。**“這看起來一點都不像這個年紀的孩子會做的事情”，**一凡的直覺告訴自己。

她翻看了發佈視頻的帳號，發現該帳號的歷史視頻裏還有大量類似的內容：男主角永遠是這兩個男孩，除了輕吻、擁抱，還會彼此撫摸。

更奇怪的是，有些視頻裏還出現了一個成年男性，看起來似乎正在指揮這兩個男孩的動作。

這顯然是一條違禁信息，涉嫌兒童性侵。按一凡以往的經驗，這種內容的直接處理方式就是下架視頻、封帳號，確保平台上的內容正向、健康即可。

**“但這樣就足夠了嗎？”**一凡猶豫了起來。

如果只是封鎖帳號，那兩個男孩真的遇到了危險，誰來幫忙他們？那個成年男性明顯存在問題，封鎖帳號並不會阻止他繼續傷害孩子。

這是一次和潛在犯罪分子搶時間的賽跑。當時是夜裏11點，一凡決定直接請示上級，如果對方沒看到信息，她就打電話過去説明情況。

幸運的是，領導馬上回復“拉羣，同步線下打擊組同學報警。”。

“報警”對應着最高風險等級——意味着高危內容背後可能有犯罪行為，通常需要極強的證據，經過法務和各方面研究判斷後，才能下達“報警"的指令。

但面對一些比較極端的案例，抖音安全中心會直接評估是否需要立即報警。

“線上封幾個號沒用，得讓這種渣滓現實中接受懲罰才行”，一凡的領導嶽文峯當機立斷地回覆。

幾乎是同一時間，審核組的同事，經過篩查帳號的歷史視頻，根據視頻中的一些建築、廣告牌等場景信息，瞭解到了視頻拍攝者的所在地——嫌疑人住在四川的某個縣城裏。

知道視頻拍攝者所在地區的信息後，一凡線下打擊組的同事就立刻動身從北京出發了——這也是少有的沒有拿到研判結果就出發的情況。

拿不到研判結果，意味着證據不充分、或存在法律漏洞不予立案，很可能全員白跑一趟。此外，受疫情影響，國內北京到事發地沒有直飛航班，轉機也讓線下打擊組的人增加了滯留和隔離風險。

但他們沒有遲疑過，每個人心裏都清楚，每耽擱一分鐘，視頻裏的兩個小男孩就會遭受多一些傷害。

在線下打擊組提供的線索和幫助下，該案件於3月27日偵破，當地警方發佈通告稱嫌疑人被抓獲，兩個小男孩被安全解救。

此時，距離一凡發現那條視頻僅剛過去一週。

後續調查結果顯示，這兩個男孩都是四川當地的留守兒童，父母長期在外打工。

疫情期間，學校封禁，由於家中沒有WIFI無法上網課，兩個男孩前往犯罪嫌疑人家中使用網絡，被哄騙拍攝視頻並威脅不能告訴家長，嫌疑人還將視頻在多個社交軟件、其他短視頻平台及網盤渠道發佈兜售。

在警察實施抓捕的時候，嫌疑人還計劃對兩個未成年男童進行猥褻。

據《2019年性侵兒童案例統計及兒童防性侵教育調查報告》顯示，2019年共發生301起兒童性侵案件，熟人作案超七成，其中師生關係佔比最高。

性侵兒童案往往發生在非常隱蔽的情況下，除了當事人的陳述證言，很難有其他證據佐證。另外，還有受害人保存證據不及時導致證據遺失、當前低齡兒童證據採信難等問題。

抖音安全中心的及時介入，配合協助警方獲取了重要線索和證據、鎖定了犯罪嫌疑人，才保證了兩個孩子才沒有遭受更大的傷害。

得知兩個孩子被成功解救以後，一凡焦灼的心才終於放下了。

“不想出成績、害怕被cue到”

在此之前，一凡一直定義自己所在的團隊，是一支最怕被領導cue到、也“不想做出成績”的團隊。

她所在的抖音安全中心，是抖音創辦之初就設立的部門。儘管目前團隊擁有數千名成員，但每個成員都過得很“憋屈”。

“平台沒事發生，才説明你的工作到位了”，一凡説，但平台沒事發生，外界也感知不到團隊做了哪些工作。

這個年輕的團隊被稱為“抖音的安全護衞隊”，目前團隊平均年齡僅25歲。僅到今年12月初，該團隊就處理了超過730萬個違規帳號、1380多萬違規視頻。

在這裏，忙碌是常態。他們每天要為平台上6億用户保駕護航，要關注平台上每天所產生的數百億次行為，這其中，要關注和處理無數風險性內容、違禁內容、以及黑產行為。整個團隊的下班打車記錄裏，時常出現夜裏11點至凌晨2點的情況。

一凡是在今年年初剛加入團隊，上司嶽文峯在她入職的頭一天就給了個“下馬威”。

“抖音有4億用户（一凡加入時），全國500萬黑產從業者對這4億用户虎視眈眈，我們的責任就是和500萬黑產人做對抗，保護用户的生命財產安全”。

從沒有過“安全”經驗的一凡心裏有些發虛。但想到這即將面臨的挑戰，她充滿了興奮，“這是誰都想嘗試的抖音啊！”

但一凡沒想到，等待她的第一個任務，是當一名“嫖客”。

當時抖音正從4億用户邁向6億用户飛速增長。流量暴增的同時，背後多帶來的黑產行為也成比例增長。

儘管抖音一直針對違規帳號進行打擊、不斷升級風控策略模型，但“道高一尺，魔高一丈”，狡猾的黑產人也通過各種方式逃避機器和算法的追捕——為此抖音不得不採用“無間道”的方式，通過異常帳號上留下聯繫方式，假扮“嫖客”，打入黑產內部。

初接這個任務時，一凡有些為難，她壓根看不懂黑話——最開始她盯着後台發現的**“茶葉”、“邀請喝茶”**的帳號們百思不得其解。

圖 | 涉黃行業的“黑話”

“茶葉招誰惹誰了？”在看到“上新”和一些美女視頻時，一凡才發現事有蹊蹺。

通過一段時間的卧底，一凡才知道“茶葉”相關的一整套引流術語是風月行業的黑話：“上新”則是指有新人加入了、“歡迎喝茶”則是表明營業了。

光知道黑話還不夠，一凡必須找到證據證明帳號涉黃才能封號。同時，她必須研究和定義新犯罪行為的特徵，輔助機器學會自動識別。

然而，大部分犯罪行為會跨平台進行：通過抖音上引流、去別的平台交流、再到第三方平台實現付款交易，每個平台的數據無法打通、很難跨平台取證。

一開始，一凡“放不開”。

“我還是個未婚女性，哪兒知道怎麼做‘嫖客’？”，一凡説，常常是她一開口，對方就知道不是正經‘嫖客’，聊着聊着就不見了。

很長一段時間裏，挫敗感包裹着一凡。那段時間，她常常全天苦於如何‘更像’一個嫖客，每天都在質疑自己是誰、從哪兒來、為什麼要幹這個。

和一凡有着類似困惑的，還有反欺詐項目的負責人王宸。他是個95後，也是因為“讀書時就玩抖音、喜歡抖音濾鏡”而加入抖音。

但加入抖音後，他才發現這份工作並不如想象的有趣。**“我無時無刻不在開始懷疑人生”，**王宸説。

王宸每天的工作都要審核大量帳號、總結欺詐帳號相關的特點供給機器學習。“每天要看成千上百個帳號、發現各種細小的特徵來判斷黑產”，王宸説。

這種忙碌是永無止境的，在做重點專項打擊項目的時候，加班到12點以後都是常事。

尤其是今年疫情爆發，抖音的用户也迎來飛躍增長。“從今年4月以後，團隊裏的人幾乎就沒有個人生活”，王宸説，同城招嫖、“假靳東”、雙十一電商詐騙等各個事件層出不窮。

最忙的時候，一凡和王宸要加班到凌晨3點、甚至直接在公司過夜。

但下班時，內心的焦慮感依然沒有減輕，唯恐自己的休息、“沒有做到極致”，而讓平台上的黑產多肆虐一天、讓無辜的孩子多受一份傷害。

但也是在這樣無數次的自我懷疑、痛苦掙扎後，一凡和王宸感覺自己突破了，得到了一種全新的體驗。

通過和同事、警方的學習和總結，一凡摸索出來了和涉黃人員交流的話術。她開始直接詢問對方“多少錢、在哪裏、安不安全”。

問完這三句話之後，對方會發來“菜單”（價格表），取證環節才算完成，緊接着再截圖舉報到對應平台，一個任務圓滿結束。

“後來組裏都開玩笑説我是‘女流氓’了”，一凡説。

通過一凡她們堅持跨平台取證、舉報，加上團隊的努力，已經有其他互聯網平台和抖音建立了合作。抖音提供取證完畢後的被舉報帳號，對方再通過這個帳號查詢IP，可以將相關的IP帳號全部封掉。

王宸則收到了一封感謝信，對方説自己因為抖音安全中心反欺詐小組的工作讓自己免於被騙。

王宸這才體會到這份工作的意義：審核是第一道關卡，看起來普通，但在審核基礎上，如何去用自己的力量幫助行業高效運轉，這才是更重要的事情。

在今年雙十一抖音成交額達到187億時，王宸更覺得自己在做一件有意義的事情。

通過他所在的團隊努力，**今年雙十一他們總共阻止了幾十萬風險帳號、幾千萬次的惡意攻擊，**在這背後，是無數羊毛黨和數以億計的止損額。

“我們為用户創造更好的網絡環境，幫助他們獲得成功，這種成就感，不是隨便能得到的。”

確保安全，絕不是一刀切封號了事

被誤解、自我懷疑……一凡和王宸的痛苦，嶽文峯也一直看在眼裏。

作為他們的直屬上司，嶽文峯也有相似的疑惑。

他入職抖音時，抖音在7個月內用户新增兩億、安全中心的成員也成倍增長。但外界對團隊一直存在誤解，大部分認為安全團隊最大的作用就是“封號”。

如果團隊做得好，其達到的效果是外界根本不知道有該團隊的存在，但這樣又如何讓團隊實現自我價值感？

這在他看來是極其荒謬的，“安全部門的工作不是簡單封號就可以解決的。背後的問問往往比大家想的更復雜。” 

但這種誤會卻曾一度引發內部產生巨大矛盾。

5月末，嶽文峯被緊急拉進一個羣裏。一個自稱家長的用户稱兒子在看抖音時出現了早熟行為，要求封掉相應帳號。對方表示，該帳號有大量涉黃裸露內容。

但團隊研判後發現該帳號是衝浪領域的垂直號，“裸露畫面”是穿泳衣的衝浪愛好者，並沒有達到封帳號標準。

但家長不依不饒，聲稱如果不封帳號，就要找媒體曝光。

抖音安全中心內部一下分成兩派：一方主張封號，免得家長去曝光；一方主張不封號，因為原帳號沒有任何問題，誰也説服不了誰。

在旁人看來，這無非就是一個簡單的封號手續，但是在嶽文峯看來是關乎底線的問題——不能因為一次不符合標準的舉報而誤殺。

嶽文峯堅持“不封”。但這個舉動一度讓主張封號的團隊成員不理解，甚至在雙月會後收集問題時，有人提問質疑他：到底能不能帶好團隊。

沒過幾天，此前被舉報的衝浪愛好者帳號突然發佈了一條高危敏感的內容，符合封號條件。

雖然如此，嶽文峯卻覺得有哪裏不對，一個衝浪領域的垂直號，突然發佈一條明顯違規的內容，有違常理。嶽文峯還是選擇“不封”，僅下架相關內容。

同時，他讓安全技術團隊的同事查詢帳號是否存在異常，結果發現，**這個帳號在發佈違規視頻時候的登錄 IP 地址與以往不同，**卻和“舉報家長”IP地址高度類似。

“會不會是舉報人黑了帳號”，嶽文峯暗自猜想。但怕冤枉好人，團隊迅速以“遭受攻擊"為名迅速報警。

警方出動調查後回覆，一切正如嶽文峯所預判的那樣：舉報人因舉報不成而盜取帳號、發佈高危內容誘導抖音封號。

但嶽文峯沒有想到的是，舉報家長根本就沒有兒子，該帳號在抖音的視頻搶了舉報人在三亞的衝浪生意，舉報人希望通過封對方的號來挽回生意損失。

這也進一步證明了嶽文峯的設想，風控絕不僅是封號而已。一旦簡單粗暴地對待複雜問題，對抖音百害而無一利。

比如僅在與“騙”相關的案件上，就分為欺騙、詐騙、哄騙等等類型的案件。其中，“欺騙”就分為騙錢的“寵粉案”和騙互動數據（類似“假靳東案”）兩種。

前者涉嫌違法犯罪，後者違規，處理方式完全不同，並不是僅靠封號能解決。

“封號是最簡單的，最偷懶的做法”，嶽文峯説。

另一方面，早期干預也可以降低風險。比如，為了防止青少年沉迷抖音、受到超過其年齡的內容影響，抖音也推出了青少年模式，對視頻內容、使用時長進行了針對性設計。

“黑產是不可能被消滅的，我們能做的就是不斷提高犯罪的成本，當犯罪成本高了，自然數量就下降了。”

從早期干預，到合理預判，到線下打擊，通過嶽文峯等人不計成本地建造這座“看不見”的圍牆，抖音才得以保留健康、安全的內容生態。

守最長的夜，做最忠於用户的“守夜人”

在參與解救四川兩個被猥褻男孩之前，一凡一度認為自己的工作“沒有實感”。

作為全線上化的風險防範團隊，對於風險、犯罪內容的審核和處理也大多是線上化進行，即便是成員自身都很難評估自己對企業、社會所作出的價值。

“但真的看到兩個留守兒童因為我們的參與而獲救，那一刻我覺得自己值了，這份工作非常實在”。

一凡説，“這個效果比我們在線上封幾個帳號有效 1 萬倍”，必須採取手段從精神、肉體上對其進行雙重打擊。

在此之後，她再也沒有懷疑過自己加入抖音的目的和未來，“我每天敲的那些代碼是能夠實際上幫助到有需要的人的”。

曾做過10年“安全人”的嶽文峯表示，抖音是他見過的、為數不多的在安全領域“不設上限”的公司，“在創辦抖音之初就建立安全團隊、為安全擴建進千人員工……”

“長夜將至，我從今開始守望，至死方休。我將不娶妻、不封地、不生子。我將不戴寶冠，不爭榮寵。我將盡忠職守，生死於斯。我是黑暗中的利劍，長城上的守衞。我是抵禦寒冷的烈焰，破曉時分的光線，喚醒眠者的號角，守護王國的堅盾。我將生命與榮耀獻給守夜人，今夜如此，夜夜皆然。”

這段來自《冰與火之歌》的守夜人誓言，也完美詮釋了這些守護着網絡暗處的“抖音守夜人”。

在城中的老百姓幸福生活時，總要有人站在城牆上，眺望黑暗，及時扼殺逼近的危險。

讓人慶幸的是，留下來的“守夜人”裏，幾乎沒有選擇離開的。