10億短視頻用户背後的隱秘“戰事”_風聞

　　短視頻正成為人類世界最流行、最普及的精神產品之一。短短兩三年時間，抖音為代表的短視頻平台成為最能聚焦國民眼球、最具成長性的互聯網內容生產模式。

　　鮮花之後必有荊棘，不少投機者瞄準了這塊蛋糕，試圖通過鑽空子、打擦邊球的方式獲取不當利益。對抖音等短視頻平台而言，自創建以來就全力推動的平台治理再次面臨挑戰——這場反黑灰產戰事已經進入中場。

　　這是一場前所未有的非虛擬戰爭。原因在於，短視頻平台要面對的各類黑產與違法違規內容看似是一個個線上賬號，其背後的灰色利益鏈條卻深藏線下，人員覆蓋“莊家”、黑客、“營銷人員”等，且跨平台化發展趨勢日益突出。

　　與“影子”的戰爭剛剛開始，或許在很長時間裏不會有終點。然而，抖音們必須全力以赴。

　　10億短視頻用户背後的“妖魔鬼怪”

　　隨着短視頻行業的火爆，抖音、快手以及其他短視頻產品的用户已經超過10億之多，其中僅抖音一家日活就達到6億，使用時長30分鐘以上用户佔比35%。

　　繁榮的短視頻平台10億用户的背後，隱藏着奇形怪狀的各色妖魔鬼怪：各種黑灰產、色情、詐騙等違法違規內容層出不窮。

　　我們常見的，有些主播為了所謂的高人氣和相應收益，與非法刷量機構共謀，刷粉、刷直播帶貨量，也有人以冒充名人等方式進行詐騙，也有人發佈性暗示內容進行色情導流。

　　近期網絡熱傳的“60歲大媽要和靳東結婚”這個讓人五味雜陳的故事，正是騙子利用部分女性在人生某個階段出現情感空白、內心孤獨感滋生等軟肋，從而蓄意詐騙的典型案例。

　　**作為短視頻平台的領先者，用户規模最大的抖音，更成為不法者眼中的豐盛蛋糕。**根據媒體調查，一個粉絲數達137萬的抖音號，售價高達8萬元；5萬粉絲+5萬個贊+5萬次分享+5000評論+100萬播放量，售價5800元；抖音音樂人認證298元，企業認證700元……

　　這些幾元至萬元不等的刷粉、刷贊、賣號生意，其實早已悄悄地佈滿了所有網絡搜索通道。棘手的是，這些妖魔鬼怪隨時都在變形，從最早的電話詐騙，到利用社交網絡、電商平台詐騙，可謂“與時俱進”。

　　而現在，伴隨短視頻平台的火爆，它們也將生意做到了這裏。由此，短視頻平台與妖魔鬼怪的對抗成為常態。

　　為了應對時不時冒出來騷擾用户的“妖魔鬼怪”，平台也需要從各個角度去做防禦。例如，抖音就從用户側出發，針對用户功能場景建設防禦措施，比如在用户的搜索場景中，通過搜索干預，對疑似高危賬號進行屏蔽處理，同時對用户展示提醒文案，提醒用户注意識別，防止造成損失。

　　每一個問題視頻，事件雙方都處於不同的場景、關聯不同的人羣、對應不同的風險點。以未成年人為例，相比成年人用户，孩子們更加缺乏辨識能力、自我保護能力乃至舉報能力。對此，抖音在運營側會針對可能對青少年造成誤導的內容，提供模型策略，讓其與青少年羣體進行隔離。

　　10億短視頻用户，場景不同，圈層不同，相同的是，他們都必須受到平台的保護。

　　與“影子”的較量

　　對短視頻平台來説，各色妖魔鬼怪就像影子一樣，看到卻摸不着，如影隨形擺脱不了。

　　一方面，與傳統打黑除惡相比，黑灰產在平台上似乎可以看到，但實物並不在那裏，打擊難度大。比如線下打擊色情場所，表面上是一個頁面上、一個彈窗，但背後發佈引流信息的團伙卻在不斷更換賬號，發佈的內容也在不斷變動。

　　另一方面，有陽光的地方就有陰影，黑灰產自互聯網誕生之初就存在，隨着互聯網的繁榮，黑灰產也遍佈各個行業、各類產品。某互聯網巨頭的安全業務負責人曾向媒體表示，金融、電商、社交、直播、出行、遊戲等行業都容易遭遇互聯網黑灰產。

　　根據世界經濟論壇發佈的《2020年全球風險報告》，數據欺詐或被盜、網絡攻擊是可能發生的全球前十大風險，到2021年，互聯網黑灰產將給全球造成高達6萬億美元的損失。

　　反黑灰產以及平台治理，一直以來都是互聯網行業的重點任務，是一項需要各大巨頭們關注的、複雜而長期的系統工程。中外的互聯網巨頭，很多同時也是互聯網反黑灰產巨頭，比如微軟、亞馬遜、阿里、騰訊、百度、抖音。

　　由於自身的行業特性——與文字、圖片等不同，視頻問題的發現難度大——短視頻行業的平台治理更為複雜。為了用更好的方式打擊“陰影”，抖音摸索出了從發現問題、處理問題到規避問題的一整套治理工作鏈條，其中尤其注重前期的發現問題。

　　為此，抖音成立了安全中心，下設安全風險巡查團隊，負責每日的站內巡查和清理。這支隊伍有些像影視中的網絡特戰隊，只是他們的武器不是槍炮，而是算法、程序、技術攔截。

　　這場“虛擬戰爭”同時也是一場“羣眾戰爭”，每天數以千萬級的短視頻審核，僅依靠專業團隊還遠遠不夠。因此，用户充當了“斥候”的角色，通過站內舉報、郵箱舉報、電話舉報、啄木鳥小程序等舉報與投訴機制，成為第一時間發現“陰影”的吹哨者。

　　**這是一場對“陰影”的全方位打擊，人之外，技術也必不可少。**底層，抖音以技術所形成的帳號模型和內容模型為基礎，快速篩選及識別，最短時間內解決大量疑似問題內容的“真偽驗證”。

　　“假靳東”事件後，抖音制定了應急方案，短期內對靳東相關賬號進行速清，清查了5000+疑似靳東仿冒賬號。截至10月底，完成下架話題143個，並處理了問題存量視頻195萬個。

　　戰鬥，每天都在發生。戰鬥之餘，抖音會對每次遇到的問題進行復盤，因此，抖音平台治理的各項細化功能會經常迭代，在發現、處理問題的基礎上規避問題。

　　“假靳東”事件之前，抖音安全中心已經開始對仿冒名人的問題進行研究總結，在上半年，抖音安全中心上線了針對仿冒明星的識別模型；隨着7、8月監測到明星直播下仿冒名人賬號突增，抖音安全中心又搭建了專門的審核機制、標準和流程，研發上線了新的風控策略模型。

　　對抗中，其上線了大V認證，後台上線了針對仿冒明星客服的模型策略，在私信功能側上線了黑灰產私信語義模型、私信舉報策略等。

　　最終，它做到了對仿冒明星客服類黑灰產賬號的實時打擊，尤其是在知名明星直播的過程中。有一次，在陳赫直播時監測到有黑產團伙試圖冒充客服賬號進行詐騙，抖音對其進行了實時處理，甚至誤殺了陳赫本人的賬號。

　　當陰影無處不在，唯一的應對方式就是治理無時不在, 無處不在，哪怕是跨平台——抖音平台治理團隊所遵循的就是這一原則。

　　平台治理的下半場

　　隨着短視頻行業規模不斷擴大，違法者為了利益最大化，也在不斷武裝自身。在治理過程中，抖音平台治理團隊發現，越來越多的挑戰撲面而來。

　　一方面是技術演進，比如黑產團伙利用羣控系統，可以同時進行大規模批量作惡，由於使用的是和正常人一樣的真實設備，平台識別難度大大增加。

　　另一方面則是跨平台特點明顯。跨平台的違法違規行為越來越多，比如色情導流，黑產團伙大批量購買短視頻平台的賬號，然後發佈帶有性暗示的信息視頻、評論，將用户引流到微信、QQ等第三方平台，給黃色網站導流，或者販賣色情視頻，或者招嫖。

　　**與此同時，黑灰產業規模壯大，產業鏈上下分工更加細化。**在最新的黑灰產業團伙作案現象中，最上游成員負責提供黑產情報，比如哪家平台又發了新的優惠券，哪個平台又做了拉新活動，哪個平台的審核規則變化可以鑽空子。他們情報的來源包括QQ/微信、電報羣、羊毛線報論壇、暗網以及一些技術博客等。

　　黑產團隊中的中上游成員，則負責提供基礎的資源，比如代理IP、卡池、接碼平台。其中，代理IP可以用來註冊賬號使用，因為如果一直是同一個IP註冊，平台就容易封殺；接碼平台用來手機註冊時收取驗證碼。

　　此外，中游成員負責提供作案工具，比如秒殺的工具、註冊機、刷粉軟件等；下游成員負責變現渠道，進行紅包提現、代下單、賬號倒賣、刷粉服務售賣、黃牛倒賣等。

　　這意味着，包括抖音在內的短視頻平台治理進入了更復雜、更多變的下半場。

　　技術是典型的雙刃劍，抖音平台治理團隊在不斷推動治理技術的優化與完善，而黑灰產團伙也憑藉自身的資源，將各類黑客所研發的“新技術”快速應用，這造成了抖音與黑灰產對抗的升級。

　　新的對抗困難點也隨之出現，比如信息不對稱，在被攻擊之前，平台不知道黑產會通過何種手段進攻。抖音平台治理團隊給出的答案是持續研發新技術，目前其運用移動安全、大數據分析、人工智能等技術構建了立體的防禦體系，幫助平台進行全面、多維度的風險識別。

　　被動式防禦永遠不如主動式防禦。抖音平台治理團隊在新困難點下展開了更專業的攻防，比如進行安全運營與風控研究，主動了解灰黑產是如何攻擊的。

　　如同正規軍隊需要不斷通過演習來檢驗實戰能力，抖音安全中心內部組建了攻防團隊，模擬黑產對業務進行攻擊，並對作惡路徑進行復現研究，用於發現潛在的攻擊威脅。在這個階段中，抖音安全中心經歷了作弊者從機器到真人的演化，也研究了相關的防禦手段。

　　由此，抖音平台治理團隊每天都在同時進行兩場“戰鬥”，一場是對外的，應對真實的黑灰產團伙；一場是對內的，是攻防團隊的常態化模擬演練，其激烈程度絲毫不亞於對外攻防。

　　然而，抖音平台治理團隊仍面臨越來越大的壓力，黑灰產等團伙的跨平台作案趨勢日趨明顯，這不僅加劇了抖音單個平台的治理難度，也給整個互聯網的安全治理帶來了更大的隱患。

　　**抖音平台治理團隊成員的最大感受，是希望未來能持續強化跨平台聯動治理。**首先希望企業與企業的黑灰產大數據聯動，提升發現問題的效率和打擊效果，同時可以早一步處理在其他平台上的詐騙行為。

　　平台治理的價值核心是技術，抖音平台治理團隊認為，未來能否探索風控模型的聯合建設是技術驅動下進行平台治理的關鍵：基於黑灰產大數據的聯動，多平台在風控模型的建設上進一步實現聯合建模，提供給行業使用，提升處理問題的效率。

　　除了平台與技術的協同，抖音平台治理團隊還希望能強化平台與公安等執法機關的聯動打擊，從而做到“線上溯源、線下查處”，每發現一起黑灰產案件線索，就能將其團伙連鍋端。

　　在抖音平台治理團隊看來，短視頻行業的任何一個問題都不是單個平台的問題，而是行業和社會共同面臨的問題，這就要求舉全行業、全社會之力來實現資源共享、協同共治。

　　結語

　　跨平台治理、企業與執法機關常態化聯動，這或許是一項難度更大的命題，但抖音平台治理團隊對此充滿信心：“無論是抖音還是其他短視頻平台，抖音平台治理所面臨的問題有一部分是老問題，有一部分是新問題，而抖音相信，技術與人的融合，能夠更加有效地應對這一全新課題。”

　　**技術是武器，人是戰士，只有動員起所有能動員的資源轉化為武器和戰士，社會才能真正打贏針對線上黑灰產的這一仗。抖音與萬千妖魔鬼怪和“影子”的攻防，不只是一家平台的戰鬥，也是其它平台以及整個社會戰鬥的一環。**唯有協同發力，才能推動這場涉及全民、全社會的戰役向縱深挺進。