小紅書： 已處置虛假低質AIGC筆記60萬篇

【環球網科技報道 記者 李文瑤】6月14日消息，近日小紅書在“打擊虛假”治理開放日上公佈了2025年上半年社區虛假內容治理成果：通過建設虛假內容全鏈路治理體系，共處置虛假筆記320萬篇，處置虛假人設賬號1萬個，處置虛假低質AIGC筆記60萬篇；通過持續建設“同質化識別”能力，提升處置手段，升級機器對抗，共封禁批量造假黑灰產賬號超1000萬個。

小紅書虛假內容治理負責人蒂法介紹，虛假不實內容、虛假人設和AIGC造假是當前社區打擊“虛假”的三個重點。 其中，在AIGC技術爆發式發展的當下，虛假低質AIGC內容也成為治理的重中之重。小紅書介紹平台不斷加大對AIGC識別模型的研發投入，進一步提高識別精準度，減少虛假低質AIGC內容的曝光。同時，平台對AIGC生成內容做主動標識工作，提升信息透明度。半年共處置治理虛假低質AIGC筆記60萬篇。

值得關注的是，黑灰產組織批量製造黑灰產賬號，通過虛假、重複、低質內容騙取用户流量；養號漲粉後，又會發布虛假、惡意營銷內容，或者銷售灰色商品，提供灰色服務，甚至從事違法活動，從而實現不當牟利。從建號到養號再到牟利，黑灰產賬號進行全鏈路批量造假，對社區生態和秩序的危害十分巨大。

對此，中國人民大學新聞學院傳播學副教授董晨宇表示，應對當前互聯網虛假內容快速增長與傳播需要“立體式”的行動，其中不僅包括平台的努力，更包括全社會的共同參與。“虛假和打假之間註定一直是一種動態制衡。在這場持久戰中，如果真實想要穩居上風，公眾媒介素養的提升是關鍵。”

據瞭解，小紅書總編輯許磊此前在中國網絡文明大會上也介紹，小紅書持續優化舉報機制，今年上半年，虛假信息的平均審核時長同比降低25%；接下來，還將通過改進產品等措施，吸引更多用户參與到虛假內容的共治中。