Facebook的機器人審查員能識別色情內容嗎？——彭博社

喬治·洛根拍攝關於色情內容的老套説法是，當你看到它時就會知道。 Facebook打賭，不僅它會知道，而且這個社交網絡將能夠訓練其計算機做同樣的事情。

週五，該公司宣佈了一項新的針對潛在爭議頁面的廣告政策，表示將禁止包含暴力、圖形或性內容的頁面或羣組投放廣告。公司正在回應上個月的風波，當時品牌發現其廣告出現在含有粗俗、性別歧視內容的頁面旁邊後開始撤下廣告。在另一項不相關的舉措中，谷歌表示將很快禁止其Blogger服務的用户發佈成人業務的廣告。

這些問題已成為互聯網公司的常見煩惱，它們的網站上充斥着用户生成的內容。扮演裁判的角色並不令人舒適。公司不僅面臨顯得過於拘謹或對受冒犯方不夠敏感的選擇，而且簡單地審查數百萬條內容以確定每條是否違反某種敏感性是極其困難的。Facebook的判斷過去曾受到質疑，公司刪除了男同性戀接吻的圖片，卻允許充滿強姦笑話的頁面留在網站上。審查社交媒體上潛在冒犯內容的工作是一項低薪且非人性化的工作。

這一次，Facebook希望在將工作交給計算機之前，先利用一段短暫的人工審核期，該公司在描述其新政策時解釋道：

為了確保徹底性，這一審核流程最初將採用人工方式，但在未來幾周內，我們將構建一個更具擴展性的自動化方法，以防止和/或移除出現在爭議內容旁邊的廣告。所有這些都將提升對可疑內容的識別能力，意味着我們能更好地確保廣告信息出現在與品牌相符的頁面和羣組旁。

通過算法分析（例如識別大量裸露皮膚）來識別色情照片的計算機程序並非新概念。但Facebook面臨的挑戰不止於此：它必須判斷在何種情境下哪些內容是不合適的。即便是人類也常難以做出這些判斷。觀察Facebook的計算機系統能如何應對這一挑戰，將會非常有趣。