Faceboo移除利用AI創建虛假頭像的虛假賬號

據外媒報道，Facebook於當地時間週五表示，它移除了數百個誤導用户的虛假賬號、頁面和羣組，其中包括一些使用人工智能(AI)生成虛假個人資料圖片的賬號。 研究這些賬號的研究人員表示，這是他們首次看到AI生成的圖像被如此大規模使用，這引發了人們對社交網絡將如何在2020年美國總統大選之前解決這一問題的擔憂。

另外，Facebook還註銷了旗下照片分享服務Instagram上的一些虛假賬號。據悉，這家公司查封了來自美國和越南的610個Facebook賬號、89個頁面、156個羣組以及72個Instagram賬號。大約有5500萬個賬號至少關注了其中一個頁面，其中大多數關注者來自美國以外。

該公司表示，他們刪除了這些賬號，稱其參與了外國和政府幹預活動或不真實行為，這意味着，無論是誰在運營這些賬號，都在誤導他人。

針對美國公民以及越南、西班牙和説中文的受眾，許多虛假賬號都是由一家名為the BL（全稱The Beauty of Life）的美國媒體機構推廣內容運營。事實核查組織Snopes指出，the BL跟一家美國媒體集團有關，後者擁有《The Epoch Times》並推送支持特朗普的內容。Facebook稱，這些虛假賬號通常會發布有關美國政治新聞以及彈劾、保守派意識形態、政治候選人、選舉、貿易、家庭價值觀和宗教自由等問題的網絡迷因和其他內容。

社交媒體分析公司Graphika和大西洋理事會(Atlantic Council)的數字取證實驗室(Digital Forensics Lab)經過對這些虛假賬號網絡的分析發現，很多英語內容都是在支持特朗普或攻擊這位總統的競爭對手。

這些賬號利用假頭像並假裝美國人加入“美國需要特朗普總統”和“特朗普是美國總統”等組織。通過使用AI,這些虛假賬號的頭像也都是偽造的。

研究人員注意到頭像中一些細微的細節可以表明這些頭像是假的。例如，在一些照片中可以發現照片裏的人佩戴的眼鏡和耳環是不對稱的、某人脖子可能會有輕微的扭曲，或照片的背景看起來有點異常。

在另一些情況下，虛假賬號使用的頭像則都是在網上找到的股票圖片或帥哥美女照片。

另一個虛假賬號網絡來源於格魯吉亞。對此，Facebook刪除了39個Facebook賬號、344個頁面、13個羣組和22個Instagram賬號，這些賬號的粉絲和會員總數超45萬人。該網絡假裝成媒體、政黨和活動人士，發佈有關新聞、政治問題和政治批評的帖子。