谷歌努力減少搜索中的非自願深度偽造色情內容 - 彭博社

谷歌一直在調整搜索結果，專門尋找與某人姓名相關的深度偽造內容，並降低那些包含大量因違反明確虛假內容政策而被從搜索中刪除的頁面的網站的排名。

攝影師：Gabby Jones/Bloomberg谷歌正在調整其搜索引擎，以減少在搜索結果中高頻出現的性暴露虛假內容，這是對人們使用生成式人工智能工具創造出的非自願不良內容激增的回應。

當那些由AI生成的內容展示了一個真實人物的面部或身體而未經其許可時，該人可以要求將其從搜索結果中刪除。現在，當谷歌認為需要撤下某內容時，它將過濾所有類似搜索的明確結果並刪除重複的圖像，該公司在週三的一篇博文中表示。這家Alphabet Inc.子公司還表示，它已經改進了其搜索排名系統，以便性暴露虛假內容不會出現在頂部結果中 —— 這是彭博社在五月份報道的一項變化已經在進行中。

“我們一直有政策，使人們可以在搜索中找到這些內容時將其刪除，但我們正處於技術轉變的過程中，”谷歌負責保護谷歌生成式人工智能技術在搜索和其他應用中的Emma Higham產品經理在與記者的簡報中説道。“隨着每一次技術轉變，我們也看到新的濫用情況。”

2023年，彭博社發現，Google搜索是主要驅動深度偽造或性暴力AI生成色情內容的網站的流量來源。在Google上，搜索許多知名名人與“深度偽造”一詞匹配，會將用户引導至MrDeepfakes.com等網站，這些網站主要存在於交易色情圖像。根據Similarweb的數據，一年前，Google搜索佔據了前往MrDeepfakes.com的400萬台式機訪問量中的44%。發現。

Google一直在調整針對特定尋找與某人姓名相關的深度偽造內容的查詢結果。該公司表示，搜索引擎將被訓練以展示高質量、非色情內容，比如新聞文章，當這些結果可用時。到目前為止，Google表示，這些變化已經將這類查詢的顯式圖像結果的曝光減少了70%以上。

根據5月彭博社的一份報告，4月至5月間，美國的搜索流量導致前往前兩個深度偽造色情網站的流量急劇下降。

Google還在其博客文章中表示，正在降低那些包含大量頁面已因違反反對色情虛假內容政策而被從搜索中刪除的網站的排名。

在另一次採訪中，產品經理Higham表示，Google在決定何時採取行動針對非自願的顯式圖像以及何時保持搜索引擎上的結果不變方面面臨新挑戰，他提到需要平衡用户獲取信息的能力與在線安全之間的需求。倡導者批評Google降低，而不是完全刪除深度偽造內容。

“我們必須小心，不要採取過於直接的方式，對信息獲取產生意想不到的後果，”Higham説道，他指的是那些可能不希望在搜索引擎上將明確、經過同意的內容降級的成人表演者。“但是當我們看到高風險查詢和高風險的虛假明確內容非自願地出現時，我們現在正在採取強有力的行動。”

微軟公司的Azure雲計算服務在季度增長上放緩，令那些急於看到人工智能產品鉅額投資回報的投資者感到失望。

Azure的收入，在過去幾年中一直是微軟的主要增長引擎，在財政第四季度增長了29%，而上一時期增長了31%。最近一時期增長中約有8個百分點歸因於人工智能，而上一季度為7個百分點。