谷歌搜索詐騙對AI工具來説是一個不祥的跡象 - 彭博社

插圖：卡羅琳·費格爾為彭博商業週刊繪製在一個最近的星期六晚上，一位厭倧的科技高管決定嘗試一下他一直聽説的人工智能應用。這位高管，我們稱之為馬修，開始的方式和大多數人在互聯網上尋找東西的方式一樣：他打開筆記本電腦，輸入了人工智能公司Midjourney的名字，然後在 Google上點擊了排名第一的結果，經過幾次點擊後，他下載並安裝了這個應用。

或者他以為他這樣做了：實際上他點擊的是谷歌不知情地出售給冒充Midjourney的騙子的廣告。馬修請求匿名，因為他擔心訪問過他電腦的人可能仍然擁有他的個人數據，他無意中安裝了一種“信息竊取者”，一種通過搜索受害者的計算機尋找用户名和密碼，然後將其傳輸給黑客的惡意軟件。這個名為Aurora的惡意軟件已經訪問了他的加密錢包、社交媒體賬户以及其他什麼都不知道。黑客將馬修的 Coinbase錢包中的數十萬美元加密貨幣轉移到了一個不屬於他的銀行賬户。“這是你的整個生活，”馬修説。“你感到如此裸露、恐懼和脆弱。”

馬修責怪自己沒有更加小心，但他也責怪谷歌允許一個明顯的騙局登上其搜索結果頁面的頂部。這一失敗被設計選擇放大，創造了一種感覺，即谷歌搜索結果鏈接是完全客觀和可信賴的，同時使人難以分辨哪些是因為有人付費而出現在那裏的。（谷歌將廣告標記為“贊助”，但很容易忽略這個標籤。）

“谷歌長期以來一直將這些欺詐行為的成本轉嫁給社會”

馬修的經歷引發了關於該公司在搜索市場上的主導地位所帶來的成本的長期問題，以及其明顯無法遏制欺詐行為的問題。這表明谷歌可能在阻止欺詐和虛假信息方面可能會遇到比預期更困難的情況（有時甚至是事實錯誤的）聊天機器人搜索引擎。在眾所周知的Google Bard上，確定公司提供信息的來源可能會更加困難。

到7月底，馬修點擊的廣告已經消失，但仍然有虛假的Midjourney網站出現在谷歌搜索結果的前幾位。“它仍然出現在搜索結果中是不道德的，”他説。“我信任他們，但這是一種虛假的信任。”在一次來自Bloomberg Businessweek的查詢後，虛假的Midjourney列表很快就從谷歌上消失了。谷歌拒絕就虛假列表發表評論，但表示它使用人工審核員和軟件組合來刪除此類內容，這是被禁止的。它還指出，去年已刪除了52億條違反公司政策的廣告。“雖然有一些惡意行為者試圖規避我們的保護措施，但谷歌的系統在展示高質量信息和打擊垃圾郵件和惡意行為方面非常有效，”公司發言人Ned Adriance表示。

它不應該需要一個複雜的反欺詐系統才能發現 Google 展示給馬修的廣告是惡意的。該廣告指向一個聲稱是 Midjourney 公司的網站，但將公司名稱中的字母“o”替換為零，這是一個眾所周知的詐騙手法。在馬修點擊之前，Reddit 上有關於這個問題的帖子警告用户，並且康涅狄格州民主黨參議員理查德·布盧門撒爾在2022年的一封信中指責 Google “經常未能解決危險的詐騙、冒充和網絡犯罪”。此外，Midjourney 甚至沒有可下載的應用程序；你通過聊天應用 Discord 訪問它。

布盧門撒爾參議員在5月16日在參議院司法小組委員會關於人工智能的聽證會前對記者發表講話。攝影師：Eric Lee/Bloomberg類似的例子在 Google 的歷史中不時出現。例如，數字設計師舒姆利·埃弗斯在7月底發現，騙子們設法欺騙 Google 提供了虛假的電話號碼，用於銷售 達美航空公司 和其他大型航空公司的假機票。埃弗斯在推特上發文後，Google 糾正了錯誤，但批評者稱該公司長期以來一直知道類似的電話號碼詐騙。“這些劫持事件在過去15年中每年都會發生，”Near Media 的聯合創始人邁克·布盧門撒爾説，該公司為企業提供建議的數字和搜索營銷。“Google 長期以來一直將這些詐騙的成本轉嫁給社會。”

騙子已經更換了花店、鎖匠和酒店的電話號碼，Blumenthal説，他已經記錄了自2008年以來的案例 。“我們不容忍這種誤導性活動，不斷監控和改進我們的平台以打擊欺詐，”Adriance説，指的是航空公司的詐騙活動。

Google也受到一種更微妙的操縱。搜索引擎營銷人員——有時候藉助於 ChatGPT 和類似的服務——在某些類別的結果頁面中填滿了垃圾、自我推廣的網站，這些網站通常沒有任何有用的內容。這個問題，正如大西洋 去年描述的那樣“Google搜索的公開秘密，導致用户不得不採取技巧來嘗試過濾掉虛假的結果。其中最流行的策略之一是在任何搜索中添加 單詞“Reddit”，試圖讓Google專注於這個社交網絡，因為這個社交網絡被認為基本上沒有被營銷和垃圾信息淹沒。另一種方法是用 TikTok替換Google，如果你在尋找餐館、食譜或旅行建議，TikTok的結果可能會少得多。最後還有聊天機器人，比如Bard和 微軟公司 為其必應搜索引擎開發的聊天機器人，一些預言家説，這些聊天機器人最終可能會取代傳統的網絡搜索。

Google的Bard AI。攝影師：Gabby Jones/Bloomberg谷歌表示，絕大多數客户對其搜索結果的質量感到滿意，這至少部分解釋了為什麼其在該領域的主導地位在過去的二十年裏幾乎沒有受到挑戰。根據 Similarweb的數據，該公司在搜索引擎領域擁有91%的市場份額。

國會可以通過修改《通信廉正法》第230條款來施加更多壓力，該條款使網站免受與用户創建的內容相關的法律責任。但這樣的行動將受到激烈爭議，國會近年來並未展現出處理此類問題的能力。一個更有可能的途徑可能是美國司法部和各州檢察長提起的訴訟，旨在將谷歌與其多年前購買的兩個廣告網絡分開。谷歌表示，這起訴訟是對“試圖在競爭激烈的廣告技術行業中挑選贏家和輸家”的嘗試。

這些政府行動不太可能在短時間內得到解決。與此同時，馬修正在警告朋友和親戚要小心。儘管在FBI的幫助下最終能夠找回90%的錢，但他表示，他現在將錢存入傳統銀行而不是加密貨幣。但他擔心人們仍在上當受騙。他説：“到了這一步，谷歌已經足夠先進，如果我搜索像Midjourney這樣簡單的東西，我期望排在前面的鏈接是Midjourney的網站。”“他們只是沒有解決一些實際問題。”閲讀下一篇：如果下一個大型社交媒體應用是……什麼？