Alethea，Graphika正在使用人工智能幫助公司打擊在線虛假信息 - 彭博社

插圖：Carolina Moscoso for Bloomberg Markets

當客户開始從 硅谷銀行 提取數十億美元時，肖恩·艾布（Shawn Eib）立即介入。在弗吉尼亞州的家中，他開始在筆記本電腦上瀏覽互聯網的黑暗角落。可疑的消息來源，包括美國軍方指控宣傳俄羅斯宣傳的網站，助長了恐慌。

檢察官將另一則帖子與一名面臨 美國詐騙指控的中國商業高管聯繫在一起，指責銀行的失敗是中國共產黨的“無限制金融戰”。許多其他人將評論與暗示快速致富的加密貨幣計劃聯繫在一起。其中一則帖子寫道：“我本可以像這傢伙一樣賺個大錢！”

在 Bloomberg Markets 四月/五月期刊中亮相Bloomberg Markets艾布，一名38歲的前新奧爾良洛約拉大學IT管理員，是一名網絡虛假信息偵探。他為 Alethea Group Inc. 工作，這是少數幾家專門為希望保護自己免受互聯網謊言和社交媒體操縱的公司、非營利組織和政府而深入研究在線信息的網絡安全初創公司之一。

風險投資公司和私人投資者從2018年到2022年向這類初創公司投入了超過3億美元，據數據公司PitchBook稱。僅去年，微軟收購了由反極端主義研究員克林特·沃茨創立的Miburo，他現在領導着其數字威脅分析中心；Spotify收購了另一家極端主義監測機構Kinzen；亞馬遜等公司投資了總額2400萬美元的Logically，該公司跟蹤數字仇恨言論、外國宣傳和加密詐騙。

SVB危機説明了為什麼會引起如此大的興趣。一個組織的聲譽是在多年甚至幾十年內建立起來的，代表了無形的財富，可以構成其價值的很大一部分。在互聯網時代，它可能會在一夜之間被摧毀。更廣泛的問題是徹頭徹尾的謊言，而不僅僅是煽動恐慌的帖子，這些謊言會破壞世界金融體系。歐洲銀行管理局已經警告稱，銀行因“傳播不準確信息的活動”而“容易受到”擠兑。

為了應對這種風險，反虛假信息的初創公司通常配備人工智能軟件，用於搜索可疑內容。然後他們發佈報告或通知企業受害者有關在線謊言。這些公司通過各種方式賺錢。有些公司收取諮詢費或按月保留。Alethea拒絕討論定價。其主要競爭對手之一，Graphika Inc.，表示典型的安排是每年起價約10萬美元的訂閲。

銀行擠兑也顯示了所謂的虛假信息緩解行業的挑戰和侷限性。畢竟，SVB無法得到保護，很難將惡意行為者與那些合理指出銀行管理決策真正風險的人區分開來。

外部人員很難驗證關於該行業有效性的聲明。在德克薩斯大學奧斯汀分校研究宣傳的塞繆爾·伍利（Samuel Woolley）表示，這些公司在討論他們的方法時“細節不足”。“技術決定論很容易，”伍利説，他是一位助理教授，表示已經拒絕了創建自己的虛假信息檢測公司的提議。“但你必須考慮社會和文化背景，就像管理銀行一樣。”

硅谷銀行總部。攝影師：大衞·保羅·莫里斯/彭博社總部位於華盛頓的Alethea和其他公司承認他們的不足，並表示他們必須保護他們的方法不被不法之徒利用。他們説他們的服務可能很難推銷。公司通常沒有“虛假信息預算”，Ballistic Ventures的普通合夥人兼主席泰德·施萊因（Ted Schlein）表示。Lisa Kaplan是Alethea的創始人兼首席執行官，她回憶起推銷自己的服務更像是“在70年代向吸煙者銷售健康保險”。

2022年，成立四年的Alethea從Ballistic獲得了1000萬美元的投資，Ballistic的合作伙伴曾在軍方、美國情報機構和AT&T Inc.以及風險投資巨頭Kleiner Perkins從事過網絡安全工作。Alethea是一個源自希臘詞彙“真理”的女性名字。除了Kaplan外，Alethea的其他高層領導都是女性，其中包括曾是緬因州參議員安格斯·金（Angus King）2018年連任競選的數字總監。

Alethea發佈關於對記者和其他目標的威脅的免費報告；這有助於贏得付費客户的支持。帖子可能是偽造的或由他人控制的線索可能是一個Twitter賬户有50,000個粉絲，卻一直獲得15,000個贊，一條推文被轉發的次數超過了被點讚的次數，或者網站共享相同的域名。Alethea最近警告了一家美國電信公司，但沒有透露公司名稱，警告稱“偽裝龍”正在冒充客户，這個與中國有關的賬户網絡正在傳播虛假信息。

Kaplan。攝影師：Carolina Andrade/NYT/Redux紐約的Graphika有着更長的歷史。約翰·凱利（John Kelly）是一位計算社會科學家，擁有哥倫比亞大學的博士學位，他於2013年創立了這家公司。Graphika表示其客户包括Facebook母公司Meta Platforms Inc.和Alphabet Inc.的Google，還與美國參議院情報特別委員會合作過。

在2022年美國中期選舉中，Graphika將美國指控干預2016年選舉的俄羅斯互聯網研究機構與冒充歌手Kid Rock的賬户聯繫起來，以推廣陰謀論。該公司還發現了一家埃及公司運營的虛假新聞頁面，旨在瞄準埃塞俄比亞、蘇丹和土耳其，以及促進中國電信巨頭華為技術有限公司的假集羣賬户，該公司面臨美國製裁。

在最近的銀行混亂案中，Graphika的Santiago Lakatos，負責追蹤金融和市場的工作人員，使用公司的軟件來研究他所稱之為“陰謀金融社區的廣泛地圖”。與Alethea一樣，他懷疑對手會利用危機來動搖美國。他還發現加密貨幣倡導者不僅在SVB銀行引發了擠兑，還在總部位於紐約的Signature Bank和總部位於舊金山的First Republic銀行引發了擠兑。Graphika首席分析師傑克·斯塔布斯表示，俄羅斯國家行為者在過去24個月裏一直在引發美國和歐洲的通貨膨脹和生活成本問題上的不滿情緒，同時“對SVB銀行進行了大規模攻擊”。

當然，一個人的虛假信息可能是另一個人的政治觀點表述，因此公司必須小心處理。Graphika向組織提供情報，這些組織可以根據公司説法做出自己的戰略決策。“我們不試圖成為真假信息的仲裁者，”Graphika首席運營官蓋特·麥科德説。

紅旗也可能具有誤導性。Alethea的首席分析師邁克爾·羅賓遜在Twitter Inc.工作時調查了一些日本用户。他們擁有可疑數量的賬户，暗示存在一個虛假網絡。後來發現，這些用户是在在線角色扮演遊戲中扮演不同角色。

還有一個問題是可以採取什麼行動。律師事務所Boies Schiller Flexner的合夥人大衞·西蒙斯表示，往往很難採取法律行動，因為互聯網平台對其內容不承擔責任，而惡意行為者也難以確定。對一些組織來説，減輕謊言的影響成本太高。“對於較小的公司來説，反擊要困難得多，”他説。

麥考德將SVB銀行擠兑事件與2021年的模因股票狂潮進行了比較，當時散户投資者抬高了GameStop Corp.等公司的股票價格至荒謬的水平，部分原因是為了擠壓那些做空這些股票的華爾街投資者。後者導致了毀滅性的投資損失，最終影響了雙方；前者則動搖了銀行系統。這兩個例子概括了棘手的問題。在網絡上，帖子可能一開始是真實的（或接近真實），然後變成謊言和恐慌，其後果很少有人能夠預料到。

墨菲為彭博新聞社在舊金山報道網絡安全。