我們需要討論一下人工智能如何清理深度偽造視頻——彭博社

Parmy Olson

每個人都是脆弱的。

攝影師：OLIVIER DOULIERY/AFP當人們擔心人工智能時，不僅是因為他們對未來的看法，還因為他們記得過去的事情--特別是社交媒體的有毒影響。多年來，虛假信息和仇恨言論逃過了Facebook和Twitter的監管系統，並在全球傳播。現在，深度偽造技術正在滲透這些平台，而Facebook 仍然負責不良內容的傳播，製造這些技術的人工智能公司也有清理責任。不幸的是，就像之前的社交媒體公司一樣，他們在幕後進行這項工作。

我聯繫了十幾家生成式人工智能公司，他們的工具可以生成逼真的圖像、視頻、文本和語音，詢問他們是如何確保用户遵守他們的規定的。1 十家公司都回復了，確認他們使用軟件監控用户生成的內容，大多數稱他們也有人工審核這些系統。幾乎沒有人同意透露有多少人負責監督這些系統。

但是他們為什麼要這樣做呢？與製藥、汽車和食品等其他行業不同，人工智能公司沒有法定義務披露他們的安全實踐細節。他們可以像社交媒體公司一樣對這項工作保持神秘，而且這種情況可能在未來幾年內仍將存在。歐洲即將出台的人工智能法案宣揚“透明要求”，但目前尚不清楚它是否會迫使人工智能公司像汽車製造商和食品生產商一樣接受安全實踐審計。

對於其他行業來説，採用嚴格的安全標準花了幾十年的時間。但是當人工智能工具發展如此迅速時，世界無法承受讓它們自由發展那麼長時間。Midjourney最近更新了其軟件，可以生成如此逼真的圖像，以至於可以顯示政治家的毛孔和細紋。在一個重要的選舉年開始之際，接近一半的世界將進行選舉，監管真空意味着人工智能生成的內容可能對民主、婦女權利、創意藝術等產生毀滅性影響。

以下是解決這個問題的一些方法。其中一種方法是推動人工智能公司更加透明地公佈他們的安全實踐，這始於提出問題。當我聯繫OpenAI、微軟、Midjourney和其他公司時，我提出了簡單的問題：你們如何使用軟件和人員執行規則，以及有多少人員在執行這項工作？

大多數公司願意分享關於防止濫用的流程細節（儘管措辭含糊）。例如，OpenAI有兩個團隊的人員幫助重新訓練他們的人工智能模型，使其更安全或者對有害輸出做出反應。引起爭議的圖像生成器Stable Diffusion背後的公司表示，他們使用安全“過濾器”來阻止違反規則的圖像，並且人類審核員會檢查被標記的提示和圖像。

人工智能人員監管的神秘

大多數人工智能公司不會透露有多少人幫助確保他們的產品安全

來源：這些公司

注意：所有十家公司都使用軟件和人員的組合來監控提示、輸出或兩者兼而有之。Descript使用內容審核員來驗證用户，但不檢查他們對其語音克隆工具的使用。

從上面的表格中可以看出，然而，只有少數公司披露了有多少人類在監督這些系統。把這些人類想象成內部安全檢查員。在社交媒體上，他們被稱為內容審核員，他們在雙重檢查社交媒體算法標記為種族主義、厭惡婦女或暴力的內容方面發揮着具有挑戰性但至關重要的作用。Facebook有超過15,000名審核員來維護網站的完整性，而不會扼殺用户的自由。這是人類最擅長的微妙平衡。

當然，大多數AI工具都不會像人們在Facebook上那樣產生有害內容，因為它們內置了安全過濾器。但如果它們僱傭更多的人類審核員，它們仍然可以使自己更安全、更值得信賴。在缺乏更好的用於捕捉有害內容的軟件的情況下，人類是最好的臨時措施，而迄今為止，這方面的軟件已經被證明是不足的。

泰勒·斯威夫特的色情deepfakes和總統喬·拜登的語音克隆以及其他國際政治家的例子只是其中幾個例子，突顯了人工智能和科技公司在安全方面的投入不夠。誠然，僱傭更多人類來幫助他們執行規則就像拿更多的水桶來撲滅房子的火災。這可能解決不了整個問題，但它會暫時讓情況變得更好。

“如果你是一家正在開發具有生成式人工智能組件的初創公司，那麼在開發過程中的各個階段僱傭人類是非常明智甚至至關重要的，”《一切適度》的創始人本·惠特勞説，該刊物是關於在線安全的通訊。

幾家人工智能公司承認只有一兩名人類審核員。視頻生成公司Runway表示，他們自己的研究人員負責這項工作。Descript公司生產一款名為Overdub的語音克隆工具，他們表示只檢查了一部分克隆聲音，以確保其與客户朗讀的同意聲明相匹配。該初創公司的女發言人辯稱，檢查他們的工作會侵犯客户的隱私。

人工智能公司擁有無與倫比的自由度來秘密進行他們的工作。但如果他們希望確保公眾、監管機構和公民社會的信任，向外展示他們如何確切地執行他們的規則是符合他們的利益的。僱傭更多的人類也不失為一個壞主意。過於專注於讓人工智能“更智能”，使假照片看起來更真實，文本更流暢，或者克隆聲音更具説服力，這樣的做法威脅着將我們推向一個更加危險、令人困惑的世界。最好是在一切變得更加困難之前加強並公佈這些安全標準。

更多來自彭妮·奧爾森在彭博觀點的文章：

想要更多彭博觀點嗎？ OPIN <GO> 。或者訂閲 我們的每日新聞簡報 。