快速的人工智能擴散是民主的威脅，專家表示 | 路透社

人工智能的字樣出現在這張插圖中，拍攝於2023年3月31日。路透社達多·魯維奇/插圖/文件照片

11月8日（路透社）- 人工智能的加速發展可能已經擾亂了選舉等民主進程，甚至可能威脅到人類的存在，人工智能專家在紐約舉行的路透社NEXT大會上發出了警告。

最近幾個月，生成式人工智能的爆炸性增長——它可以根據開放式提示創建文本、照片和視頻——引發了人們對其潛力的興奮，同時也引發了對其可能使一些工作變得過時、顛覆選舉甚至可能超越人類的恐懼。

“最大的直接風險是對民主的威脅……全球2024年有很多選舉，幾乎沒有可能一個選舉都不會被深度偽造等因素左右，”紐約大學教授加里·馬庫斯在週三在紐約舉行的路透社NEXT大會上的一個小組討論中表示。

一個主要的擔憂是生成式人工智能已經加速了深度偽造視頻的製作——這是由人工智能算法根據大量在線視頻訓練而成的逼真但虛構的視頻——這些視頻出現在社交媒體上，在政治上模糊了事實和虛構。

儘管這種合成媒體已經存在了幾年，但馬庫斯表示，以前需要花費數百萬美元的東西現在可能只需要300美元。

專家們在會議上警告説，公司越來越多地使用人工智能來做出包括定價在內的決策，這可能導致歧視性結果。

Marta Tellado，非營利性消費者報告組織的首席執行官，表示一項調查發現，居住在以黑人或棕色人口為主的社區，並且與大部分白人居民的社區相鄰的車主支付的汽車保險費要高出30%。

“消費者在任何方面都沒有透明度，”她在一次小組訪談中説。

立法者和科技領袖必須防範的另一個新興威脅是人工智能變得如此強大，以至於對人類構成威脅，未來生命研究所的創始人兼執行董事安東尼·阿吉雷在一次會議上接受採訪時表示。

“我們不應低估這些模型現在有多強大，以及它們將會變得多麼強大，”他説。

未來生命研究所是一個旨在減少先進人工智能帶來的災難性風險的非營利組織。今年三月，該組織發佈了一封公開信，呼籲暫停訓練比OpenAI的GPT-4更強大的人工智能系統六個月。該組織警告稱，人工智能實驗室一直在進行一場“失控的競賽”，開發“強大的數字思維體，甚至它們的創造者也無法理解、預測或可靠地控制。”

開發越來越強大的人工智能也將冒着消滅就業崗位的風險，到最後人類可能無法簡單地學習新技能並進入其他行業。

“一旦發生這種情況，我擔心要讓人工智能重新成為一種工具、成為賦予人們力量的東西將不那麼容易。它將更多地成為取代人類的東西。”