AI殺手機器人軍備競賽：工業面臨“奧本海默時刻” - 彭博社

烏克蘭士兵在巴赫穆特附近的無人機部隊指揮中心工作。

攝影師：保拉·布朗斯坦/蓋蒂圖片社監管機構警告政府，想要控制新一代人工智能殺戮機器可能已經沒有太多時間了。

隨着自主武器系統迅速擴散，包括在烏克蘭和加沙等戰場上，算法和無人機已經幫助軍事規劃人員決定是否打擊目標。很快，這個決定可能完全外包給機器。

“這是我們這一代的奧本海默時刻，”奧地利外交部長亞歷山大·沙倫貝格説，他提到了1945年幫助發明原子彈的J·羅伯特·奧本海默，後來他主張控制核武器擴散。

來自100多個國家的民間、軍事和技術官員週一在維也納會面，討論他們的經濟如何控制人工智能與軍事技術的融合——這兩個領域最近吸引了投資者的關注，推動股票估值創下歷史新高。

全球衝突的蔓延加上公司推廣人工智能的財務激勵，增加了控制殺人機器的挑戰，這是早期投資者Alphabet Inc.旗下AI平台DeepMind Technologies的亞恩·塔林所指出的。

“硅谷的激勵可能與人類的其他部分不一致，” Tallinn 説。

世界各國政府已經採取措施與將人工智能工具整合到國防中的公司合作。五角大樓正在向AI 初創公司注入數百萬美元。歐盟上週支付了Thales SA來創建一個圖像數據庫，以幫助評估戰場目標。

總部位於特拉維夫的 +972 Magazine 本月報道説，以色列正在使用一個名為“Lavender”的人工智能程序來確定暗殺目標。這份以色列對此進行了爭辯的報告稱，該 AI 系統在“對巴勒斯坦人進行前所未有的轟炸”中發揮了“核心作用”。

“屠殺機器人的未來已經來臨，”物理學家 Anthony Aguirre 説，他在一部被超過 160 萬觀眾觀看的2017 年短片中預測了這項技術的發展軌跡。“我們需要由聯合國大會談判的軍備控制條約。”

但是，至少在短期內，主張外交解決方案的人可能會感到沮喪，根據本週會議的策劃者、奧地利最高裁軍官 Alexander Kmentt 的説法。

“對軍備控制的經典方法行不通，因為我們討論的不是單一武器系統，而是一系列雙用技術，”Kmentt在一次採訪中説。

Kmentt 暗示，與其達成新的“傑作”條約，各國可能被迫通過已經掌握的法律工具來應對。他説，執行出口控制和人道主義法律可以幫助控制人工智能武器系統的傳播。

在較長期內，當技術變得可供非國家行為者和潛在的恐怖分子使用時，預計哥斯達黎加外交部長Arnoldo André Tinoco預測各國將被迫制定新規則。

“自主武器的易得性消除了確保只有少數人可以參與軍備競賽的限制，”他説。“現在，只要有一個3D打印機和基本的編程知識，學生就可以製造具有造成大規模傷亡能力的無人機。自主武器系統永遠改變了國際穩定的概念。”

埃隆·馬斯克（Elon Musk）對中國的快速訪問立即見效，特斯拉公司獲得了政府官員的初步批准，在全球最大的汽車市場部署其駕駛輔助系統。

據瞭解此事的知情人士透露，美國汽車製造商在某些條件下獲得了批准，但由於所有標準的細節尚不清楚，該知情人士要求匿名。特斯拉成功地克服了兩個最重要的障礙：與中國科技巨頭百度公司達成了一項地圖和導航協議，並且滿足了處理數據安全和隱私問題的要求。