英國央行行長將在全球峯會前警告人工智能帶來的風險 - 彭博社

裏什·蘇納克

攝影師：克里斯·J·拉特克利夫/彭博社英國首相里什·蘇納克表示，世界各國領導人在充分了解快速發展的人工智能技術之前，應該剋制對其進行監管，儘管他概述了該技術帶來的一系列風險。

在週四的一次演講中概述了人工智能帶來的威脅後，蘇納克表示，如果開發人員在使用這項技術時“出錯”，可能會使恐怖分子能夠“傳播恐懼和破壞”，使化學和生物武器更容易製造，促進網絡攻擊、欺詐和兒童性虐待，甚至對人類本身構成風險。儘管如此，他在管理該技術發展時呼籲剋制。

裏什·蘇納克在倫敦發表人工智能演講。攝影師：托爾加·阿克曼/歐洲新聞社/彭博社“我們不應急於進行監管，”首相在倫敦發表演講後告訴記者。“如果你不完全瞭解它，很難對其進行監管。”

相反，蘇納克宣佈英國將建立他所描述的“世界首個人工智能安全研究所”，旨在測試這項技術的新形式以瞭解其能力。但由於英國“無法獨自完成這項工作”，他表示將利用下週在倫敦附近舉辦的全球人工智能峯會提議成立一個國際小組，發佈一份“人工智能科學現狀報告”。

“每一波新的浪潮都將變得更加先進，訓練更好，芯片更好，計算能力更強，” Sunak談到了人工智能。“因此，我們需要確保隨着風險的演變，我們的共同理解也在不斷發展。”

首相正試圖將英國定位在這項有潛力改變全球經濟的技術的前沿，並且他還概述了他説這項技術可能帶來的潛在好處，比如診斷醫療狀況和提高公共服務部門的生產力。

Sunak正準備在倫敦北部的布萊切利公園邀請全球領導人和商界高管，開始建立保護免受人工智能侵害的防護欄。在週四的講話之前，他的政府發佈了三份文件，闡明瞭這項技術的風險和好處，更多的關注點放在了它可能帶來的危險上。

閲讀更多關於人工智能的故事
* Sunak的人工智能嘉賓名單可能不足，領導人持觀望態度 * 英國推動將人工智能標記為“具有災難性危害能力” * 人工智能的強烈反對可能帶來英國社會動盪，Infosys合作伙伴表示 * Sunak將於11月1日至2日在英國解碼場所舉辦人工智能峯會

儘管他表示不想“危言聳聽”，Sunak警告説，“在最不可能但極端的情況下，甚至有可能人類會完全失去對人工智能的控制”，這是通過所謂的“超級智能”實現的。

“減輕人工智能滅絕風險應該是全球重要議題，與其他社會規模風險如大流行病和核戰爭並列，”他説道，接着補充道：“這不是人們現在需要為之擔憂而失眠的風險。”

英國政府的一份報告之一，將作為峯會的討論文件，詳細闡述了人工智能可能通過控制武器或金融系統而構成的“存在威脅”。由科學、創新和技術部門發佈的文件還闡明瞭人工智能對勞動力和金融市場的影響“可能引發社會和地緣政治不穩定”。

在不久的將來，生成式人工智能可能會增強欺詐、冒充和虐待兒童的風險 — 根據文件顯示，這些趨勢最有可能在2025年之前顯現併產生最大影響。

文件顯示，這項技術還對政治體系和民主機構的風險，以及在宣傳、激進化、招募、資金籌集、武器開發和襲擊計劃方面增強了恐怖分子的能力。這些文件已經由包括人工智能奠基人之一Yoshua Bengio在內的外部專家小組審查過。

報告還警告稱，大多數或所有用户都可以訪問的開源人工智能模型增加了技術被不良行為者濫用的風險。

預計Sunak將在下週的峯會上與一大批高管一起出席，包括前英國副首相、現任Meta Platforms Inc.全球事務總裁尼克·克萊格，以及來自Alphabet Inc.的谷歌和DeepMind Technologies Ltd.的詹姆斯·曼尼卡和Demis Hassabis。意大利總理喬爾賈·梅洛尼是迄今為止唯一一位將出席的七國集團領導人，美國副總統卡瑪拉·哈里斯和商務部長吉娜·雷蒙多也將加入。預計將有來自28個國家的約100人出席。