AI製造的生物武器威脅引起美國政府官員的關注 - 彭博社
David Gura, Thomas Lu
攝影師：Reptile8488/E+/Getty Images別錯過任何一集。立即關注 The Big Take 每日播客。
## Big Take
AI制生物武器的威脅
13:38
2023年4月，一名攜帶一個小黑盒子的男子走進了國家最安全的建築之一，就在白宮旁邊。盒子裏裝着可以用來製造生物武器的成分。這名男子透露的關於他如何獲取這些成分的信息更加可怕：一個AI聊天機器人給了他配方。
在今天的Big Take節目中，主持人大衞·古拉與彭博健康記者萊利·格里芬討論了為什麼這一把戲驚動了白宮官員，並喚醒了他們對AI制生物武器潛在危險的認識。
閲讀更多： AI制生物武器成為華盛頓最新的安全焦慮
進一步收聽：
收聽並關注The Big Take，可在 Apple Podcasts、Spotify 或您獲取播客的任何地方
終端客户端：在桌面上運行{NSUB BIGTAKEPOD <GO>}進行訂閲
以下是對話的輕微編輯轉錄：
**大衞·古拉：**彭博記者萊利·格里芬有一個非常獨特的報道領域。
**萊利·格里芬：**我是一名醫療保健記者，我駐紮在華盛頓特區，我特別關注健康和國家安全的交匯處。
**古拉：**自新冠疫情爆發以來，在健康和國家安全交匯處，故事不斷。
**格里芬：**我們都對那一刻感到非常謙卑，我認為，在那之前，我一直關注製藥公司的管道，以及它們如何確保盈利和繁榮的業務。我沒有想到醫療保健會威脅我們的經濟或威脅我們日常行為的能力。
**古拉：**對可能構成威脅的可能性有了新的警覺後，萊利在得到線報時感到好奇。
**格里芬：**我是從見證了那位帶着一個黑匣子進入的傢伙的簡報的政府官員那裏聽説的
**古拉：**一個黑匣子。而那個簡報不是在任何地方舉行的。
**格里芬：**他帶着那個黑匣子進入艾森豪威爾行政辦公大樓，EEOB。嗯，那棟建築就在西翼旁邊，實際上。那裏有很多白宮工作人員。
**古拉：**萊利説她與參加那次會議的幾個人交談過，他們告訴她，在那個小塑料容器裏……
格里芬：……裏面裝着合成DNA的試管。
**古拉：**合成DNA中包含了可以用來製造致命疾病的成分。
這已經夠可怕了。但萊利的消息來源告訴她，真正讓他們吃驚的是當他們發現那個人——一名前聯合國武器檢查員——是如何找出應該放入那些試管中的物質的。
這是通過一個AI聊天機器人的幫助。
**格里芬：**他的團隊基本上在假裝成生物恐怖分子。如果一個生物恐怖分子想要更好的指導如何製造生物武器或者在實驗室中實際製造它的過程中需要幫助，它會問什麼？它需要知道什麼？
**古拉：**他們輸入問題，然後得到答案。
但這不僅僅是配方——如何處理那些合成DNA。
萊利説那些政府官員聽説了那個聊天機器人推薦在哪裏放置病原體，以及如何部署它們以造成最大的傷害。
這引發了一個令人震驚的問題：
**格里芬：**如果一個壞人能夠獲得合成DNA和將其在實驗室中組裝的指導，那會意味着什麼？
**古拉：**我是大衞·古拉，這裏是彭博新聞的“重要觀點”。
今天節目內容：有關可以用來製造生物武器的信息是如何繞過AI的保障措施的，以及這告訴我們有關監管這項仍然相當新穎的技術所面臨的挑戰。
**古拉：**當然，關於如何製造各種致命武器的信息早就存在了。
有助於武器化疾病的信息被埋在書中，Riley Griffin説，如果你知道在哪裏找，它們也在網上。
**格里芬：**互聯網上有很多關於病毒、病原體、呼吸道疾病、真菌疾病的信息，對吧？事實上，谷歌上有很多關於生物領域危險的信息。
**古拉：**我問Riley現在有什麼不同。一個壞演員——生物恐怖分子——能用AI聊天機器人做什麼，而不能用標準搜索引擎做什麼？
**格里芬：**在採訪過程中，有一件事讓我印象深刻，就是聽一些研究人員解釋聊天機器人在頭腦風暴階段的表現有多好，提出了一些起初並未被探討的想法。
**古拉：**AI公司知道他們的變革性技術有很多潛在危險，他們也意識到它可能造成的危害。不僅僅是對他們的商業模式。
因此，許多公司已經試圖提前解決這些問題，Anthropic就是其中之一。
它是由曾在OpenAI工作過的人創立的。
**格里芬：**Anthropic的創建確實是出於對安全的考量。他們希望在這些技術達到公眾之前進行檢查和平衡，以較慢的速度商業化。
**古拉：**是Anthropic僱傭了那位前聯合國武器檢查員，他將那個黑匣子帶到了華盛頓的中心。
他的名字叫Rocco Casagrande。Anthropic僱傭他來測試其AI聊天機器人克勞德。
**格里芬：**所以這個故事的起源就是這樣。他和一個團隊一起測試了超過150個小時。他有病毒學家，微生物學家，真正地檢查了它能做什麼，不能做什麼。所以他們經歷了這個過程，發現了令Casagrande感到恐懼的事情。
**古拉：**他擔心的是，獲取製造生物武器的相當準確的指導和如何最大程度地造成傷害是多麼簡單。
但萊利説，還有另一件事讓Casagrande更加擔憂。
**格里芬：**與我分享的另一個引人注目的信息是，聊天機器人可以建議如何獲取材料，去哪裏購買它們，以及如何在這樣做時避開監視。一些銷售這種合成DNA，這種人造DNA的公司，想要了解他們的客户。他們想知道誰在購買這個。這是CDC的研究人員嗎？是研究埃博拉的學者嗎？如果不是，你知道，就會引起警覺。
**古拉：**但萊利説，並非所有銷售人造DNA的公司都有嚴格的規程或遵循規程。
**格里芬：**就像所有公司一樣，對這個事業的承諾程度各不相同，聊天機器人可以推薦哪裏可能更擅長避開這種監視。
**古拉：**這激勵了卡薩格蘭德組裝那個黑匣子，並將其攜帶進入世界上最安全的辦公大樓之一。
他稱之為“噱頭”，但他想表達一個觀點。萊利説，這引起了卡薩格蘭德會面的人們的共鳴：
**格里芬：**他用那個黑匣子真正打動了華盛頓的想象力
**古拉：**廣告後：
政府官員如何回應羅科·卡薩格蘭德的黑匣子警告，以及這對從人工智能安全到我們治療和治癒疾病的一切可能意味着什麼。
**古拉：**在羅科·卡薩格蘭德簡報僅僅幾個月後，去年十月，喬·拜登總統呼籲加強對政府資助研究的監督，併為技術公司和人工智能開發者制定新的安全協議。
**喬·拜登總統：**為了實現人工智能的承諾並避免風險，我們需要管理這項技術，我認為別無選擇。它必須受到管理。
**古拉：**他提出了一種新的思考人工智能公司所面臨的威脅的方式。
**拜登：**我即將簽署一項行政命令。這是全球任何政府採取的關於人工智能安全、安全性和信任的最重要行動。
**古拉：**此後，彭博的萊利·格里芬説，華盛頓關於人工智能監管的辯論變得更加激烈和緊迫。
**格里芬：**自十月以來，關於監管的嚴肅討論真正開始了，或者可以採取哪些措施而不是硬性規定，只是為了限制風險。所以這是首要問題。每個機構都在考慮這個問題。國土安全部、商務部、國防部。我是説，這是一場全面的政府對話。
**古拉：**去年底，副總統卡瑪拉·哈里斯宣佈成立“美國人工智能安全研究所”。
在她的講話中，哈里斯特別提到了人工智能製造的生物武器是一種威脅。
**副總統卡瑪拉·哈里斯：**從人工智能啓動的規模超出我們以往所見的網絡攻擊，到可能危及數百萬人生命的人工智能制定的生物武器，這些威脅通常被稱為“人工智能的存在威脅”，因為它們可能危及人類的存在。毫無疑問，這些威脅是深遠的，需要全球行動。
**古拉：**但與此同時，政府制定了新的防範措施，一些研究人員卻表示，“不要那麼快。”
**格里芬：**沒有人希望停止，或者至少很多人，包括科學界的人，不希望停止人工智能為新治療方法、疾病和診斷醫療狀況方面所做出的貢獻。科學家指出有很多好處，他們擔心這些好處可能會受到監管的阻礙。
**古拉：**174名學者簽署了一封承諾要負責任地在他們的研究中使用人工智能的信件。
他們認為，當涉及到人工智能時，其好處“遠遠超過潛在的危害。”
萊利表示他們主張更加審慎的監管方法：
**格里芬：**你知道，這封信的重點是我們認識到存在一些風險，但等一下。我們不想限制可以實現的進展。嗯，我們可以用這些工具做好事情，這是一個優先考慮的事情，我們承諾，並承諾在使用這些工具時採取安全行為。例如，只從可靠的供應商購買合成DNA，這不僅僅是一個人工智能問題，而是一個更廣泛的關於隨着技術進步生物領域安全的討論。
**古拉：**一些批評者譴責所謂的“人工智能悲觀主義”，他們認為生成式人工智能對人類構成了存在威脅是一種錯誤的擔憂。
**格里芬：**有些人認為關於生物威脅和人工智能的討論是在轉移注意力。
**古拉：**而萊利指出，雖然卡薩格蘭德和他的團隊能夠做出一些令人感到恐懼的聊天機器人，但他們進行的測試導致了積極的結果：
**格里芬：**我的報道表明，這些最初的簡報實際上是政府開始考慮在大流行病之後以一種新方式思考生物風險的一個重要起點，同時也是在快速發展的新興技術的背景下。
**古拉：**這些會議也引發了對更廣泛對話的呼籲。這樣，不僅僅是像Anthropic和OpenAI這樣的最大的人工智能公司向政府官員進行簡報。
**格里芬：**你知道，我聽到一個有趣的評論，很多人希望看到更多規模較小的人工智能公司出現在會議室裏。目前，參與與政府就這個問題進行交流的是最大的參與者，但一些規模較小的公司，特別是那些專注於生物數據的公司，可能沒有那麼積極的發聲。
**古拉：**辯論仍在繼續，根據萊利的説法，這一趨勢看起來比她得到那個關於黑匣子的提示時去年要好。
格里芬：希望我們現在處於一個更難從聊天機器人那裏獲取信息的地方。。
**古拉：**Anthropic的一位創始人告訴萊利，公司已經“做出了改變以解決漏洞”卡薩格蘭德和他的團隊“發現的漏洞”。
但“還需要更多的工作。”
萊利説，她不希望這個故事的要點是恐懼，而更多地是關於當有這麼多創新在許多地方發生時我們如何思考我們的行動。
**格里芬：**我希望這個故事的要點不是我們正處於末日場景，最糟糕的情況已經到來並將在明天影響我們。更多地是圍繞如何監管一個快速發展的技術的辯論的細微差別。我認為每個人都知道圍繞人工智能的監管存在疑問，因為人工智能是可以獲取的。但生物學領域在這種對話中並不那麼突出，我們談論合成生物學，或者生物學領域的這種革命。它的發展速度同樣迅猛。所以我的觀點是，當兩種快速發展的革命性技術相互碰撞時會發生什麼？
**古拉：**這裏是彭博新聞的《大事件》。我是大衞·古拉。
本集由製作人：托馬斯·盧；高級製作人：娜奧米·沙文和金·吉特爾森，他們也編輯了這個故事；高級編輯：伊麗莎白·龐索。執行製作人：尼科爾·比姆斯特博爾；聲音設計/工程師：羅伯特·威廉姆斯；事實核查員：亞歷克斯·杉浦。
大型科技股的暴力輪換使納斯達克100指數陷入修正區域，僅在三週多的時間內抹去了超過2萬億美元的價值，因為交易員平倉了一年多來一直賺錢的賭注。
週五午盤時，該指數下跌了2.2%，自7月10日創紀錄以來的跌幅已超過10%。如果這種情況持續到收盤，它將符合修正的定義。該指數今年仍上漲近10%。