如何確保人工智能不會走向惡劣 - 彭博社

Anthropic首席執行官達里奧·阿莫代（Dario Amodei）與Azeem Azhar坐下來討論如何使人工智能安全，以及是否可以做到。

達里奧·阿莫代是人工智能先驅OpenAI的前安全主管。如今，他是Anthropic的首席執行官，這是他共同創立的一家人工智能初創公司，亞馬遜是其數十億美元的投資者之一。而且，他還是一位真正的人工智能研究員，他的學術論文被引用超過30,000次。

在彭博原創系列節目Exponentially With Azeem Azhar的這一集中，阿莫代表示，雖然他認為我們在人工智能發展方面進展太快，但他認為有辦法構建有用、誠實和無害的人工智能模型。

觀看Exponentially With Azeem Azhar：我們能構建安全的人工智能嗎？

什麼是可以建立對人工智能信任的基本原則？阿莫代表示，必須做更多的工作“來嘗試控制、衡量、引導這些模型”，並且“我們需要找到社會機構更快地適應不斷變化的技術的方法。” 他補充説，“憲法人工智能”可能是約束許多人擔心可能會淹沒人類控制努力的技術的一個好方法。

“你寫一個憲法，可以是一頁或十頁，基本上規定了AI系統可以遵循的規則，”阿莫代説。“我真的希望，你知道，人類科學家在AI的幫助下能夠像我們在簡單疾病上取得進展一樣快地取得複雜疾病的進展。我希望如果我們真的做對了…我們實際上可以達到這種程度，這種特定的癌症就不再是問題。”

要查看更多《指數級》的劇集，請點擊 這裏*。*