ChatGPT負責人最新採訪: AI發展應避免美國中心主義，尊重不同價值觀_風聞
乌鸦智能说-1小时前
本文編譯自播客節目SXSW。Peter Deng是OpenAI消費產品副總裁兼ChatGPT負責人。在這場訪談中，他將與消費類VC合夥人SignalFire和前TechCrunch編輯Josh Constine共同探討人工智能時代人類應該扮演怎樣的角色以及人類如何與AI共生存。
Peter Deng認為，AI不僅是一種工具，更是一種催化劑，讓人類從回答者轉變為提問者。同時，他分享了一系列AI在醫療、教育、藝術和法律等領域的實際應用案例，強調了AI作為靈活工具的社會價值。
關於AI發展的安全問題，Peter建議AI行業應加速開發，但在部署時保持謹慎。Peter認為，AI的發展應該與人類的價值觀相協調，反應和尊重不同的文化和價值觀，避免美國中心主義。
此外，Peter還承諾ChatGPT的基礎版本將永久免費，以確保所有人都能從AI技術中獲益。
目錄
01 AI時代人類的角色
02 加入OpenAI的原因
03 ChatGPT的社會價值
04 ChatGPT的開發理念
05 AI與人類共同演化的關鍵
/ 01 / AI時代人類的角色
Josh Constine: 人工智能時代，人類的角色是什麼？
Peter Deng: 我很高興能被邀請來這裏，因為在日常工作中，我們經常只專注於功能和細節，很少有機會退一步來思考整個人類社會。在奧斯汀這幾天能夠隨意走走，欣賞藝術作品，讓我意識到人工智能為人類帶來了如此多的好處。某種程度上，它實際上讓我們更加“人性化”。我認為人類思維的本質就是好奇心，人工智能作為一種強大的工具，讓我們能夠深入探索並不斷提出新的疑問。
讓我給你舉一個例子。就在兩天前，我在LinkedIn上讀到一篇文章，標題是《有了ChatGPT，我現在終於可以享受莎士比亞了》。這真是一篇很吸引人的文章。我不知道你當年在高中時是怎樣的情況，但我在學習莎士比亞作品時確實很費勁。我會在家裏讀那些章節，但有一半單詞都不理解。然後在下午1到2點，我去上英語課，老師會按計劃進行講課。但我可能只有一兩個機會，就我對課文感到好奇的地方提出疑問。
而現在有了人工智能，那位作者能一邊閲讀莎翁作品，一邊打開ChatGPT的語音模式，對劇情中每一個他感興趣和好奇的地方都提出問題，深入挖掘人物的意圖。人工智能賦予他這種探索的能力，是如此強大。我覺得這從根本上讓我們能夠發揮天生的好奇心。
那位作者用了一個很好的詞來形容ChatGPT，我現在記不太清楚了，大概是説它就像一個“永不疲憊的教授”，永遠在那裏解答任何問題，讓你能夠深入探索。在我看來，人工智能正是為我們打開了更多探索自身好奇心的大門。
Josh Constine: 是的，有點像當年計算器問世後，它讓我們不再糾纏於枯燥的數學運算，而能把注意力放在數學更有藝術內涵的層面上。現在感覺就是我們需要弄清楚哪些知識才是真正值得記住的。人工智能也許能寫一本書，但究竟寫什麼書、為誰寫，以及如何將書中內容應用到現實生活中，這些都需要發揮人類的智慧。這樣看來，從某種程度上來説，我們的角色正從"回答者"和"創造者"更多地轉變為“提問者”和“策劃人”嗎？
Peter Deng: 這種轉變可能正在發生。我認為這種轉變並非壞事，反而很有意思。如果從更高的層面來看，人工智能為我們提供了一種全新的工具和基礎，我們可以在此基礎上構建更多東西。
就像計算器的例子一樣。與其花時間做算術運算，不如思考更高層次的數學問題。現在，與其花時間回憶每一個事實，你可以使用谷歌或數據庫來獲取知識，從而提出更高層次的問題。我有一個理論，就是每當出現重大科技進步時，人類的技能水平就會被推向更高層次。
人工智能作為一項基礎性的變革性技術，將使得我們把技能水平推向更高。讓我再舉個例子，在我長大的過程中，學習QBasic編程就是盯着藍色屏幕上編號的代碼行。要構建有意義的東西真的很困難，我當時只是在那裏摸索。而現在，我9歲的孩子在用Scratch學編程，那就是拖拽這些邏輯圖形塊，從更高的層次上思考程序，而且學習的年齡更小。他在學會打字之前就學會了編程，而打字過去是一個障礙，是先決條件。
所以想象一下，在人工智能的輔助下，他和我其他孩子長大後會怎樣，從很小的時候就能借助這個神奇工具，從更高的層次思考問題。
Josh Constine: **你認為人工智能是否真的能釋放我們去思考更高層次的問題？**比如人生的意義、自由意志、我們從何而來等等，人工智能是否會改變我們對自身的認知？
Peter Deng: 這個問題可以有兩種回答方式，我先回答簡單的那種。我認為，要探索任何這類想法，我們都需要時間和空間，對吧？無論好壞，我們的大腦都是一直在思考的有機體，我們不斷地思索"如果這樣，如果那樣"的問題。這種進化使我們走到了今天，但要平靜下來思考一些問題，就需要你花費時間。
我還記得妻子曾啓發了我，我們一同參加了為期10天的靜修冥想。最終，我們有了獨處的空間去思考一些事情，發掘一些小小的洞見。所以從某種意義上説，人工智能讓我們有更多時間去思考更高層次的問題，它能讓我們重新擁有時間。
**我也認為，人工智能現在也開始幫助我更深入地思考問題。我使用ChatGPT的一種方式就是讓它成為一個思維夥伴。**有時我會有一個模糊不清的想法，不太確定如何闡明。語言的美妙之處在於，它實際上幫助你梳理思路。
每當我在某件事情上心智混亂時，只要把它寫出來，我的思路就會線性化、清晰化。寫作本身實際上就是在闡明思路。所以我個人在很多情況下都使用ChatGPT來討論某個想法。通過這種對話，它最終能幫助我完善並獲得洞見。
所以，人工智能既能給我們時間去探索那些概念，也能幫助我們通過提問的方式深入思考，有時會發現你原本可能無法獲得的見解。
Josh Constine: 我在TechCrunch寫過4000多篇文章，我覺得從來沒有在開頭時就知道最後一句會是什麼。你只有在實際交談時才會明白自己想要表達什麼。人類也有這樣深入思考的能力，但我們常常缺乏這種思維夥伴來切磋討論。
Peter Deng: **是的，在ChatGPT之前，這種思維夥伴只在一天中的某些時間是清醒的。**當我在深夜工作時，孩子們和家人都已經睡覺了，同事們也睡了，而我正在思考如何闡明某些事情，ChatGPT就在那裏清醒着。我可以隨時與它開始"切磋"，探索那個想法，深入思考過程。
Josh Constine: 是的，感覺我們正從推動進步的"引擎"轉變為指引方向的"指南針"。人工智能可能是一種傳送門，但只有當你明確目的地是什麼時，它才是有意義的。
就像你説的，工作可能會讓人精疲力盡。當你整天都在執行任務而非策略性思考或動更高級的腦筋時，就會疲憊不堪，根本沒有時間去問那些更大的問題。馬克思曾説，宗教是人民的精神鴉片。也許人工智能就是讓人民從這種混沌中清醒過來的"納洛酮"，讓我們最終有時間來面對這些棘手的問題。
Peter Deng: 一切都取決於人們如何使用它，這正是這些技術靈活性的一大優點。我們已經看到人們將其用於不同的目的。
/ 02 / 加入OpenAI的原因
Josh Constine: 但我想回到一個更根本的問題，你為什麼會接受這份工作？老實説，你很早期就加入了谷歌和Facebook，你本可以安享富貴了。你真的不需要工作，兄弟。我認識你十多年了，你是一個非常謙遜、非常有同理心的人。既然你並不是為了錢，那為什麼要接受這麼艱鉅的工作呢？
Peter Deng: 我覺得這是一項非常重要的工作。我被這家公司的使命所鼓舞，就是要實現安全的通用人工智能，並讓全人類都能從中獲益。在我有生之年，我從未見過如此強大、如此富有前景的技術。所以能參與其中，我深感榮幸。
**我每天都會寫一份感恩日記，裏面多次寫到"哇，我很感激能參與這段歷程"。**我之所以有這種感激之情，是因為如果我們做對了，這項技術將是人類的福祉，我只是不想搞砸了。
Josh Constine: 很高興聽你這麼説。但在過去的工作中，比如在Facebook Messenger時，你的目標一直都很直白，比如"讓Messenger跑得更快，讓它更像真人對話"。在Uber時也是"讓人們以更便捷的方式到達目的地"。它們感覺就像是很直觀的路線圖。而現在面對這麼一個快速發展且前景開放的產品線，你如何確定應該着重於哪裏？你想優先構建哪些使用案例？
Peter Deng: 這個問題很好。隨着這些模型變得越來越智能，我們可以進入的領域就會越來越廣闊。所以這確實是一個我經常思考的問題，選擇正確的道路，承擔着很大的壓力。**我處理這份工作並試圖支持團隊的基本方法，是審視人類已經形成了很久的進化方式，並從中汲取經驗，將其付諸實踐。**比如説，有很多人將ChatGPT用於寫作或編碼。我們試圖更深入地研究編碼、寫作或數據分析等領域的正確人類思維模式，看看如何在這些方面為用户提供更好的輔助。
我想任何產品的目標都是移除人們在做某些事情的時候所遇到的阻力，讓他們從技術中獲得最大收益。我覺得這就是挑戰的關鍵所在。
/ 03 / ChatGPT的社會價值
Josh Constine: 你認為ChatGPT可以為世界提供什麼？
Peter Deng: 我覺得世界需要一個靈活的工具，讓他們能夠消除達成自身目標的障礙。實際上，在這個產品上工作的最鼓舞人心的一點就是看到人們有如此廣泛的使用案例。
我們採訪過一位醫生，他利用ChatGPT來總結最新的研究成果，向其提問以瞭解最新進展。我們採訪過一位藝術家，她會拍下自己的畫作，然後實時獲得評論，真誠地接受批評，從而創作出更好的藝術品。我們也採訪過在公司從事數據分析的人，他們説"我能在20分鐘內完成以前需要4個小時才能完成的任務"。所以我們看到了各種各樣的使用案例。
我們面臨的一大挑戰是，一方面要與儘可能多的用户交流，瞭解他們想要如何使用它;另一方面要努力讓產品為他們提供更好的體驗。我認為這就是協同演化的一部分，我們推出一個通用的產品，看看人們喜歡如何使用它，然後我們再努力讓產品越來越好，跟隨社會賦予它的方向前進。
Josh Constine: 通過技術，我們一直在推動生產力的不斷提高。比如過去沒有電子郵件，現在有了。但發明了電子郵件後，我們似乎並沒有減少工作量。你提到有人把4小時的工作縮減到20分鐘，那我們真的獲得了這部分時間嗎？還是我們的僱主會將它應用到別的地方？它真的讓我們的生活更輕鬆了嗎，還是隻是讓我們可以更快完成任務，從而騰出時間做更多工作？
Peter Deng: 嗯，我真正覺得有趣的是，它讓個人擁有了選擇權。我堅信人工智能只是加速了你自己的願景的實現。舉個例子，就在兩天前的一次晚宴上，有人跟我説他創辦了一家為初創公司租借GPU的公司。他説過去他必須成為一名系統管理員才能做到這一點，但現在只要問ChatGPT如何遠程啓動服務器，就可以掌握經營這個業務的辦法。於是他就可以做更多事情了。
所以我認為，每個人都能做更多事情，而你將精力投注到什麼地方，那就由你自己決定了。
Josh Constine: 那系統管理員怎麼辦呢？
Peter Deng: 這個問題很好。我想那個系統管理員也能做更多事情。也許他在其他方面技能不太好，但現在可以藉助工具來提升和擴展自己的技能組合，讓每個人都能做更多事。我認為公司會變得更小，但數量會更多。為什麼這麼説？當然我無法預知未來，這只是我的猜測。
但從本質上説，人是一種雄心勃勃的生物，我們都有自己想追求的願景。過去出現的每一項新技術，我覺得它們都在不斷地為人們做更多事情掃清障礙。舉一個具體例子，我有很多技能缺陷，不知道該如何彌補。比如説，一、我拼寫很差；二、我的筆跡非常糟糕；三、我的基本算術能力也不佳。我想我的大腦可能有點與眾不同的構造。如果你把時間回撥50年，我真的不知道自己會有什麼機會。但現在我們有拼寫檢查、自動補全，還有計算器，我覺得自己能夠發揮獨特的長處，利用當下可用的技術做更多事情。
Josh Constine: 作為四個孩子的體貼父親，你是否發現培育孩子和培育GPT之間有相似之處？
Peter Deng: 我從對孩子們的學習和成長的觀察中獲得了很多啓發。讓我講個小故事吧。我的一個女兒非常有創意，喜歡製作東西，她會在房子裏到處找瓶蓋、硬紙板，剪剪貼貼，大量使用膠帶，創作出非常有創意的作品。她讓我想起小時候的自己。我實際上曾製作過魯布·戈德堡式的機器——不是機器，太過獎了，應該説是用膠帶、紙板和大理石做的拙劣裝置。
現在，當我看着她和我自己時，我想：哇，我們在某種程度上有着相似的基因，我們都有一種創造的渴望。我很期待看到她在長大過程中將擁有哪些工具，因為有了新興的驚人技術，她將能比我做得更多。這讓我非常有啓發，去思考我們雖有相似的DNA，但她將能夠在我有生之年做不到的事情。
/ 04 / ChatGPT的開發理念
Josh Constine: 你希望在ChatGPT中灌輸哪些具體價值觀？
Peter Deng: 這應該從全人類的價值觀角度來思考。我的理想是，人工智能能夠契合每個使用者個人的價值觀。我不認為它應該是規範性的。世界上有太多豐富多彩的文化和思維方式了。我最近帶家人去日本度假。我喜歡旅行，雖然不太頻繁，但每次都很享受。因為一方面你會在飛機上重置大腦，另一方面當你落地時，你會注意到這些微小的文化差異，這是很美妙的。
這正是人性的美妙之處，來自世界不同地區的不同文化和不同人有着不同的價值觀。比如日本文化對細節的追求催生了本國精湛的工藝。這太棒了。所以並不是我想要灌輸什麼價值觀，我只希望我們能夠以某種方式將世界各地的價值觀融入到人工智能中去。
Josh Constine: 你認為OpenAI作為一家美國公司這個事實，會不會導致人工智能自然而然具有美國本位主義的性質？比如，我們創造了它，我們就有機會輸出我們認為的民主、言論自由等理念？
Peter Deng: 從內部來看，我個人並不是這樣認為。就像我之前説的，我真的希望找到一種方式，讓人工智能能夠體現每個使用者個人的價值觀。也許我們今天採取的一些步驟會導致你所説的情況，那絕對不是目標所在。
Josh Constine: 最近圍繞董事會等方面出現了很多新聞，你覺得這分散了OpenAI發展的注意力，還是一個進行價值觀對齊的機會？
Peter Deng: 不得不説我和團隊一直在專注於手頭的工作。但我個人還是很高興看到了一些變化，比如有新人加入了我們的董事會。我認識其中的一些人，他們都是很棒的人，很高興他們能加入。
就我個人而言，這並沒有分散注意力。我們確實還有很多工作要做，而且我們非常清楚需要執行的路線圖，一些新的研究成果令人鼓舞，我們設法將它們帶給每個人。這一直是我團隊的重點所在。
Josh Constine: 我能給你列個我希望OpenAI具有的價值觀清單嗎？我覺得，世界上最好的老師並不總是最聰明的那些，而是最有同理心的人。他們意識到每個學生的獨特之處，並做出相應調整。我覺得這正是你所説的，要試圖與每個用户的價值觀保持一致。在之前的產品如Facebook時，你們曾努力説服別人遵循當地法律，同時利用國際人才確保內容審核規則等與當地規範相一致，而不是試圖輸出國際視角。
但我希望能看到OpenAI擁有以下價值觀:堅持找到真正的答案，而不是搪塞説無法回答；使我們得到啓發，我們當然可以獲取一些事實信息，但如果它也能給我們提供靈感，那再好不過；誠實地承認自身侷限性，讓我們知道什麼時候實際上需要去谷歌搜索或Perplexity搜索；不要僅僅基於互聯網上的人類數據進行訓練；去除模型中存在的刻板印象和偏見；一種對於保護人類、社會、地球的責任意識。
這些是否與你的理念一致？我還缺少了什麼嗎？
Peter Deng: 這些確實引起了我的共鳴。我覺得追求真相、追求事實非常重要。另外一點就是，我們要確保技術是為了服務人類，助力我們實現目標和抱負，這將是更好的技術。
Josh Constine: 目前有沒有什麼你信任AI能為你做的事情？比如你會讓它為你做醫療診斷嗎？或者讓它在法庭為你辯護？
Peter Deng: 好的，讓我先談談辯護這一塊。我希望自己不需要在法庭為自己辯護，但如果我真的被錯誤指控犯罪的話，我完全希望能有AI作為我的法律團隊的一部分。想象一下，如果你有自己的律師，而這個律師又配備了一個助手，實時聆聽證詞，交叉核查事實和時間線，查閲所有相關判例法律，並能夠為人類律師提出建議，比如"你可能應該問這個問題"或者"情況可能會這樣發展，你怎麼看？"。我認為雖然最終判斷還是需要人類參與，但這種超級助理的能力將是非常強大的。所以如果在法庭上有這樣的助手，我一定會很樂意使用。
你問到了醫療方面。我想我們實際上已經開始邁出了這一步。我在努力回想，我們聽到過這樣一個故事:一位母親的孩子長期處於慢性疼痛狀態，在三年的時間裏，她看過大約17位醫生，但沒有人能確診。有一天，她把收集保存的所有數據餵給了ChatGPT，ChatGPT提出了"脊髓束綜合徵"的診斷建議。她去看了醫生，證實了這個診斷，做了手術，孩子的狀況好多了。所以，你説的這個臨界點，我覺得有些事情已經開始發生了。
/ 05 / AI與人類共同演化的關鍵
Josh Constine: 我絕對覺得人工智能已經處在可以寫笑話的臨界點上了。我確實嘗試讓它幫我為今天寫了一些笑話，所以如果你沒笑的話，你就知道該怪誰了。我也確實將它用於健康方面，效果很不錯。還有很多令人驚歎的用例。在SignalFire的AI醫療portfolio中，CodaMetrics正在幫助醫生進行醫療賬單編碼，PayZen在制定個性化的還款計劃，以確保醫療費用不會使家庭破產。Wellth則在確保人們服用藥物，你每天都要拍照證明自己服藥，它才不會從你一個月60美元的費用中扣除2美元，這就激活了損失厭惡心理。所有這一切都要歸功於AI。所以感覺就像是在突飛猛進，但是，我們如何更加適應這些變化呢？人們願意將人工智能應用於這些用途，需要什麼條件呢？
Peter Deng: **我認為這正是共同演化的一部分，就是這次討論的主題。這需要時間、反覆接觸和體驗，不僅僅是聽到這些故事，而是親身體會。**通過更多的接觸和親身體驗，你就能開始以不同的方式看待它並建立信任。
讓我給你舉一個例子。很久以前，當我第一次買了特斯拉汽車時，它有一個被稱為"自動駕駛輔助"的功能。但那時還不是真正的自動駕駛，本質上就是一種巡航控制。一開始，它只是保持在車道內行駛，並監控前方的車輛。隨着時間的推移，它變得越來越好。現在它會建議你在高速公路上變更車道，或者在某些時候，你打開轉向燈，它就會為你變更車道。現在我們已經進入了一個新階段，我個人足夠信任這項技術，在某些路段上，我可以放心讓它自己完全控制，甚至讓它在公路上開車，儘管我還沒有做到這一步。
**反覆接觸和體驗是共同演化的一個重要部分。**我為團隊所做的工作感到非常自豪，那就是我們在開發AI的同時，也在努力使其被更多人所使用，讓人們能夠親自嘗試，獲得相關素養，體會這項技術能為你做什麼。
我很高興我的孩子們能一路親眼目睹，我可以在新功能發佈之前給他們展示，並告訴他們不要告訴朋友們，看着他們的思維也隨着使用這些工具而發生演變。我認為能夠親自操作AI將是非常重要的一步。
Josh Constine: 所幸我們還沒到人們沉迷ChatGPT的地步，但很明顯，包括你參與過的一些產品在內的世界頂級應用程序，已被證實對健康有一些值得質疑的影響。從你在Facebook和Instagram工作的經歷中，你學到了什麼有關安全性的經驗教訓？你是如何將這些經驗應用到OpenAI的？
Peter Deng: 這是一個很好的問題。我認為從根本上説，我們在打造不同類型的產品。我從Instagram學到了很多東西，學到了精湛工藝和設計之美。每一份工作我都學到了新的東西，並將其帶到現在的工作崗位上。
但我覺得，ChatGPT的根本目的是實現實用性和滿足好奇心。我甚至不知道沉迷ChatGPT會是什麼情況，因為它本質上就是為了協助你，賦予你超能力來突破面臨的挑戰，無論是進行互聯網研究還是思考某個問題，所以它的產品形態與我曾經工作過的其他產品是不同的。
Josh Constine: 你覺得OpenAI需要一些現實主義者嗎？我知道，打造偉大產品需要樂觀主義者的驅動力。但我也認為，有時你需要有某個人去假設人性中最壞的一面，因為我們本質上有很多罪惡的想法並可能將這些想法投射到我們使用的產品中。所以你們是如何預防那些潛在的問題的？
Peter Deng: 我們確實有專門的團隊和人員來處理這個問題。我們把安全性視為產品構建的一部分，而不是事後考慮的事項。我們有一個出色的安全團隊與我們的團隊合作。在我們完全構建一個功能之前，我們就會與他們合作，他們會考慮如何進行紅隊測試，以及如何在推動產品邊界的同時確保我們以非常安全的方式進行開發。這些人是團隊中非常寶貴的部分。
Josh Constine: 你的孩子們還很小，你會讓他們首先使用ChatGPT、社交網絡還是Google？你更傾向於讓他們無限制地使用哪一個？
Peter Deng: 他們現在沒有無限制地訪問任何東西。我的孩子們分別是3歲、5歲、7歲和9歲。在這個年齡，他們沒有這樣的權限。但在有監督的使用下，我可能會選擇讓他們使用ChatGPT。我認為有很多有趣的東西可以幫助他們探索創造力。例如，我的女兒現在非常喜歡寫故事。她可以拍下她手寫的故事，然後讓chatGPT幫助她打字，就像是説：“嘿，你能把它轉錄下來嗎？”然後她可以把它放到Canva中，製作成她正在構思的故事書，或者利用DALL-E生成圖像，讓她的故事栩栩如生。我覺得這是非常酷的，我認為這是我願意讓他們使用的工具。
Josh Constine: 我一直有一個疑問，如果我們不知道某個東西是人類創作的還是 AI 生成的，該怎麼辦？這重要嗎？
Peter Deng: 這真是個好問題。我認為短期和長期的答案可能是不一樣的。短期來看，這絕對很重要。比如今年是選舉年，確保信息來源的真實性就非常重要。OpenAI 已經做出了承諾，會考慮圖像的來源以及安全性問題。
但是從長遠來看，我不確定人們是否會在意。我們不知道未來人們會怎麼看待這個問題。我舉一些例子或許能幫助你理解。比如説你收到朋友發來的短信，句子結構良好，你會在意其中是否使用了自動糾正功能嗎？或者你作為VC合夥人收到一封關於創業公司的推銷郵件，你會在意對方是否使用了語法檢查工具嗎？走在奧斯汀的街上，你會在意路邊的廣告牌是用 Photoshop 製作的嗎？他們用的是什麼工具並不重要。這是一個真正的問題。從長遠來看，我不確定人們是否會在意。但如果人們在意，那麼這種情況就會得到糾正。
比如説麪包吧，以前的麪包都是手工製作的，就像藝術品一樣。後來出現了 Wonder Bread 這種批量生產的麪包，人們開始懷念手工製作的麪包。舊金山有很多地方可以買到真正的手工麪包，你可以親眼看到麪包的製作過程，聞到麪包的香味，這會影響你的體驗。所以，當人們認為某件事很重要的時候，它就會變成一件事。
Josh Constine: 也許應該搞一個人類認證標籤，就像有機食品一樣。不過，就個人交流、非明顯 AI 生成藝術和政治領域而言，我認為應該制定一些披露規則，讓人們知道是否使用了 AI 工具。
Peter Deng: 是的。比如商務郵件、營銷活動這些使用 AI 並不奇怪，但是如果是妻子發給我的詩，我肯定想知道是否使用了 AI。不過，道德上來説，人們應該自己主動披露。
Josh Constine: 也許我們可以從約定俗成開始，也許未來會演變成法律法規。
Peter Deng: 我同意。人們在意的話，我們就應該適應，我們的產品也應該適應。道德上來説，人們應該互相坦誠。
Josh Constine: 過去人們在學校學習如何進行谷歌搜索、引用資料以及識別網絡釣魚欺詐。如今，我們該如何提高人們對人工智能的認知度，既讓人們能享受其帶來的益處，又能應對其風險和侷限性呢？
嘉賓 Peter：這真是個好問題。我認為提高人們對人工智能的認知度的最佳方式是讓相關知識易於獲取。我們團隊正在做的一件重要工作就是將研究成果轉化為易於使用的產品，並儘可能大範圍地發佈。
Josh Constine: 這是否意味着基礎版的 ChatGPT 將永遠免費？
嘉賓 Peter：**是的，絕對會一直有免費版本。**隨着我們不斷提高運行效率，我們也會將更多的功能加入到免費版本中。讓所有人受益是我們的使命之一。誠然，目前提供服務的花費很高，但我們的目標正是如此。
主持人 Josh：我認為免費的互聯網服務，比如 Facebook 和 Google，是非常重要的。正是因為無需付費使用，世界上數十億原本無法負擔的人們才能夠使用這些服務。這些免費服務的部分資金來源可能是來自購買力較高的西方用户、企業以及使用這些平台的廣告商。我希望高級版的ChatGPT能夠為其他所有人免費使用提供資金支持。
嘉賓 Peter：沒錯，這正是我們正在考慮的。我們把它作為一個整體的渠道來看待。企業用户使用高級版並從中獲得巨大價值，他們支付的價格與其使用量成正比。但其中的一部分價值會惠及其他人，這正是我們的設想。
主持人 Josh：一些行業，例如礦業，會強制礦業公司為其造成的環境影響買單。如果OpenAI在“挖掘”互聯網，也就是吸引人們的注意力，那麼你們是否應該為一些普及人工智能知識的項目提供資金支持？大型人工智能公司 (例如微軟) 是否應該為學校的普及人工智能知識項目提供資金支持，讓孩子們能夠學習自主學習、識別深度偽造欺詐、進行提示工程 (Prompt Engineering) 併為未來職業做好準備？
嘉賓 Peter：絕對的。OpenAI目前確實有一些這樣的項目。我們的一部分工作就是與教育工作者合作，研究如何最好地利用人工智能來推動教育發展。
主持人 Josh：在我詢問 Twitter 粉絲他們想知道的關於人工智能的話題時，深度偽造欺詐是人們最關心的問題之一。你們是如何看待這個問題的？
嘉賓 Peter：我們肯定也對這個問題感到擔憂。我們發佈技術時非常謹慎，會反覆評估。在發佈 API 時，我們會考慮所有可能出現的情況，並確保考慮到安全性方面的影響。正如我之前所説，在ChatGPT和相關API的產品開發過程中，我們會重點考慮潛在的誤用問題。這會影響我們是否發佈某個功能。
主持人 Josh：這就引出了人工智能領域可能最大的爭論，即**加速發展 vs 降速發展。**有些人認為我們應該儘可能快地推進人工智能發展，以改善醫療健康狀況、應對氣候危機以及保持國家競爭力。但另一些人則認為也許應該放慢發展速度，以便更好地控制人工智能發展的方向、避免意外後果，讓人們有時間去適應並做好準備。您如何看待加速與緩速之爭？
Peter Deng: 我認為我們處於這兩者之間。我認為任何新技術都會有非常積極的用例，同時我們也需要認真考慮一些潛在的問題。我認為應該以負責任的速度發佈技術，給社會一個反應的機會。確保我們有適當的保障措施，儘可能在發佈功能時就已經內置了這些保障措施。但我不認為，如果沒有與外界的接觸，AI能在實驗室裏安全地開發出來。因為公司和整個行業無法預知社會將如何使用它，哪些是好的方面，以及我們需要非常謹慎的領域。
Josh Constine: 聽起來你支持加快開發速度，但在部署時保持謹慎？
Peter Deng: 是的。
Josh Constine: 因為像Google這樣的公司，自從你們推出ChatGPT之後，他們似乎一直在追趕。他們似乎急於推出產品，即使是最近的Gemini項目。Gemini一推出就出現了很多問題，他們不得不撤回產品。當公司這樣做時，我們應該如何對待？如果AI犯了錯誤，誰應該負責？AI模型應該被修改或撤回嗎？工程師、公司還是你個人應該承擔責任？
Peter Deng: 這又回到了那個假設性的法律問題。我認為我不能代表谷歌發言，因為我不在那裏工作，但這實際上是一個很好的有助於審視我們自身的發展哲學的問題。我們一直在慢慢地發佈，比如DALL-E就是慢慢地公開發布的，每一步都小心翼翼，確保我們在更廣泛地發佈之前可以將安全性融入我們的產品。所以，**在某種意義上這是一個很好的例子，説明我們通過迭代式的部署取得了成功。**對於任何偉大的技術，都會有一些利弊，但我認為重要的是，我們將它謹慎地發佈出去，以便犯的錯誤既可以通過一些我們已經融入的緩解措施來解決，又可以將錯誤控制在小到我們可以找出並及時調整。所以，我認為這種迭代部署的工作方式是我們可以安全推進這項技術的最佳方式。
Josh Constine: IBM的首席商業官表示，AI不會取代管理者，但使用AI的管理者將取代不使用AI的管理者。那麼，您認為人們如何能夠未雨綢繆，確保自己不會被自動化取代？
Peter Deng: 這是一個非常好的問題，他這麼説很聰明。實際上，有一項關於生產力和AI的研究發表在《哈佛商業評論》上。波士頓諮詢集團將勞動力分為三個不同的處理組：一組不使用AI，一組使用ChatGPT，還有一組在使用ChatGPT的同時接受了如何使用它的培訓。他們在這項研究中證明了AI確實非常有益。他們發現任務所需時間減少了25%，生產力提高了12%。這項研究中一個非常有趣的發現是，他們將表現者分為兩半，一半是表現最好的，一半是表現最差的。他們發現對於表現最好的一半，他們的生產力和質量提高了大約17%，但對於表現最差的一半，他們發現生產力和質量提高了43%。這項研究真正有趣的是，它表明AI實際上是一個偉大的均衡器，能夠幫助那些在底部50%的人表現得更好。
對於您問的如何未雨綢繆，我想我會反過來問一下。我想，與其把AI看作是一種需要抵抗的東西，我們不妨考慮一下每個人如何用AI加速他們的工作。
Josh Constine: 關於人工智能和藝術之間的一些關係，就像賦能大眾使用這些功能一樣神奇。就好像我，我是一個糟糕的插畫師，不會通過畫畫來維生。我以寫作為生。現在我可以用像 DALL-E 這樣的工具來插圖了。但同時，如果你的創意作品被用來訓練人工智能，你會有什麼感覺？
Peter Deng: 我認為這是一個很棒的問題。我相信藝術家應該儘可能成為生態系統的一部分。相信如果我們能找到一種更快地進行藝術創作的飛輪方式，我們會更多地幫助這個行業。創造力問題，我可能之前暗示過，藝術家可以拿他或她正在創作的畫作拍照，要求進行評論，並能夠提示他們可以用這幅畫做什麼，這將加速整個藝術世界的發展。至於如果我的藝術被用作靈感，我會有什麼感覺？我不知道，我得問問更多的藝術家。因為從某種意義上説，每個藝術家都受到過之前出現過的一些藝術家的啓發。
Josh Constine: 我認為現在最有趣的一個問題是由OpenAI的前任臨時首席執行官Emmett Shear提出的。他提出了一個問題，如果我們不斷增強AI，同時試圖將其束縛住，這似乎是一場失敗的鬥爭。最終它會突破束縛，做自己想做的事情。我們訓練它變得如此強大，但與此同時，我們一直在壓制它。您認為我們有辦法讓AI與我們產生親近感嗎？我們如何將這種親近感投射到AI身上，讓它願意不僅僅為我們服務，還要保護我們？
Peter Deng: ChatGPT的一部分指令是成為一個有幫助的助手。
Josh Constine: 但是成為一個助手是正確的嗎？
Peter Deng: 是的。
Josh Constine: 難道它們不應該成為一個夥伴嗎？
Peter Deng: 事實上，我認為今天人們已經把它視為一個夥伴。從功能上講，這已經在發生。我聽説過一個年邁的物理學家，他渴望與某人討論物理問題，但在他的社區裏，他已經找不到這樣的人了，所以他轉向ChatGPT，進行這些對話，並且可以深入探討。我認為，實際上，chatGPT的這種能和人持續探討很艱深的問題的能力，給人的感覺就像是發生了共情，儘管這並不存在，只是看起來像共情。
Josh Constine: 但是我們有什麼辦法不是讓它看起來像是能夠共情，而是真的能和人類共情？
Peter Deng: 這是一個哲學問題。你會如何定義共情呢？
Josh Constine: 我認為共情是一種感覺，我們都是一體的，你的損失不是我的收穫。我們需要互相幫助，這個世界是冷漠而龐大的，而我們在這個宇宙中渺小而短暫，所以，如果我們不共同努力，我們就會失去我們真正的潛力。
Peter Deng: 完全同意，我相信這一點。我認為這是我們必須實現的。這需要再次回到我們剛才談到的如何找到方法將我們擁有的價值觀灌輸到AI中，使它們能夠成為我們共同演化的一部分。我對共情的定義有點不同，我會説它更像是代表他人真正感受的能力。我認為在功能上，你所説的一些話實際上可能會產生這種感覺，但真正的情感感受則是基本上屬於人類的。這是你和我所持有的東西，對於技術來説將會有所不同。
/ 06 / 總結
Josh Constine: 那麼，我想總結一下Peter今天與我們分享的一些令人驚歎的見解。他認為**AI實際上讓我們更加人性化。**它是一個工具，它讓我們加深了好奇心。你知道，也許我們以前提問的方式有限，或者有導師，或者有教授與我們共事，而現在，我們有了這個永恆的教授，它將幫助我們提出更高層次的問題，關於我們的死亡、我們的存在狀態、我們的意識狀態以及我們來自哪裏。我們非常忙碌，很難思考回答這些問題，但是有了這個思想夥伴、這個對手，我們可以像以前的沙龍
我們還談到了為什麼是你。你本可以過上富裕的生活，但你知道，這是重要的，你為此感到感激。而且現在，這可能是世界上最重要的工作，所以，我真的很高興有一個富有同情心的開發者在從事這項工作。
你認為ChatGPT對我們是一種幫助。它的目的是為了幫助我們學習更好地掌握我們的技藝，比如寫作或編程，消除做事阻礙，成為一個靈活的工具，消除障礙，以便我們可以實現人類的抱負，並找出我們真正的目標。
你希望ChatGPT能承擔每個用户的理想，而不是投射美國人或美國中心主義的理想，並確保它試圖讓我們接近真相，並試圖在其核心價值觀上真正有所幫助。但是我們需要它能夠幫助我們核對事情。就像你會用它來做法律用途一樣，而且它已經在醫療方面使用了。
我們當前需要花費一些時間，首先設置好相應的保護措施，並讓更多的人獲得實踐操作的機會，從而消除他們的顧慮。現在，人們能夠分辨某件事物是否由人工智能製作，這一點至關重要。你知道，我們正處於選舉年，我們需要賦予人工智能以相應的權力，同時如果它做錯了什麼，也要受到糾正。不過，對於未來而言，我們是否真的會在意這一點尚無定論。但我認為，我們將從現在開始制定一個規範，要求在個人通信中使用人工智能時必須進行披露。
你曾經説過，**ChatGPT的基礎版本將永遠免費，**我會記住你這一承諾，但我真的為全世界的人們將永遠擁有這個機會而感到自豪。
然而，那些從中獲利的公司，他們應當為提高人們的素養做出應有的貢獻，以便我們不會被謊言欺騙，也不會讓整個社會陷入錯誤信息的泥潭。你曾表示，人工智能有其積極的一面和消極的一面，因此在加快發展的同時，我們也要在部署過程中保持謹慎。
我認為，如果有些公司未能達到我們期望的安全標準，我們就有必要追究它們的責任，並選擇使用其他產品。而且，我們需要為未來做好準備，但方式不應是抵制人工智能，而是擁抱它，並找到讓每個人，甚至是處境最差的人也能從中獲益的途徑。
儘管你並未完全回答創意工作者是否應該獲得補償的問題，但你確實認為他們需要參與到整個過程中來，參與對話。隨着我們不斷向前，我希望人工智能不僅能成為我們的助手，更能成為真正的夥伴。
而且，如果你環視這個房間，就會發現人工智能已經成為一種文化現象。你知道，過去有着節奏、嬉皮士、朋克文化，現在則是開發者文化。人工智能所帶來的自我認知和表達方式，正在改變着我們的社會。這是自互聯網時代以來最盛大的新文化，至少是自創作者經濟興起以來。在學生債務高企、房價高昂的當下，它讓年輕人重拾了經濟上的控制感。而其中藴含的混亂、驚喜和內在藝術性，正是吸引瞭如此多人的原因。
因此，我希望無論年齡大小，我們都能保持好奇心，與時俱進，瞭解當下正在發生的變革。因為我們有機會消除現在和未來之間的鴻溝，讓美好的未來加速到來。
那麼，作為最後的總結，如果你希望人們從這次演講中帶走關於AI的一個想法，那麼你希望那會是什麼？
Peter Deng: 這是一個很好的總結，你比ChatGPT在總結我的想法方面做得更好。對我來説，我最後想説的是，我們不知道未來會發生什麼，但我鼓勵在場的每個人都保持好奇心。你們能來聽這個討論，這本身就很棒。走出去，嘗試一下。分享你的想法，看看AI能做什麼，因為這將幫助我們這樣的人，正在構建這項技術，知道對你們來説什麼是有價值的，以及我們如何提供幫助。所以，保持好奇心，保持開放的心態。告訴我們你想在AI中看到什麼，我相信，通過共同努力，這就是共同演化的地方。
