GPT-5不能停！吳恩達田淵棟反對千人聯名，OpenAI CEO也發聲了_風聞

　　Pine 發自 凹非寺

　　量子位 | 公眾號 QbitAI

　　千人聯名要求“暫停巨型AI實驗”在網上經過一天的發酵，各方聲音都已經湧現出來。

　　繼LeCun之後，吳恩達、田淵棟等一眾AI大牛也發文公開反對“千人聯名”。

　　吳恩達表示，在GPT-4出現之後要求AI訓練暫停6個月是很可怕的事情：

　　它（GPT-4）在教育、醫療保健、食品等領域都有很多新的應用，這將幫助許多人。

　　隨後田淵棟也轉發並附議，稱“我不籤暫停令”，並將AI的發展比作囚徒困境：

　　一旦開始，就沒有辦法停止或扭轉這一趨勢，這就是進化的必然。

　　應該換個角度繼續向前看，更好地理解 LLM，適應它並利用其力量，感受熱度。

　　在吳恩達的帖子下面，Meta數據科學家林致遠，英偉達AI研究科學家Jim Fan也都表示贊同。

　　對於這個暫停令，還有一些領域大佬“妙語連珠”，直接yygq了起來：

　　本特利學院的數學教授表示，那既然這樣，我呼籲暫停碳排放6個月，這樣我們就可以在此期間解決氣候變化問題。

　　谷歌大腦的高級研究員Yi Tay直接調侃，如果是把那些在網上胡亂討論大語言模型（LLM）的人禁言6個月，我會籤的。

　　而處於這場討論中心的無疑是OpenAI，CEO奧特曼今早也發了一條“展望未來AGI”的推文，疑似對昨天這場風波做出回應：

　　一個好的AGI應該具備這三個特點：

　　1、對齊超級智能的技術能力；2、大多數領先AGI之間的充分協調；3、一個有效的全球監管框架。

　　“潘多拉的魔盒”已經打開

　　在吳恩達的帖子裏，除了上面提到的應用價值外，他還從競爭、風險以及AI發展的角度詳細闡明瞭“為什麼要反對暫停令”。

　　首先是競爭方面，讓第三方暫停他們不瞭解的新興技術是反競爭的，樹立了一個可怕的先例，是糟糕的創新政策。

　　然後是AI風險，目前很多流媒體平台渲染的“AI公司瘋狂發送不安全代碼”是不正確的，絕大多數AI團隊都十分注重人工智能的安全問題。

　　最後再回到“6個月暫停令”本身，這並不是一個非常切實可行的建議，是在扼殺AI進步。

　　要提高人工智能的安全性，應該是在安全方面進行更大的投資，有關透明度和審計的規定將更加切實可行。

　　對此，有網友也同樣聚焦“6個月的暫停”呼籲，稱“要求暫停”並不能讓訴求更好地被解決：

　　暫停令即使出於好意，也會讓更微妙、更有建設性的對話變得更難進行。

　　當然也有人質疑起了馬斯克、Bengio等人發起“暫停巨型AI實驗”的動機，將其歸結為巨頭之間的利益之爭：

　　對於發起者以及簽署者們的心理，網友直接鋭評道：

　　簽署暫停是因為他們不信任人工智能嗎？不是，是因為他們不信任人類。

　　也有網友直接將AI發展比作潘多拉的魔盒：一旦打開，一切都不可避免了。

　　利益之爭？

　　雖説我們一眾“看客”並不清楚“暫停令”的發起者或簽署者們是不是有什麼私心，但僅僅將這條呼籲歸結為利益之爭肯定是不全面的。

　　那為什麼他們要發起這項呼籲？為什麼非得是暫停六個月呢？

　　先是為什麼要發起這項呼籲，在那封公開信“暫停巨型AI實驗”已經有講明一些原因。

　　而為什麼非要暫停六個月，或許可以從贊同的聲音中窺探到一些其他答案。

　　贊成的網友這邊，有人稱正是因為AI發展像“潘多拉的魔盒”，但目前還沒有被打開，還有挽救的餘地：

　　任何具有實驗室逃逸潛力的研究都應該受到國際監管，我們應該盡力去挽回，但如果你釋放了一些無法挽回的東西，我們就有麻煩了。

　　還有一種觀點是，目前的AI發展成果已經足夠人類使用，暫停幾個月也無妨：

　　GPT-4夠用了，僅僅是優化它和擴展插件就能滿足至少幾年的需求，我們現在需要更多的時間來理解AI如何與互聯網互動，並且我認為測試越來越強大的AI是危險的。

　　當然在這樣一羣爭論中，還有一股清流，無所謂“AI安全”，他們自稱降臨派：

　　有高贊微博直接明晃晃地稱：

　　我們羰基生物本來就是開啓硅基生命的鑰匙罷了。

　　是對人類太失望了嗎 （Doge）

　　對於這長達一天多的“是否暫停巨型AI實驗”之爭，網友一針見血地總結：

　　有的人看到利益，有的人看到文明，有的人看到熱鬧。

　　但無論如何，對於“拯救派”們來説，依舊有幾個問題不容忽視：

　　人工智能安全的問題該如何解決？

　　暫停AI發展是明智之舉嗎？還有沒有其他方法？

　　對此，你怎麼看？

　　參考鏈接：

　　[1] https://twitter.com/tydsh/status/1641203830124859392

　　[2] https://twitter.com/2020science/status/1641123382115864576

　　[3] https://twitter.com/XRImagineer/status/1641240405525291009