馬斯克和扎克伯格隔空吵架 AI將人類帶往何方？
據好奇心日報7月27日報道，兩個硅谷科技領袖，伊隆·馬斯克和馬克·扎克伯格隔空吵了一架。
爭吵從扎克伯格家後院的燒烤開始。在上週末的一場 Facebook Live 在線直播中，Facebook CEO 扎克伯格在自家後院裏回答了網友提問。
當被問到人工智能威脅論時，扎克伯格表達了非常樂觀的看法：“人工智能可以讓世界變得更好。”他重複了兩遍“樂觀”，然後説，“有人鼓吹人工智能會帶來末日，我認為這是不負責任的。”
正在介紹家用 AI 賈維斯的扎克伯格 圖片來源：好奇心日報
硅谷沒有比特斯拉創始人馬斯克更大的人工智能末日佈道者。
於是有人在 Twitter 上 @ 了馬斯克，這位經常在社交網絡上和人吵架的 CEO 很快回應説“我和馬克聊過這件事，他對這個問題的理解有限。”
這是沒什麼説服力的爭吵。但這兩人也分別代表了硅谷對人工智能的兩種主流態度。
扎克伯格很少出來評論人工智能威脅論。最大的幾個科技公司 CEO 都是如此，Google、Facebook、亞馬遜、蘋果……他們都在全力投資人工智能。
馬斯克則代表着一個少數派，他和霍金等人寫過聯名公開信呼籲世界正視人工智能的威脅。他和另一位佈道者，硅谷最大孵化器 Y-Combinator 總裁山姆·奧爾特曼等人，成立了非營利組織 OpenAI，立志於建立人工智能開發的行業協會。
就在本月中旬，馬斯克還在全美州長聯合會的夏季聚會上呼籲美國各州行動起來，開始人工智能立法。他稱人工智能是我們這個文明面臨的最大問題。他舉例説，人工智能可以通過製作假新聞來發動戰爭，操縱信息有時候比武器更具威力。
沒人擔心人工智能搶走你的工作
這兩年，隨着李世乭、柯潔下圍棋輸給人工智能。對人類命運的擔憂再度升温。
加之自動駕駛、語音助手、自動炒股、自動賣保險、自動寫新聞等實際應用的到來，越來越多人開始擔心人工智能會搶走工作。
而利用人工智能推薦信息、預測犯罪、監控民眾，則引發了對技術應用的更多疑問。
但這些並不是硅谷科技領袖們擔心的事。他們在這件事上的態度高度一致。
馬斯克覺得勞動力需求減少會帶來人人都有收入的好時代：“隨着人工智能帶來的自動化，很可能會迎來一個人人都有基本收入的新時代。雖然我不確定不用工作之後人們會幹什麼，但或許會有時間做別的更復雜、更有趣的事。當然也會有更多閒暇時光。”
同樣擔心人工智能帶來末日的比爾·蓋茨則認為機器人的税收會解決社會問題：“機器人自動化也應該收税。如果一個人類工人按照收入徵税，比如所得税、社保等等，機器人可以按照同樣的工作量徵税。世界需要的同樣的商品和服務，但解放勞動力可以給老人帶來更好的生活、減少階級差距、關愛特殊兒童。”
曾在 Google 和百度負責主要人工智能項目的原斯坦福教授吳恩達説，他參與的很多 AI 項目可能會能消滅數以萬計的工作崗位，人工智能可以創造更多的財富，雖然很難但可以創造一個更公平的社會。失去原有工作的人可以獲得更好的教育機會，獲得更多其他工作。
從不評論人工智能威脅論的 Google 創始人拉里·佩奇則認為，新的工作時間制度會解決工作變少的問題，他説：“大多數人希望有更多的時間陪家人，AI 時代可能有每個月兩週假日或者每週四天工作日，縮減工作時間就能解決工作問題。再增加一些崗位，就能確保更多人擁有工作。”
大致上：人工智能會減少工作，但人們的時間更多了，以後還會有新職業誕生，甚至不幹活也會有錢拿。
這個説法很可疑，現實是科技公司通過技術提升效率、減少了體力勞力的需求，但它們並沒有主動補償被代替的人。而它們繼續僱傭的基礎勞動力收入不但沒有比同行高、有些還更低，比如亞馬遜的倉庫工人、蘋果店的店員都是低薪工作。Facebook 僱員的數千內容審查員都是外包的。
過去十幾年的機器人對就業和薪資影響的調研也和硅谷的預言完全相反。
但這樣的樂觀就是硅谷領袖們對於人工智能的共識。
他們吵的是天網
馬斯克和扎克伯格兩派對於人工智能的唯一分歧大概就是人工智能末日是不是可能發生。
這些人並沒有共聚一堂辯論過，但他們各自在不同場合都談到過這個問題。我們根據這些言論編排了一個虛擬的辯論，所有文字都是當事人原話：
史蒂芬·霍金：
人工智能技術的發展將會終結人類！我們所有人都應該停一停，把研究從提升人工智能能力，轉移到最大化人工智能的社會效益上面。
貝索斯試乘巨型機器人 圖片來源：Business Insider
亞馬遜創始人傑夫·貝索斯：
為了保持公司活力，你得做出又快又好的決定……速度在商業裏很重要。再説了，一個快速的做決定的環境也更有趣。
創辦了非盈利的人工智能組織 OpenAI 的埃隆·馬斯克：
我會給你們一直敲着警鐘的！在大家看到機器人在路邊隨便把人殺了之前，人們都不知道應該怎麼對待人工智能，因為這聽起來太不真實了。
前 Google、百度的人工智能負責人吳恩達：
未來也許會有殺人機器人競賽，但我現在肯定專門研究“不邪惡”的人工智能，就像我現在不會擔心火星上的人口過載問題一樣。
Google 的創始人謝爾蓋·布林：
如果世界上所有的信息都連接到你腦子裏，或者連到一個比你更聰明的人工智能的腦子上，那你肯定會比現在更好。
Facebook 的創始人馬克·扎克伯格：
當我聽到人們説人工智能未來會傷害人的時候，會想“科技總是可以為善或者作惡，你得小心處理，小心打造它、小心應用它。”
微軟創始人比爾·蓋茨：
人類有一個來自進化的通用學習算法，它運行在一套極其緩慢的計算機上、存儲空間十分有限，我們必須使用嘴這種滑稽的工具，才可以向其它“計算機”傳輸數據。每創造一個新的“計算機”，它都得從頭來一遍、連怎麼走路都不知道。
我們還從沒在軟件裏實現過這樣的算法。但一旦把這種算法寫進硅芯片，它就會立刻超過人類、成為超人。只要這種算法接入互聯網，它就可以讀所有的書籍、雜誌和其它信息，我們已經給超級智能準備好了內容基礎。
我儘量試着不過多宣揚這個觀點。但當有人説這不是一個問題時，我真的不能同意。他們怎麼能看不到這是多麼巨大的挑戰呢？
硅谷孵化器 YC 的主席、跟馬斯克一起創辦了 OpenAI 的薩姆·奧特爾曼：
我們還不知道人類智能是怎樣工作的，所以很難證明目前的機器“仿真”智能到了什麼程度。很可能方向完全錯了，也有可能就差一個算法了……很多人都相信超級智能是危險的，但覺得離得很遠，可能永遠不會發生。這想法真的草率又危險。
《從 0 到 1》的作者、硅谷著名投資人彼得·蒂爾：
如果我們有比人類更強的人工智能，那就像是外星人來地球了。外星人來了我們肯定不會問它，要不要來幫忙搞一下經濟？我們肯定會問，你們是不是要來殺我們的。
被 Google 收購了的人工智能公司 DeepMind 創始人傑米斯·哈薩比斯：
我們現在面對的問題都是很複雜的，無論那是量子物理、宏觀經濟還是疾病，都有很海量的數據。得面對現實，人類在沒有幫助的情況下很難理解。人工智能是我們解決社會問題的工具而已……
吳恩達：
作為一個資深的人工智能研究者……我認為人工智能取代工作是個大問題，這才是我們應該關注的，什麼科幻的東西、反烏托邦的東西都是在散注意力。
傑米斯·哈薩比斯（還沒説完）：
我的個人夢想是，等搞定 AI 技術，我就用 AI 來創造新的科學家體系，用 AI 來加速科學和醫學研究，越快越好。
比爾·蒂爾也是 DeepMind 的投資人：
我記得最後一次 DeepMind 投資人會議，會上某投資人跟我説，這可能是他幹掉傑米斯·哈薩比斯，一槍崩了他的最後機會了。（董事會後不久，DeepMind 就被 Google 收購了）
馬斯克們擔心的超級人工智能，和你手機裏的小冰有什麼區別？
和《終結者》裏發射核彈，奴役人類的“天網”不一樣，現在和大家密切相關的人工智能實際上還很弱。
在中文聊天機器人裏最流暢的微軟小冰，能做的事情大概是和你聊上幾十個回合，猜一猜你心裏想的哪位名人，最後給你唱首歌。但她距離和你成為真正的朋友還有距離。
智能助手裏最厲害的 Google Assistant，可以從聊天記錄你整理日程，給你提前選擇好出行路線，或者告訴你搜過的某個航班的動態。但是它還沒辦法按照你交代的提綱幫你記篇日記。
懂得語言最多的 Google 翻譯或是微軟翻譯，他們能翻譯世上幾乎所有語言，甚至懂的瓦雷利亞語和克林貢語。但對於一個沒有學習過的新語言，它們是無能為力的。
換句話説，現在的 AI 人工智能，最多算是某種特定功能的自動工具。按照嚴格的“人工智能”來理解，它們是人工的、但還沒有智能。按照人工智能業界的定位，他們可以稱為“弱人工智能”。
在這些基礎人工智能之上，可以實現通用人工智能，最後達到超級人工智能的層次。
但其實雖然有這個層次的分野，但我們最多知道“通用人工智能”大概是能和人類一樣思考和學習，能夠舉一反三，甚至產生獨立意識。但究竟什麼是超越人類的超級人工智能，現在還只是幻想。
而且所謂人工智能，這個東西不是一開始就和人類的“智能”有關。最大的問題是，現在還沒人知道人腦怎麼工作，也沒有關於如何模擬人腦思考的算法。
Palm 創始人、硅谷著名科技創業者，同時也是腦科學家的傑夫·霍金斯的故事很好的説明了人工智能研究的侷限。
霍金斯在 1979 年進入英特爾之後，萌發了了對腦科學的強烈興趣。但當時的主流研究對大腦一無所知。1979 年 9 月的《科學美國人》雜誌做了一份關於大腦的專刊，DNA 的發現者之一佛朗西斯·克里克博士在刊中寫道：人類現在對大腦幾乎一無所知。克里克説，腦科學研究不僅是沒有理論，連框架都沒有。
受啓發想投入腦科學研究的傑夫·霍金斯申請麻省理工人工智能實驗室的學習，來開始對腦科學的研究。作為一個計算機科學研究者，他當時認為人工智能和人類的智能，也就是大腦的科學是密不可分的。
但麻省理工人工智能實驗室拒絕了傑夫·霍金斯的申請。麻省理工當時認為，人工智能只是計算機科學，和大腦關係不大。
做公司賺到錢的霍金斯 2002 年在加州成立了紅木神經科學研究所，專門從事腦神經科學方面的研究。他在演講中説道，腦科學研究非常重要，只有明白了大腦怎麼運作，才能製作擁有智能的機器。
但目前的人工智能研究依然是在對人腦一無所知的前提下工作的。現在的人工智能，無論是小冰這樣的聊天機器人，還是特斯拉 Model S 這樣的自動駕駛機器，都是按照“輸入數據——產出行為”這種模式來研究的。
一年來熱度最高的人工智能項目，圍棋人工智能 AlphaGo 的研發過程比較典型的展示了所謂“弱人工智能”如何學習。
AlphaGo 基於一個算法，這個算法讓機器知道圍棋的基礎規則，但它增強棋力的方式需要很多樣本，也就是下棋的棋譜。在一開始 AlphaGo 是通過模仿人類的棋譜來學習的，但 AlphaGo 最大的突破在於開發了“增強學習”的模式，讓機器自己對弈，產生更多的棋譜，同時讓這些樣本產生足夠多的差異而不至於收斂，最終 AlphaGo 達到超越人類的成績。
可以看出，AlphaGo 的學習過程和人類是截然不同的。
主持發佈小冰的時任微軟全球執行副總裁陸奇 圖片來源：好奇心日報
2016 年 8 月，《好奇心日報》在微軟小冰的發佈會上採訪了時任微軟全球執行副總裁的陸奇。在問道關於現在生物學家還不清楚人類如何思考的當下，計算機科學界如何完成人工智能的研發這個問題，陸奇這樣的回答可以説明問題。
“工程學屆有一個想法，認為就算人類知道鳥兒如何飛翔，但發明飛機也不是對鳥的模仿。”他説，計算機工程學可以建立一個系統，模仿人類學習知識，產生行為的過程，就是人工智能。
換句話説，現在的人工智能還只是對智能行為的模仿。如果用一個人來作比方，弱人工智能注重行為，也就是你和他説一句話，他回答了，那麼智能行為成立。但如果要開發一個通用人工智能，這個“人”即使在你不對話的時候也會思考，就像你我躺在牀上冥想一樣，這時候即使不説話，你的智能依然存在。
總的來説，通用人工智能還是距離現在比較遙遠的東西。至於更高級的超級人工智能，我們只能從人類的基礎上加以幻想：你下一道命令，説“預測一下戰爭的走向”，接下來這個 AI 從互聯網上檢索內容，分析將領的性格，新聞的趨勢，經濟情勢的變化，歷史上類似戰例的結果，最後在一秒內得出一個報告。這大概可以算是超級人工智能。
研究緩慢也是反對者認為馬斯克們想多了的原因。畢竟，現在硅谷還只是造出更多更快更好用的“工具”，看上去並沒有更接近“智能”。
馬斯克們目前的倡議是建立一個系統來評估智能程度，同時真的針對人工智能災難進行技術預案，同時建立一個類似“機器人三定律”的規則來規定人工智能的行為。監管介入在這裏也是必不可少的。
在預防人工智能作惡這件事上，馬斯克們有些事沒有説出來
OpenAI 吸引投資、拉小公司入夥。在呼籲監管、預防人工智能威脅意外，它們做的另一件事情是集合小公司的力量，在 AI 的研發上縮短和大公司的距離。
從最初的參與者就能看出來。
OpenAI 有一個高尚的使命，防範人工智能研發走偏。但全球最大的五個科技公司，蘋果、Google、Facebook 沒有一個參與其中。
微軟和亞馬遜出現在支持者名單裏，只是因為它們的雲計算平台被用於 OpenAI 參與者的計算。
這五個公司各自擁有超過十億用户，掌握海量數據，並且都組建了至少數百人的團隊研發人工智能。
而 OpenAI 參與者都是對人工智能研發有訴求，但相對這些巨頭，又相對缺少數據和資本的公司。
馬斯克的特斯拉汽車，最重要的賣點就是自動駕駛 圖片來源：The Daily Beast
伊隆·馬斯克自己的公司特斯拉重點放在自動駕駛上面，人工智能是非常依賴的未來。
奧爾特曼作為孵化器 YC 的老闆，旗下孵化了數十家市值規模在幾十、幾百億不等的創業公司，其中有眾多人工智能項目，比如聊天機器人 msg.ai，開源的深度學習算法 Skymind。
另兩位參與者，LinkedIn CEO 霍夫曼和彼得·蒂爾都是著名的投資人。尤其是蒂爾，他自己的創業公司 Palantir 是一家和大數據以及人工智能相關的數據公司，主要業務是幫助政府執法機構分析潛在威脅等等。而且作為 Deepmind 的早期投資人，也就是開發AlphaGO，後來被 Google 收購的那家公司，他擁有的股份超過 25%，甚至遠遠超過了創始人哈薩比斯。
風險投資機構 Andreessen Horowitz 曾説，在人工智能等前沿領域，大公司擁有的資源可以讓他們吸引更多的研究者，比如 Google、Facebook、亞馬遜、微軟，甚至後來的蘋果。對於現在的人工智能研究者來説，用來訓練人工智能的數據非常寶貴而稀有，小公司聯合起來能縮短和大公司的差距。
沒什麼比一個非盈利的開放聯盟更適合一起分享數據。
他們可能確實擔心有一天人工智能毀滅世界。但像平常一樣，商業領袖們站隊也都沒有違背公司的利益。