為什麼人工智能比我們想象得困難?| 袁嵐峯_風聞
风云之声-风云之声官方账号-2021-07-27 09:32
導讀
總的來説,其實我們不知道自己的大腦最擅長什麼。
視頻鏈接:
抖音視頻:
https://v.douyin.com/e7P9aqs/
本視頻發佈於2021年6月8****日,點贊量已達1.2萬
精彩再現:

人工智能的前景如何?外行往往會十分樂觀,甚至認為會出現技術奇點、機器人統治人類等等。而內行卻正相反,因為他們知道,人工智能在歷史上有過多次大起大落,每一次過度樂觀之後都是長期的蕭條。
為什麼會這樣?人工智能專家、暢銷書《複雜》的作者梅拉妮·米歇爾教授最近寫了一篇文章《為什麼人工智能比我們想象得困難》(Why AI is harder than we think),進行了深入的分析。她指出,對人工智能的思考經常出現四種謬誤(fallacy),導致人們對智能機器產生錯誤的信心。

梅拉妮·米歇爾

暢銷書《複雜》
謬誤一:每個小進步都是通往最終人工智能路上的基石。
哲學家Hubert Dreyfus將這種認知稱為“第一步謬論”。他説:“我們總是認為,自從我們在計算機智能方面的第一次工作以來,我們就一直在朝着通用人工智能緩慢前進,並最終實現終極態的人工智能。我們還盲目的相信,我們對代碼和程序的任何改進,無論多麼微不足道,都算作是一種人工智能的進步。”他引用了他的工程師哥哥Stuart Dreyfus的一句話調侃道:“這就像是説第一隻爬上樹的猴子正在朝着登陸月球前進一樣荒誕不經。”
謬誤二:容易的任務很容易做,難辦的任務很困難。
這聽起來好像是句廢話,但它是個謬誤。實際情況是,對人類來説容易的事情對人工智能很難,而對人類困難的事情對人工智能卻很容易。
人工智能先驅馬文·明斯基解釋過,人類在沒有太多思考的情況下所做的事情,比如眺望世界,理解我們所看到的,進行對話,走在擁擠的人行道上而不撞到任何人等等,這些事情對機器來説是最困難的挑戰。反之,解決複雜的數學問題,掌握國際象棋和圍棋等遊戲,以及在數百種語言之間互相翻譯……這些對人類非常困難的問題,對機器來説卻相對容易。
這被稱為“莫拉韋茨悖論”(Moravec’s paradox),以機器人學家Hans Moravec的名字來命名。他寫道:“讓計算機在智力測驗或跳棋時表現出成人水平的表現相對容易,但在感知和行動能力方面,計算機窮極一生很可能也達不到一歲孩子的水平。”馬文·明斯基指出,總的來説,其實我們不知道自己的大腦最擅長什麼。

謬誤三:助記法的陷阱(wishful mnemonic)。
例如,IBM有一台著名的超級電腦叫做沃森,IBM説“沃森可以在幾秒內閲讀世界上所有的醫療保健文本”。IBM的網站聲稱,沃森能夠“理解其中語言的上下文和細微差別”。又如,DeepMind的聯合創始人Demis Hassabis説:“AlphaGo的目標是擊敗世界上最好的人類玩家,而不僅僅是模仿他們。”AlphaGo的主要研究人員David Silver説:“我們在比賽的過程中總是去問AlphaGo,問它覺得它在比賽的過程中表現如何。但是直到比賽快結束的時候,AlphaGo才認為它將獲勝。”
請問,沃森和AlphaGo真的知道什麼叫閲讀、理解、擊敗和認為嗎?當然不知道,它們只是在執行程序。
人們可能會爭辯説,類似這樣的詞彙只是方便機器速記而已。然而,這種速記可能會誤導那些試圖理解結果的吃瓜羣眾,從而連帶着影響媒體對這些結果的報道。而且這還會潛移默化地改變人類對於AI系統的思考方式,即使是人工智能專家也會受此影響,從而對AI系統與人類智能的相似程度作出錯誤的判斷。
謬誤四:智能都在大腦中。
這話的意思是,智能可以與身體分離。它既可以作為一種非物質的信息存在,也可以完全封裝在大腦中。缸中之腦(brain in a vat),就是對此一個著名的比喻。
這種假設導致了這樣的猜測:要實現人類級別的人工智能,我們只需要擴大機器的計算存儲單元,以匹配大腦的“計算能力“,然後為這種大腦匹配的“硬件”開發合適的“軟件”。
硬件當然是需要提升的,但這是否就夠了呢?越來越多的研究人員開始質疑“智能僅存在於大腦”這個基礎假設,希望從另一個角度理解和創造人工智能。
幾十年來,許多認知科學家一直在主張讓人們關注身體在所有認知活動中的中心地位。這個領域叫做具身認知(embodied congnition)。認知心理學和語言學的結果表明,我們的許多抽象概念,幾乎都是基於物理的、基於自身的內部模型的,還有一部分是由日常語言中發現的基於身體的隱喻系統所揭示的。
與具身認知理論相關的是,伴隨着我們深層社會生活的情感和“非理性”的偏見,通常會被認為與智力是分開的,或者阻礙理性的。但實際上它是使智力成為可能的關鍵。人工智能通常被認為是針對一種“純粹的智力”,一種獨立於如飲食和睡眠等情緒、非理性和生存需求的存在。但這種定義可能正是在某些方面限制了人工智能的發展,導致了人們對人工智能的誤解與恐慌。