華為戰略研究院院長周紅有關AI的這次演講,我摘一下要點_風聞
早点早点-04-29 08:10
【本文來自《華為戰略研究院院長周紅:AI能力快速提升,但還面臨三個重要挑戰》評論區,標題為小編添加】
嘗試摘抄華為戰略研究院院長周紅一次演講要點
△在AI能力快速提升的情況下,我認為需要考慮AI的目標如何與人類一致、並且正確和高效地執行。除了通過規則和法律來加強AI的倫理和治理外,從理論和技術的角度看,要達到這些要求,目前還面臨三個重要的挑戰:AI的目標定義、正確性與適應性、以及效率。
AI面臨的第一個挑戰,是缺乏共識的目標定義。杜克大學的物理學家Adrian Bejan教授在《生命的物理學》書中,列出了對智能的二十多種目標定義,有的強調理解和認知能力、有的強調學習和思考能力、有的強調適應和行動能力等等。
如果沒有定義清楚並達成共識,就很難確保AI發展的目標與人類一致,也很難合理地分類和科學地計算。人工智能在歷史上有不同的流派,例如符號主義、貝葉斯主義、進化主義、行為主義,以及連接主義等,它們還沒有很好地融合起來,我認為缺乏共識的目標定義是重要的原因之一。
其次,在當前的很多AI應用中,存在正確性和適應性的挑戰。
依靠大數據統計規律進行的學習,會依賴於採樣的覆蓋面和數據的正確性,如果錯誤使用,就可能導致結果不穩定和偏見的風險,出現“黑天鵝”事件。
人工智能為什麼會犯錯,這很難解釋。因為AI的能力分佈在巨大的參數中,出了這些問題,我們既無法解釋、也難以調試。
第三個挑戰是AI的效率。
包括能效和數據效率。我們除了通過從大數據中得到統計規律,來認識和理解世界外,能不能從小數據中進行思考,發現邏輯性,形成概念,抽象出原則?
△面對這三個挑戰,如何進一步尋求突破呢?我建議從實用的角度,來發展知識和智能。如何通過從外部環境和我們自身的事實和現象中,歸納抽象出概念和屬性、及其關係和運行規律,來形成知識?按柏拉圖的理念,知識應該是被驗證過的、正確的和被人們相信的。能不能提升達成追求或者目標的能力,來發展智能?具體來説,可以通過感知與交互、計算或者試錯,在複雜的環境和有限的資源下達成目標。我們要通過智能來認識環境、適應環境,甚至改造環境以及我們自身,其正確性、適用性與高效性就很重要。從已有大數據中提取概率分佈來進行擬合和推演,是實現智能的一種手段,除此之外,我認為智能也要考慮因果推理、給出假設和進行試錯,提出問題和創造性地解決問題等。
△近幾年學術界有建議通過各種學習方法,實現從部分到整體,類似人類的感知系統;有建議未來的人工智能由基於直覺的模型和基於邏輯與歸納的模型組成;有建議以自監督的方式來學習世界模型,然後利用這些模型進行預測、推理和規劃;有提出通過與環境的交互而獲取經驗,構建AI的目標和整個世界的狀態,使得智能體可以學會與環境溝通、合作和競爭。
哈佛大學教授把人類的智能分類成八大類,包括語言文字、視覺與空間、自然理解、自我認知、人際關係、音樂、運動和數理邏輯。
△我建議在這些思考的基礎上,發展感知與建模、知識自動生成、求解與行動三個核心部分,通過從多模態感知融合與建模,到“知識+數據”驅動的決策,實現更高正確性與適應性的自主智能系統。感知與建模是對外部環境以及自身的表徵與抽象;知識的自動生成應該將吃穿住行、琴棋書畫、數理化生等人類能表達與不能表達、能感知和不能感知的知識都考慮進來,將人已有的經驗融入到策略模型或評價函數當中;求解與行動可以是在已有知識的基礎上,結合內外部信息進行直接的演繹推理,或者通過與環境交互試錯,來找到解決辦法。
△在走向智能社會的過程中,可能有超過百倍、甚至千倍的信息需求增長,現有的很多理論和技術已經遇到瓶頸,難以支持未來的發展,因此我們積極推動科學假設與商業願景牽引的創新,在通信上,大膽探索有別於香農定理的前提條件和應用場景;在計算上,進一步明確人工智能的目標定義、提升正確性、適應性和高效性。
△在通信和計算兩大基石的驅動下,從狹義人工智能,到通用人工智能與超級人工智能的過程中,我們首先要通過理論和技術的不斷突破,來實現萬物智聯,促進社會的進步;其次要勇於拓展思想的邊界,增強對智能的認知和掌控能力;最終,用正確的目標和有力的手段,牽引人工智能的發展,助力我們超越極限,增強生命,創造物質,控制能量,跨越時空,實現人類文明的進化。