圖靈獎得主Pearl：期待一場迷你革命，讓機器理解“為什麼”_風聞

返朴-返朴官方账号-关注返朴（ID：fanpu2019）,阅读更多！2020-03-24 11:33

2020-03-24

當前機器學習的數據處理方法忽略了人類智能的一個基本要素。

撰文｜Judea Pearl、Dana Mackenzie

翻譯｜吳小安（清華大學-阿姆斯特丹大學邏輯學聯合研究中心）

在通向人工智能那漫長又坎坷的路途中，計算機程序已經到達了一個紛亂點。它在那些我們曾經認為只有人類專屬的任務中表現卓越，比如玩撲克或者在稠人廣眾中識別出一張臉。但使用相同技術，自動駕駛汽車卻撞向路人和欄杆，於是對於它們是否總是值得信任，我們心存疑慮。

在這急速發展又總有意想不到的困難出現的過程中，在經歷了數十年的發展之後，機器依然無法企及人工智能的一個重要的構建基石：理解原因和結果。

簡單來説，今天的機器學習程序並不能告訴我們是否公雞打鳴是太陽昇起的原因，或者後者是前者的原因。不管機器分析多大體量的數據，它並不能理解人們直覺所獲取的東西。從嬰兒時候開始，我們就把我們的經驗以原因和結果的形式組織。“為什麼這件事會發生？”和“如果我以另一種方式來行動會怎麼樣？”的問題是認知發展的核心，使得我們人之為人，但目前機器還不具備這種能力。

例如，假定一個藥店決定把藥品的定價權交給一個我們稱為 Charlie 的機器學習程序。Charlie回顧藥店過去的價格變動和銷售記錄後，發現牙膏價格的變化和銷售量的改變不相關，因此決定提高牙膏銷售價格以產生更多的利潤。結果是，一個月之後牙膏的銷售量降了下來 —— 與之相伴的還有牙線、餅乾和其他商品的銷售量。Charlie 在哪個地方犯了錯誤呢？

Charlie 並不明白之前的經理之所以會調整價格是競爭所致。當 Charlie 單方面的提高價格，那麼對價格異常敏鋭的顧客就會選擇去其他地方消費。這個例子説明單單是歷史的數據並沒有告訴我們關於原因的任何東西 —— 且因果的指引是重要的。

在分析數據模式方面，機器學習系統取得了令人為之側目的進步，但那只是人工智能的低端成果。要達到更高端的成果，AI需要一個階梯，我稱之為因果的階梯，它包含因果推理的三個層級。

第一層級是相關，當前的學習機器和大多數動物都位於這一個層次，在這個層級，巴甫洛夫的狗習得了鈴聲響起和有食物可吃之間的聯繫；下一個層級是干預，目的是看看如果刻意製造鈴聲，或者提高牙膏的價格將會發生什麼？干預不同於觀察，無理由提高價格和以過去的數據表現為依據提高價格有不同的後果；最高的層級是反事實，這是一種想象結果會如何的能力，反思一個人的行動並在在其他情境中做判斷。正是在這一層次，機器能夠達到對責任、歸譽、咎責以及自我更新的判定和傳達。想象給予一輛自動駕駛汽車這種能力，在一個事故之後，它的 CPU 會問自己這樣的問題：如果我沒有向醉酒的行人按喇叭將會發生什麼呢？

為了達到更高的層級，除了更多的數據之外，機器需要一個暗含着因果元素的模型 —— 實質上是原因和結果的數學。也許是這樣一個簡單的因素：“酒精會損傷一個人的判斷，醉酒之人會以異於尋常的方式運動”，我們可以以科學家所稱之為的因果圖來編碼這個信息，在這個圖中箭頭表示的是一系列可能的因果關係：酒精損傷判斷非正常舉動。這類圖不只是為了簡潔優美，而且構成了一個初步算法，以此就使得汽車能夠預測某類行人對於汽車喇叭所發出的鳴叫會做出異乎尋常的反應。這也為我們“拷問”汽車解釋它的所為提供了可能：為什麼你要按喇叭呢？

當前的機器學習系統只在一個受規則嚴格限制的小範圍內才能通達更高的層級，比如下象棋。超出這個範圍，它就會手足無措、錯誤百出。但是如果有了因果模型，機器就能預測之前所從未經歷的行動的結果，並反思這個結果，然後把所學到的技能應用於新的情形中。

因果模型源自二十世紀八十年代人工智能的一些工作，由於它可以做更高層級的計算且常常還能消解統計悖論，目前已經在健康科學和社會科學中廣泛應用。隨着機器學習研究者尋求更具解釋性和回應性的系統，因果模型又開始被關注。比如谷歌和臉書的科學家們訴諸於因果模型來分析網上的廣告，以判定廣告是否會影響人們購買產品的決策—— 一個反事實問題。

這只是一個開始。當研究者把數據和因果推理結合起來，我們期望在人工智能領域能看到一場迷你革命，這個新的系統能夠規劃行動，哪怕不存在關於這個行動及其結果的任何數據；這個新的系統還能夠把它們之所學應用於新的情形，並用人類語言天生就含有的“因果”概念來解釋它們的行為。

作者簡介

Judea Pearl 是加州大學洛杉磯分校計算機系的教授，因為他在概率推理和因果推理的工作而獲得了2011年的圖靈獎。

Dana Mackenzie 是數學科普類作家，他們兩人合寫了一本書《為什麼：關於因果關係的新科學》，該書不久前由 Basic Books 出版。

原文鏈接：https://www.wsj.com/articles/ai-cant-reason-why-1526657442 ，原題為“AI Can’t Reason Why”