圖靈獎得主論教育與AI：為什麼ChatGPT不具備“可教育性”？_風聞
返朴-返朴官方账号-关注返朴（ID：fanpu2019）,阅读更多！1小时前
人工智能技術的發展引發了諸多憂慮，人們擔心，某一天AI會比人類更加“智能”。甚至早在1965年，圖靈的一位合作者I.J.古德就提出了這種觀點：“超智能（ultraintelligent）機器是可以超越任何人類智力活動的機器。既然機器的設計也是這些智力活動之一，超智能機器也就可以設計出更好的機器；那麼毫無疑問會發生“智能爆炸”，人類的智慧將遠遠落後。”
然而，在這些討論的背後，我們依然沒有解釋清楚，“智能”這一概念究竟是什麼？它能代表人類的本質獨特性嗎？如果不澄清這些問題，我們就難以對人工智能的發展進行有效討論。在 The Importance of Being Educable 一書中，作為圖靈獎獲得者和計算機科學家的 Leslie Valiant 對此進行了反思。作者提出，人類大腦卓越的“可教育性”，作為一種信息處理能力，使人類物種與眾不同。這種獨特的能力一直是我們成就和文明的基礎，儘管在判斷信息可信任性方面存在挑戰，這種能力仍然賦予了我們引導世界沿穩定軌道行進的力量。在人工智能技術迅速發展的當下，要捍衞我們的共同未來，人類必須重視和完善教育系統，更好地發揮可教育性的潛能。
可教育性：人類區別於其他物種的獨特能力
我們生活在一個以智能（intelligence）為驅動力的文化中。我們對心智能力衡量的結果被稱為智商（intelligence quotient）；試圖用計算機模仿我們的心智能力的產物被稱為人工智能（artificial intelligence）；在探索宇宙時，我們在尋找智慧生命（intelligent life）……儘管如此，人們尚未達成對“智能”或“智力”廣泛接受的定義，它仍只是一個並不清晰的想法。
當1904年，心理學家查爾斯·斯皮爾曼發表有關對智力進行“客觀確定和測量”的論文時，他的方法是收集兒童在學校的表現的數據，在發現不同學科的表現存在高度相關性後，他推測“所有智力活動的分支都有一個共同的基本功能（或功能組）”。他所説的“基本功能”成為後來智商測試聲稱要測量的“通用智力（general intelligence）”或“g因子（g factor）”。然而，斯皮爾曼對“g因子”的定義並不明確，這一概念沒有闡明一個智力高的人應有的行為表現，而是通過統計分析間接得出的。他的定義是隱性的統計定義，而不是顯性的行為説明。例如，他檢測到的g因子實際上可能對應於父母的收入，而非真正的能力水平。
“智力”這一概念對我們瞭解自身並沒有很大的實質性幫助。我們能否找到更有益的概念？
在 The Importance of Being Educable 一書中，作者提出了可教育性（educability）作為替代方案。可教育性是從個人經驗和他人那裏學習和獲取認知體系的能力，並將這些認知體系應用於新情境中。認知體系可以是科學或政治理論、宗教、迷信，或虛構作品中的敍述。
可教育性的力量源於這樣一個事實：如果能夠從他人那裏傳遞知識，個體可以獲得的知識遠遠超過僅憑個人經驗和努力所能發現的知識，而擁有經過無數世代的人們發現的知識。這種力量是那些缺乏可教育性的物種所無法獲得的。語言、言語以及將信息記錄在石板或紙上的做法伴隨着文明的發展，並明顯促進了文明的進步，但這些技術發揮作用的基礎是我們的可教育性：記錄知識的技術和溝通的能力本身的力量是有限的；然而，對於具有可教育性的人來説，它們提供了無限制使用知識的力量。
16世紀，泰科·布拉赫（Tycho Brahe）在夜晚觀察天空，並在幾十年間系統地收集行星位置的數據。他去世後，前助手約翰內斯·開普勒（Johannes Kepler）使用這些數據推導出行星軌道是橢圓形的。開普勒起初只需閲讀布拉赫整理的數據表格，而不必重複觀測。他的發現所必需的數學概念——橢圓，在近兩千年前的古希臘就已被知曉。此外，開普勒需要對第三定律進行復雜的計算，為此他使用了約翰·納皮爾（John Napier）在蘇格蘭發表的對數方法。開普勒能夠利用包括數據和數學原理在內的所有知識，而這些都是他不可能自己從頭觀察和推導出來的。通過正規教育和自我教育的結合，他能夠利用前人用畢生努力獲得的成果。理解行星軌道是橢圓形的這一發現是人類最重要的成就之一，對科學的後續發展產生了決定性的影響，而正是開普勒吸收和應用前人知識的能力使這一切成為可能。
總之，可教育性是一種解釋性的區別特質，這種特質不僅使人類與眾不同，還解釋了我們為什麼以及如何能夠創造出現代技術文明，填補了我們對人類進化、認知測量、科學基礎教育、人類認知選擇和人工智能的理解中的空白。
可教育性的內涵
在本書中，可教育性被定義為以下幾方面的結合：(a) 從經驗中學習，(b) 可以被教導而學習，(c)對通過這兩種方式獲得的知識加以結合並應用。這是可教育性的三大支柱。具體而言，作者提出了七項能力作為可教育性的基礎，分別是從例子中學習（learning from examples）、 歸納推廣（generalization）、大容量記憶（large memory）、連鎖思維（chaining）（即將不同的知識片段結合在一起）、“心靈之眼”（a Mind’s Eye）（即識別場景中的單個元素、多個對象及其相互關係）、符號名稱（symbolic names）和教學（teaching）。它們各自都並非人類所獨有，但基於這些概念形成的特殊結構則是人類文明的獨特能力。
此外，作者強調區分“訓練”和“教育”，認為後者的本質在於，在獲得知識時並未預見或根本無法預見的情況下，應用所獲得的知識的能力。這可能涉及在不同時空下獲得的多個知識點，因此也就意味着這些知識點需要保留一段時間，否則就難以結合不同時間獲得的多個知識。人類可教育的學習系統（Educable Learning System）中，知識的保留是沒有時間限制的，規則被無限期地保留，直到有意干涉、進行更新；而對於訓練來説，在訓練中獲得的能力使用場景都是可預見的，只能幫助他們完成單一任務，比如考試。
教育過程當然需要訓練的部分，但是“可教育性”強調的是認知或者知識體系的系統性，以及在面對教師和自己都無法預見的新情況時，把這些學過的知識連接在一起，做出反饋的能力。這些知識可能是相隔幾年甚至幾十年被學習，所以在此概念上，“終生學習”的重要性不言而喻。
然而，人們對知識保留能力（knowledge retention）的測試是具有挑戰性的。正式的教育機制常常不能很好地評估留存能力——在測試前速成知識就足以應對，而人們並不清楚這些迅速獲得的信息能夠保留多長時間。儘管心理學家對如何促進知識的長期保留這個問題給予了關注（例如，檢索式的練習或重複回憶被認為是有效方法），然而，測量長期記憶總體上是困難的。這是可教育性測量的一個重要維度，需要加以解決。
人工“智能”隱憂的再探討
人們經常提問：當機器變得比人類更“智能”時，會發生什麼？這一假設的時刻被稱為“奇點（singularity）”。在過去的十年中，計算機可以識別人們的聲音或面容，甚至進行對話，因此一些人認為世界已經改變，人們長期以來擔心的機器接管世界的奇點即將到來。
人類社會經歷過被其他社會入侵時的失控，例如古代中東被洗劫的城市和美洲土著的危機，這些事件對於那些社會來説的確是奇點。但所謂的“AI奇點”則不同，因為它不是外部力量的結果，而是我們目前完全可以控制的因素的結果。
作者認為，過度擔憂和焦慮並非必要。首先，有關奇點的假設隱含了智力的強度是可以任意達成的，而智力這一概念還沒有得到澄清；而且，即使粗淺理解，計算力在圖靈計算中已經達到最大值。其次，作者所描繪的可教育性模型中，有一些數值參數，參數越大，系統就能越有效地接受教育並應用它。儘管可能會存在在各個方面都超過人類參數的機器，然而，機器的性能卻更多地來自於它們所接受的教育質量，而不是機器本身的原始計算能力。比如，在做客Guy kawasaki的播客欄目 Remarkable People時，作者明確指出，在可教育性概念的框架下，ChatGPT並不具備“可教育性”，它只是完成了可教育性概念裏的第一個部分，即從經驗中學習，其本質還是基於大量的數據訓練來進行文本預測。如果以可教育性的框架理解AI，基於科學來進行合理判斷，像控制其他許多危險技術一樣來進行部署。如果能做到這點，我們就有理由對未來技術的發展保持樂觀態度。
我們正處在歷史的十字路口。如果希望能彼此之間以及與我們正在創造的AI系統共享這個星球，我們必須反思我們是誰，我們是如何走到今天的，以及我們未來走向何方。The Importance of Being Educable 提出了對人類吸收和應用知識的非凡能力的新探索。作者 Leslie Valiant 認為，理解我們自身可教育性的本質對於保障我們的未來至關重要。他分析了我們如何通過信息處理來學習和應用知識，並與其他動物和AI系統進行比較，解釋了為什麼教育應該成為人類的中心關注點，併為未來的研究和教育實踐提供了一份路線圖。
作者簡介
本文經授權轉載自微信公眾號“普林斯頓讀書匯”。
特 別 提 示
1. 進入『返樸』微信公眾號底部菜單“精品專欄“，可查閲不同主題系列科普文章。
2. 『返樸』提供按月檢索文章功能。關注公眾號，回覆四位數組成的年份+月份，如“1903”，可獲取2019年3月的文章索引，以此類推。