人工智能應該被用來監控學生行為嗎？_風聞

近日，一則利用人臉識別和AI大數據對學生課堂行為進行監測的分析的新聞引發熱議。新聞視頻顯示，該AI系統可以識別學生舉手、玩手機、睡覺、聽講等行為。

圖片來自《新京報》相關報道視頻截圖

雖然目前還只是場景化概念的展示階段，但已經引發了網友對於這一應用場景的爭議：

對學生的面部進行監測分析是否涉及侵犯學生隱私權？

目前已有的人臉識別算法是否準確，能否精準識別學生的每種情緒？

人類的情緒如此複雜多變，僅僅靠面部識別就能夠精準定義嗎？

該系統數據的衡量標準是什麼？

學生並非機器人，以一個固定的標準來衡量一個正在成長變化的未成年人是否欠妥？

當前人工智能的應用場景在不斷拓寬和多元化，也給產業不斷提出挑戰，技術應用的標準與邊界究竟在哪？

造就曾經採訪了麻省理工學院物理系終身教授、未來生命研究所創始人、暢銷書《生命3.0：人工智能時代，人類的進化與重生》作者邁克斯•泰格馬克（Max Tegmark），分享了他作為科研人員對於人工智能及其應用場景的理性看法。​

造就：您在新書開篇提到中國，您認為中國人工智能（AI）的發展會對世界有什麼影響？

**泰格馬克：**中國是人工智能製造領域的世界領跑者。

不斷提升的技術能力與使用技術所必需的智慧之間存在一種張力，這是一場競賽，會在很大程度上決定未來AI的發展走向。

中國漫長的歷史積累了豐富的智慧，有助於建立一套良好的人工智能管理體系。中國技術和中國智慧的結合，很可能讓我們在這場競賽中勝出。

過去智慧的增長一直依賴試錯法，比如我們先發明瞭火，經歷火災後又發明了滅火器。

**但今天，科技的力量已經實現幾何級數的增長，試錯成本變得不可承受。**我們必須未雨綢繆，一次就把事情做到位，因為這可能是我們唯一的機會。

造就：90年代美國、歐盟形成了一種保護機制，您對此怎麼看？

泰格馬克：事實上，我工作的麻省理工學院正在做安全性研究項目。

有人質疑，對AI風險的討論是不是為時過早，甚至太杞人憂天？不是。安全性研究的宗旨是希望通過規避錯誤，最大程度地降低損失，確保往正確的方向發展。

有人很悲觀，他們想象凡是有可能被濫用於危害人類的科學技術，都會釀出苦果、貽害無窮。但這很顯然是錯誤的。

想想生物學，本可以用於生化武器，可關於生化恐襲的報道實際上少之又少。

 

因為20世紀70年代，大部分國家都簽署了國際性的禁止生化武器條約。大家形成了一種共同的願景，沒有生物學家會以製造生化武器為夢想，而是把精力放在了生物學研究和以醫學發明賺錢上。生物學確實為人們創造了更健康、更幸福、更長壽的生活。

很多人一直固守一種過時的思維方式，堅信強者通吃，必須鬥得你死我活，才能得利。

比如我的母國瑞典和鄰國丹麥，歷史上戰爭不斷，但近百年卻友好無事。

戰爭中求生存，在古代這似乎無可厚非，畢竟當時的條件下，土地意味着一切。

但在今天，**利益的獲取不必依賴土地，科學技術的發展可以滿足物質財富、生理健康各個層面的全方位提升。**不必再依循弱肉強食的殘酷法則。

科學技術的發展依賴不分國籍、種族、性別的人類的共同努力，科技的客觀有效性也決定了應用足以造福全世界。

例如抗生素，沒人在乎究竟是誰、哪個國家發明了抗生素，重點是它事實上為包括亞非拉和歐美在內的全世界人民帶來了福利。

這才是科學技術的本質。科技誕生財富和利益，科技的普世性決定了在今天，不是殘酷的競爭而是和平，不是你死我活而是互利共贏，才是提升幸福指數的終極之道。

造就：您認為AI是否有意識？

**泰格馬克：**這是一個很有爭議的話題。

首先，**意識不等於智力。**智力是實現目標的能力。而意識是我知道自己（在做什麼）。

比如開車，我從自己的耳朵、眼睛獲取信息，大腦經過處理，向肌肉發出指令，再落實到具體的駕駛行為上。

無人駕駛汽車可以把這件事做到極致。但它不可能知道自己在開車。我卻可以知道這點。

有人説，任何有智力的東西都有意識，把意識和智力劃等號。這顯然是錯誤的。

意識和智力都跟信息處理有關，但並不是所有的信息處理都是在有意識的情況下實現的，比如我不可能察覺到我的大腦是如何調節我的心跳的。同樣，某些智力活動並不伴隨意識。

也有人説，機器人不可能有主觀體驗，不可能有意識。

我是一名科學家，從科學角度看，構成人類大腦的碳原子並不神秘。而之所以神秘學、奇蹟學能有廣闊的市場，我覺得和人類的宗教需求和宗教背景有很大關係。

目前麻省理工學院的研究小組正在做這方面的研究，什麼樣的信息處理是有意識的？什麼樣的信息處理僅僅是一種實現目標的應變能力？這非常重要。

未來，萬一我們造出和人類一樣有意識的機器人，該如何對待它們？

一旦具備意識，就不再是簡單的技術層面的問題，而是道德倫理問題。

人類一直就有製造他者、虐待其他生命形式的惡習。無論是自然界的動植物，還是野蠻社會下的奴隸僕役，都被以要麼沒有意識、要麼是低階生物為由肆意虐待。但科學和社會的雙重進步一次次證明並非如此。

要想肆意對待有意識的機器人，就必然觸及幾乎不可能解決的道德倫理難題。

某種程度上，主觀體驗、意識是最有價值的東西。比如當我們看世界的時候，是因為我們在看，所以誕生對世界“美”的判斷和感受，相反世界本身談不上美醜好壞。可以説，意識、主觀體驗就是意義的源泉，是獨一無二的標誌。

製造AI的宗旨是服務人類，將是否具備意識的機器區分開來並且分別製造，這一點就尤其重要。此外，針對意識的有無，制定相應的對待策略，構建不同性質的人機倫理，也十分重要。

造就：人類大腦和AI能夠完美融合嗎？就像鋼鐵俠那樣。

**泰格馬克：**可以，也不可以。

某種程度上，我們可以使用科技來強化我們的大腦，現在的智能手機就是這種的初步應用，撇開手機和人腦的物理連接不談，智能手機的確大幅提升了人腦的各種能力，也給人類生活提供了極大的便利。

未來很可能誕生神經植入技術，超越物理層面的溝壑，使得人成為更完美的人。

**絕對意義上的人機融合並不現實。**因為神經元信號的發射速度只有千分之一秒，而今天計算機芯片的處理速度比人腦快100萬倍，受限於生理原因人腦不可能比得過AI，所以人機融合的前景暗淡。

 

超級計算機在應用的長遠和廣闊性上，無疑優越於人機融合，而只需要解決AI的價值觀問題，始終保持為人類最高利益服務的宗旨，這種相對意義上的人機融合才是王道。

造就：你在書裏多次提到《終結者》，你覺得未來會是人類成功控制機器，還是機器成為人類的噩夢？科幻電影裏你最喜歡哪部？

**泰格馬克：**一提到AI的未來，人們很容易想到電影《終結者》，裏面毀天滅地的機器人，讓人們擔憂AI的風險。我認為這種擔憂是錯誤的。

對人類構成威脅的不是它超強的能力，而是它的程序、它所秉持的價值觀、或者説是它的意識。當AI的價值觀和目標與人類需要的不一致、甚至相沖突時，這才是風險所在。

保持AI的價值觀和人類高度一致，是AI技術的發展之道，也是人類的福祉所在。

但這面臨三個尚未解決的棘手難題：

讓AI理解人類的目標和價值觀，並不容易；

讓AI理解和讓AI去執行，是兩回事；

隨着AI技術更成熟、更智能化、更聰明，如何讓AI始終保持和認同人類的價值觀？

有人説，這個研究現在為時過早，因為我們人類連自己的目標是什麼都還不知道，根本談不上去教育AI。我覺得這只是在為偷懶找藉口。

雖然微觀層面人與人存在差異，但作為整體人類卻共同分享一套目標。比如造飛機，每個人都會同意飛機在任何情況下都不應該衝向建築物。

把這類人們都認同的目標和價值觀教給AI，就像父母教育孩子，不僅要教育孩子學習各種技能，這就跟一個好的士兵並不等於一個好人一樣，還必須傳授給他做人的道理，與人為善的道德規範。

使AI的智能化程度越來越高，越來越聰明，並不等於AI的發展越來越好。**衡量的標準不僅看能力，更要看AI是否服務於人類，是否分享一套和人類一樣的價值觀。**而這是科學領域和認知倫理領域一起攜手去做的事情。如果AI能與人類共享同一套價值觀和為人類服務的目標，對AI未來的擔憂將不攻自破。

 

像《終結者》這樣的科幻電影，只是不加區分地展現AI災難性的一面，我不太喜歡。不過一部電影《她》（Her）是例外。《她》非常有趣，裏面的機器人具有自我意識，這是非常有創意的。

我最喜歡的電影當屬斯坦利·庫布里克的《2001太空漫遊》，裏面很清楚地展示出人工智能最大的風險來自AI強大能力的濫用，而這也並不是AI自主意識的驅使，而是人類灌輸給AI的程序所致。

如果人類能解決人機之間技術性的信任問題，如果人類能傳遞給AI一套和人類共同價值觀一致、為人服務的宗旨，AI超強的能力和無限的想象空間，必定會是人類未來的助力。

造就：如何定義生命1.0、2.0、3.0？

**泰格馬克：**我把細菌生命稱為1.0，因為它們沒有自主的學習能力。現在的人類是2.0。生命3.0是一種能夠對自己在軟件和硬件方面進行全面提升的存在階段。或許AI會為我們人類打開生命3.0的大門。

造就：現在有種擔憂，認為AI發展了，人的存在感會被削弱，你怎麼看？

**泰格馬克：**我舉三個例子，收入、就業和生活的意義。

AI是科學技術的結晶，而科技可以誕生財富，AI發展最直接的邏輯結果是社會財富總和的大幅增長。

現實層面確實可能造成收入兩極分化，但**這本質上是社會財富的分配問題，不是科技問題。**應該從社會科學層面去解決。

AI****無疑會替代一些人類工作，尤其是技術含量低的勞動密集型工作。但在社會財富總體增加、保證分配公平的前提下，被替代也可以看作是一種人類的解放。

 

人們也不必擔心因為失去工作、獲得解放而失去生活的意義、存在的價值，我在中國發現很多退休的老年人在含飴弄孫、撫育孫輩的生活中找到了晚年的樂趣和價值。

互動話題：你會想要一個機器人助理嗎？