課堂人臉識別讓孩子變“戲精”？“AI+教育”倫理難題待解_風聞

課堂人臉識別讓孩子變“戲精”？“AI+教育”倫理難題待解

轉自 澎湃網

一陣風起，“AI+教育”概念迅速席捲教育行業的各個場景。但是，日益火熱的人臉識別、分析學生上課狀態的技術，卻讓不少學生、家長和專家深深擔憂。未來網記者梳理公開資料發現，至少5家知名教育企業正在研發或落地使用該項技術。此外，在許多教育峯會、論壇上，“AI+教育”、人臉識別、表情分析等均是行業人士探討的熱詞。然而，一邊是行業的激烈追逐，另一邊卻是來自學生、家長和專家的質疑。“究竟是校園信息化還是校園監獄化”“數據收集是否侵犯學生隱私”“表情識別分析真的靠譜嗎”“孩子們小小年紀就要學演戲”……人們議論紛紛，一些教育學界專家也站出來反對。某在線少兒英語培訓機構通過面部識別技術量化分析孩子的課堂學習表現。**教育企業“趨之若鶩”**早在2017年3月，某教育機構曾公開表示，即將推出基於人臉表情識別技術研發的學習狀態測評系統，對孩子上課的表情進行實時採集，從專注、疑惑、高興、閉眼四個維度分析其聽課狀態，形成注意力曲線學習報告，反饋給老師和家長，試圖讓老師根據學生的情況優化課程和教學內容。該系統將率先引入其旗下雙師課堂，並預計從2017年暑期開始全面引入線上課堂。未來網記者發現，放眼整個教育行業，研究應用人臉識別、表情分析技術的不止這一家。據公開報道，某在線1對1教育機構曾宣佈將與人工智能相接合，構建智能課堂個性化測評提分系統，從而實現智能匹配、智能課堂、智能評測等功能。此外，還宣佈將與國內人工智能企業商湯科技進行戰略合作，在情緒智能識別等領域共同進行技術上的融合與研究:通過在線輔導的情緒識別，瞭解學生是否處於認真上課的狀態，分析出學生對知識點的理解程度。2018年4月，某K12在線教育機構也宣佈推出面部情緒識別與專注度分析系統“好望角”。藉助人臉識別技術，基於人臉表情來分析學生情緒，基於眼球焦點分析學生注意力情況，並將分析結果即時反饋給老師。該機構CEO介紹，這種作用主要體現在兩個方面。一收集了解學員在線學習時的精力集中度、集中時間、對不同類型知識點的反應狀態等重要個性數據，藉助眼球和麪部表情捕捉識別技術實現對學員實時學習狀態的即時收集、傳遞及數據特徵分析;二是作為教學主體的老師可以根據AI所提供的信息來進行個性化教學。他強調，要使課堂透明化，打開教學過程的“黑箱”，讓教學過程更清楚透明。據中國網和環球網報道，某在線少兒英語機構也在加速“AI+教育”佈局，對外宣稱深度融合運用人臉識別技術實現課堂表情數據分析，優化教學方式。即通過大數據的深度挖掘分析以及人臉識別、語音識別等一系列人工智能技術的結合運用：在教學過程中，通過人臉識別、情緒識別等技術抓取用户上課數據，如可以不斷地抓取孩子臉上83個數據點，分析孩子瞳孔和表情的變化，並在後台實時顯示着孩子的專注度、開心值與驚喜值等數據，通過表情分析，計算分析用户的視線關注情況和對課程接受理解程度。其表示，產品期望利用人臉識別技術解讀學生對知識的興趣值、理解值，將學生學習效果數據建模分析並反饋給授課老師，提供個性化教學方案。與其相比，另一家在線少兒英語機構則稍顯不同，選擇建立大數據中心，但核心仍是用數據、語音識別、面部識別等技術試圖來提升教學效果。公開資料顯示，其主要將AI技術應用於計算機聽覺和視覺上。2018年6月，公開報道顯示該機構已經產品化的AI技術主要有人臉檢測，表情識別，人物摳圖等。未來網記者梳理發現，諸多教育企業對外發布的“AI+教育”方案大多都包含人臉識別、表情分析技術，而理由也頗為相似，多為讓老師瞭解學生對課程的喜愛和理解程度，給老師調整授課方案提供輔助依據，期望實現個性化教學，因材施教。期望是美好的，但是真的能實現嗎？**高科技應用or潘多拉魔盒？**一位不願具名的教育企業CEO告訴未來網記者，據他了解，幾乎每家企業都想往“AI+教育”上靠，而人臉識別、表情分析是目前相對比較成熟和簡單的AI技術。還未掌握該項技術的公司大多都正在加緊時間研發、尋找技術合作對象，因為人工智能是所有行業的最新趨勢和最大增量，似乎誰不上路誰就落伍了。“而至於這項技術可不可靠，失誤率有多大，是否侵犯學生隱私，學生如果演戲技術能否能鑑別等問題，目前好像還沒有研究和數據表明，也少有公司願意多花成本去研究。”同時他也表示，也有許多業內人士認為這項技術不靠譜，且不論學生是否會假裝，僅就技術本身而言，萬一出現漏洞，老師做出錯誤預判，對學生的影響將是巨大的。教育是嚴肅的，容不得半分試錯，更何況，學生本身就是千人千面，每個人的表情習慣、面部特徵都不相同，技術能夠識別多少，準確性有多高，這個很難保證。另一方面，即使技術能保證完全準確，教育倫理這關能否過得去？“教育的根本，是培養有健全人格的學生，任何對人格培養可能產生負面作用的教學措施，都應該慎之又慎。”21世紀教育研究院副院長熊丙奇發表評論文章《課堂上用人臉識別“記錄分析”學生表情?我反對!》表示，只關注課堂紀律和學生上課的“投入”程度，這是灌輸教育的思路，而灌輸教育並不利於孩子的身心健康。他還指出，單純依賴人工智能來了解學生上課情緒反饋，也會導致教師教學、互動能力的退化，更重要的是，這也會限制學生的獨立思考。在監控之下，學生很可能養成表演性人格，如果這套系統進一步用於學生評價、教師評價，可以想見，會有教師要求學生表現得十分快樂，以表明自己上課受歡迎。“近年來‘AI+教育’發展得如火如荼，但技術和現實應用之間還有相當大的鴻溝。”北京大學教育學院教育技術系教授汪瓊告訴未來網記者，目前教育行業內的許多企業並不真正懂教育，不懂學生和老師真正的需求，以至於用錯了“AI+教育”，比如應用到人臉識別、情緒分析、智能手環等方面，被人們質疑是監控隱私。汪瓊認為，之所以“AI+教育”會引起這麼大的爭議，是因為這些教育機構和信息技術企業沒有真正弄明白教育的本質。“教育技術或教育科技企業想要進校園或課堂，第一要素是要符合教育規律，幫助學生或老師減輕負擔，而不是增加負擔。”汪瓊説。中國人民大學副教授高永安在接受未來網記者採訪時也表示，“這個系統(人臉識別)如果長期使用,老師會用來給學生施加壓力,學校會用來給老師施加壓力,建議千萬不要常規化。”作為兩個孩子的父親，同時也是中學老師的楊一凡告訴記者，無論是站在家長的角度還是站在老師的角度，都不希望這項技術蔓延開來。“這就像是一個潘多拉的魔盒，一旦被打開，被廣泛應用，我們可以設想一下後果，可能將培養出一羣戲精；可能會造成學生與老師之間的相互不信任；老師可能越來越依賴於技術，喪失獨立思考和自己的判斷，變得越來越懶；學生可能認為隱私被侵犯，青春期的孩子更可能會產生逆反心理。”而對於教育企業提出的“讓老師瞭解學生對課程的喜愛和理解程度，為調整授課方案提供輔助依據”的作用，張一凡表示，教育企業可能過於放大了AI的作用，又過於輕視了老師的能力，就像網友們説的那樣，“老師們根本不需要監控,只需要看一眼就知道學生有沒有認真聽課。”（原題為：《課堂人臉識別讓孩子變“戲精”？“AI+教育”的倫理難題待解》）