開學季攝像頭潛入課堂，AI商業化後的隱私黑盒能關得住嗎？_風聞

來源：微信公眾號“機器之能”

在 C 端用户質疑其存在的隱私與倫理問題同時，計算機視覺方案落地線下教育場景的真實應用現狀到底如何，教育市場的需求存量有多少，課堂學生狀態監控方案落地後將帶來哪些社會問題？這些問題亟待調查與解答。

撰文 | 寓揚、茜茜

編輯 | 四月

九月伊始，又是一年開學季，和學生一同走進課堂的還有攝像頭和人工智能。

近日，一組課堂上學生行為分析的視頻截圖在微博引發熱議。照片中，攝像頭通過計算機視覺算法獲取兩名學生的課堂表現，並以標籤的形式計算出「聽講、閲讀、舉手，趴桌子、玩手機、睡覺」等動作次數。截圖顯示該技術方案來自曠視科技。

討論區，網友對人工智能「監視」課堂行為所帶來的隱私、倫理價值問題的聲討不斷。有網友表示，「希望有人來解釋一下課堂監控 AI 產品的合法性，尤其是人權和隱私權等權利的保護。」

機器之心向曠視科技求證該方案目前的應用情況，曠視科技方面表示，該圖片為技術場景化概念演示。曠視在教育領域的產品主要專注於保護孩子在校園的安全，同時也將堅持正當性、數據隱私保護等核心原則，接受社會的廣泛建議和監督。

事實上，據機器之心瞭解，目前視覺方案在課堂教育場景的應用已經不是新鮮事，攝像頭生產廠商、教育巨頭、AI 技術公司三大類數十家企業。

在 C 端用户質疑其存在的隱私與倫理問題同時，計算機視覺方案落地線下教育場景的真實應用現狀到底如何，教育市場的需求存量有多少，課堂學生狀態監控方案落地後將帶來哪些社會問題？這些問題亟待調查與解答。

1

智慧課堂是一塊什麼樣的市場？

據機器之心瞭解，曠視關於智慧課堂的解決方案在 2018 年的中國教育裝備展上就已經亮相。當時，結合校園場景的需求，與自身在人臉識別、行為識別、表情識別等方面的 AI 技術，曠視就推出了智慧教育解決方案。

在教學場景，曠視重點打造的是課堂智能考勤系統和教學評價系統。其中，考勤系統基於曠視的考勤攝像機，巡航拍攝教室並自動變焦拍攝人臉，再配合曠視的考勤主機盒子，以人臉識別驗證的方式對上課學生進行身份核實。

而本次備受爭議的則是課堂教學評價系統。曠視的大致做法是，通過其考勤及行為分析攝像機 MegEye-C3V-920 獲取人臉、行為以及表情等數據，通過行為分析服務器對課堂視頻數據進行結構化分析，並反饋學生的行為、表情、專注度等數據，輔助教學評估。

曠視科技告訴機器之心，目前曠視在智慧校園中主要提供門禁系統，比如應用在教室、宿舍中的門禁系統，學生可以刷臉通過，並且這些系統是離線部署在學校，曠視只提供技術支持。

針對網上流出的課堂行為分析圖片，對方稱，「這張圖源於曠視一次小規模線下活動的 Demo 展示照片，目前還停留在技術展示階段，並沒有落地應用。」

不只是曠視，BAT、科大訊飛、好未來以及多家創業公司在近兩年均圍繞課堂場景推出了相關的視覺解決方案，這些玩家大體可以分為三類，分別是：設備廠商（攝像頭生產商），教育公司和 AI 技術公司。

比如，一位該領域的技術方案提供商向機器之心表示，一般教學分析系統需要 800 萬像素左右的攝像頭對教室進行拍攝，典型情況下可以覆蓋一個 40 人的課堂。

系統會先對每個人進行人臉跟蹤，跟蹤每個人的位置，然後把每個 ID 單獨存儲為序列數據，即一系列的圖片。隨後，在學校部署的工作站會使用深度學習模型進行「情感計算 」，對學生們的肢體、頭部、視線等動作完成分析，得到一系列數值。

服務器會把這些值打包發到發到雲端，加載更加抽象的模型進行二次分析，最終輸出整堂課的活躍度和專注度互動度等指標。在機器學習領域，檢測專注度姿態的方式通過行為檢測技術來完成。

2

AI 攝像頭陸續潛入課堂

從應用端來看，儘管課堂監測方案存在一定爭議，但不少學校的智慧課堂應用已經落地，以此進行系統化的學生管理，提升教學質量。

近日，位於江蘇南京的中國藥科大學，在兩間教室「試水」安裝了人臉識別系統，用於日常考勤和課堂紀律管理。學生是否認真聽講，課堂上是否抬頭低頭，抬頭低頭了幾次，抬頭低頭了多長時間，低頭是否在玩手機，是否閉眼打瞌睡，都逃不過人臉識別系統的「法眼」。

報道稱，此舉意在減少學生的逃課行為，嚴肅課堂紀律。當問及在教室安裝人臉識別系統是否侵犯學生隱私時，該負責人稱，學校之前已向公安部門和法務部門諮詢，由於教室屬於公開場所，因此不存在「侵犯隱私」的説法。

浙江省杭州第十一中學也在去年 3 月份引入了一套類似系統，該校率先在高一的兩個班級試運行智慧課堂，通過在教室安裝 3 個組合攝像頭來實現無感刷臉考勤。同時通過攝像頭，還可對課堂上學生的行為進行統計分析，並對異常行為實時反饋。

據新京報緩引杭州第十一中學負責人介紹，傳統意義上的口頭點名和刷卡在實行過程中都有弊端，如口頭點名耗時太長，由於省內教學實行走班制，即每個學生每次上課所在的教室都不同，每位老師每節課所面對的學生也不同，使用刷臉考勤可以簡化考核制度。

至於課堂行為分析，校方稱，系統每隔 30 秒會進行一次掃描，針對學生們閲讀、舉手、書寫、起立、聽講、趴桌子等 6 種行為，再結合面部表情是高興、傷心，還是憤怒、反感，分析出學生們在課堂上的狀態，用以教師的教學反饋。但校方也表示，課堂學生行為統計分析屬附加功能，「現在應該説連 (考評) 參考都談不上」。

上個月，上海中醫藥大學附屬閔行薔薇小學也被爆出正在構建智能課堂行為分析系統，運用如姿態評估、表情識別、語言識別、教師軌跡熱力分析等技術，探索對課堂教學過程的定量分析。

可以看出，智慧課堂的應用主要滿足兩方面需求，一個是全校教學管理，另一個則是教學評估。各家智慧課堂的進展尚屬初級階段，人臉簽到、課堂狀態監測是主要應用領域，至於服務與教學的課堂行為分析，仍處於試水階段。

但一位從業者也稱，「學生課堂行為分析，從技術層面講，已經可以實現商用。」

據前瞻產業研究院數據顯示，2018年我國智慧教室硬件設備市場規模將達到4741.32億元左右，到2023年整個市場規模將達到8827.38億元。 這無疑為設備的AI化提供了廣闊的市場空間。

3

技術背後的隱患有多大

大抵讓網友引發熱議的，是智慧課堂行為分析可能引發的隱私問題，AI 到底是保障學生安全還是「全景敞視監獄」？

一位業內人士結合從業經歷分享道，智慧課堂類的教育方案往往採用本地離線部署，數據是掌握在校方手中的，技術公司只是提供技術，其實並不掌握數據。

在數據分析環節，攝像頭採集到的數據（人臉、動作、表情）會在校內的本地服務器上處理，然後把脱敏後的數據上傳到雲端進一步分析。

換句話説，上傳到雲端的只是結構化的數據，比如情感和行動，給到雲端供進一步分析的「情感」不是學生的照片，而是他/她在某個時間點上存在某種情感的概率；「動作」也不是照片，而是他/她出現某種行為概率（一串數值）。

此外，他也稱學校會跟家長簽署數據授權協議，並對學校工作人員設定不同的使用權限，從而保護學生隱私。

「如果 AI 系統的初衷是幫助老師去管理學生紀律，這實際上是有問題的。」該業內人士稱，「但如果我們以幫助老師提升教學水平、個性化提升每個學生學習水平的理解進行開發，就會獲得很好的結果。」

近期歐盟一起由使用視覺技術引發的隱私處罰值得思考。

在瑞典謝萊夫特奧市，所有教師每年要花約 1.7 萬個小時來對學生進行點名以及追蹤學生活動。為了改善這一狀況，市政府准許個別學校進行試驗，使用人臉識別技術統計學生出勤情況。

然而即使是在這種情況下，一所高中因試驗用人臉識別系統統計學生出勤率，而被瑞典數據監管機構處以 20 萬瑞典克朗（約合 145 萬元人民幣）的罰款。

雖然學校稱，他們事先獲得了學生和家長的同意，但瑞典數據監管機構指出，鑑於數據的持有者及數據的管理者之間，存在明顯的信息不對稱，因此校方和家長的協議不能構成有效的法律依據。

瑞典數據監管機構還稱，雖然學校的某些場合可以被視為「公開場合」，但學生何時進入教室，依舊是個人隱私。

從我國AI落地情況來看，各家智慧課堂的進展尚屬初級階段，人臉簽到、課堂狀態監測是主要應用領域，至於服務與教學的課堂行為分析仍處於試水階段，而這背後的隱患雖然通過技術手段解決了一部分，但對於C端消費者和法律角度而言仍然存在較大的質疑與反對。