然而孩子聽你的嗎?估值$10億的“AI班主任”全天候監控學生上網_風聞

Image by mohamed Hassan from Pixabay 

彭博社的普里亞·阿南德和馬克·伯根發表專題報道，介紹了一個幫助學校老師監視學生的電腦活動的軟件GoGuardian。這個軟件記錄學生在電腦上的點擊、歷史記錄和搜索關鍵詞等，並允許老師鎖定學生的電腦。一些反對者認為這是對隱私的嚴重侵犯，並可能對學生造成未知的心理影響。但許多教師和學校管理員認為軟件為他們提供瞭解決學生問題的方法，並且有效地管理了課堂紀律。

在佩金社區高中（Pekin Community High School），老師們幾乎是無所不知的。在疫情時代，教育，甚至是面對面的教育，都是數字化的，工作人員使用一種軟件來觀察學生在學校發放的筆記本電腦上的一切行為，並讓他們遠離禁止的網站。孩子們也都知道。伊利諾伊州皮奧里亞郊外學校的技術主管辛西婭·辛德利特説：“他們知道自己正在被全天候監控。”

但是，課堂上的搗蛋鬼仍然存在。辛德利特調出了學生在線活動的詳細統計，其中顯示了違規者的身份。一個黃色的“EXPLICIT”（露骨）標籤出現在一個年輕人的名字旁邊，他正在谷歌上輸入“性感女孩”和 “跟糖爹約會”等關鍵詞（糖爹通常指付錢和女孩子約會的年長男人）。

其他學生在YouTube上搜索一個農場模擬遊戲的視頻，吉他教程，以及不知為何，還有一首關於卡車的童謠。另一個熱門搜索語句是：“該如何避開GoGuardian”，這是佩金高中使用的跟蹤軟件的名稱。GoGuardian自2014年以來一直存在，但疫情給給了教育工作者使用它的新理由，這個軟件正在迅速成為美國教室內的常見工具，幾乎與標準化考試一樣普遍。

即使美國各地的學校已經重新開放，進行全面的線下教學，但學校仍然保留了他們在大量Zoom課程中獲得的技術。這包括一些學校在疫情之前已經使用的筆記本電腦和平板電腦，以及允許學生在生病或密切接觸後進行隔離上課時用的應用程序，還有允許教育工作者對他們進行監視的軟件。

對孩子們來説，這意味着他們的每一次按鍵、點擊和搜索都會被記錄下來，並由總部位於洛杉磯的GoGuardian等公司進行分析。它的競爭對手包括Gaggle.Net、Securly和Bark Technologies等。

Photo by Some Tale on Unsplash 

除了監控和網站過濾外，GoGuardian還銷售用於教室管理、視頻通話和網絡安全的軟件工具。其最具未來感的產品Beacon是一款人工智能軟件，公司聲稱可以根據學生的在線行為，識別出可能傷害自己或他人風險的學生。

GoGuardian的首席執行官阿德瓦伊特·辛德説，他的公司計劃為“課堂作業、家庭作業、考試”，及中小學的各個方面提供軟件。他想象着計算機系統可以根據GoGuardian收集的數據推薦作業，並提供個性化的課程：“我們還沒有完全發揮技術的潛力”。今年夏天，他籌集了2億美元，對Liminex Inc. （GoGuardian的正式名稱）的估值超過10億美元。

今年早些時候，GoGuardian與特拉華州和西弗吉尼亞州的教育部門達成了協議，這兩個州的每所學校都可以使用這款軟件。紐約市是美國最大的學區，最近也與它簽署了類似的合同，使GoGuardian的潛在覆蓋面超過了2300萬學生。

一些家長和隱私團體認為在教室內使用跟蹤軟件是令人不安的，但許多學校管理者（以及許多家長）似乎認為這些擔憂被誇大了。當學生們隨手瀏覽TikTok和Instagram時，他們就已經把個人數據交給了大公司，而且學校裏的監視系統已經存在了很長時間，因為走廊間的監視器一直存在。

佩金高中的校長喬爾·施密格説：“我一直覺得他們早就被追蹤了”。GoGuardian的另一個客户成功學院的管理人員説，他們聽到家長要求增加對互聯網內容的過濾，而不是減少它們。

即使大多數教育工作者認為，學生在使用電腦時應該受到監控，但關於電腦對未來學習的意義，卻遠沒有那麼清晰。

多年來，硅谷一直試圖在教育領域留下自己獨特的印記，但大多數嘗試都失敗了。大規模開放式在線課程（Massive open online courses，或稱MOOCs），並沒有像未來主義者和TED演講者曾經描述的那樣，改變高等教育的遊戲規則。

扎克伯格斥資1億美元重塑新澤西州紐瓦克的學校系統，沒有太多改善的跡象，反而導致了腐敗指控。AltSchool是一家由扎克伯格和頂級風險投資公司支持的教育公司，由前谷歌高管創立，於2017年開始關閉它配備了3D打印機的教室，並在2019年完全退出了學校運營業務。

硅谷在教育行業的最新嘗試會有什麼不同的結果嗎？GoGuardian和類似的應用程序在疫情期間被匆匆送入學校。老師們喜歡這些應用程序，學生們也接受它們，它們甚至在最傳統的美國社區都能立足，但實際上沒有人知道這些技術的效果如何，甚至沒有人知道它們是否有效。

GoGuardian的軟件功能介紹，來源：網站截圖

2013年，總統奧巴馬公佈了ConnectEd倡議，呼籲學校擁抱互聯網時代，給學生提供廉價電腦。很快，iPad和Chromebook（基於谷歌瀏覽器的手提電腦系統）開始湧入教室，當時在谷歌擔任程序員的辛德覺察到了商機。他辭去工作，與兩個熟人合作，創建了一個名為Laptop Lookout的瀏覽器小插件。它聲稱可以幫助學校找到孩子們丟失的設備。他們的提案沒有成功，但它給了他一個新的靈感。

辛德回憶説，當他與教師交談時聽到了這句話：“這東西很好，但我的問題是很難阻止孩子們在課堂上看視頻。” 當教室引入互聯網後，學校急於尋找控制它的方法。於是三人將他們的推銷產品改成了一個名為GoGuardian的網絡審查小工具。

他們開發的系統不會封鎖整個網站（當時有許多企業的IT部門採取這種方法來控制員工的工作電腦），而是聲稱能分析每個網站上的文字和像素，只過濾那些被認為是不適當的或不受歡迎的網站。因此，從理論上講，教師還是可以讓孩子們上Reddit和YouTube，但不用擔心他們的注意力被過度分散，或者會去看更黑暗的東西。

辛德説：“這樣最終屏蔽的內容要少得多。”學校將為每個裝上GoGuardian產品的學生機支付約5美元。GoGuardian在2015年籌集了500萬美元的種子資金，並在最初幾年看到了令人鼓舞的增長，儘管並不算引人注目。2018年，私募股權公司Sumeru Equity Partners以未披露的價格收購了公司的大部分股份，辛德的聯合創始人離開，他留下來作為負責人。

辛德沒有教育學的背景，31歲的他也沒有孩子，他説：“我還沒當父親。”但是，他僅僅因為比一般的技術人士更討喜而贏得了這個領域的粉絲。奧巴馬時期的教育部副部長託尼·米勒説，許多向學校銷售產品的硅谷高管 “以喬布斯為榜樣，表現出‘我最懂’的樣子”。辛德在2018年遇到了米勒，並將他招入GoGuardian的董事會。米勒説，辛德“對改善教育有一個真正的願景，與技術無關，更多的是關心技術帶來的好處。”

疫情使辛德加快了產品的推銷。他通過向任何想要使用GoGuardian軟件的學校免費提供試用版來增加吸引力。教師可以實時看到學生的網絡瀏覽情況，加利福尼亞州中央谷地的特洛克聯合學區的教育技術協調員馬歇爾·拜爾説：“這就好像老師在他們身邊一樣”。

GoGuardian在這一學區跟蹤了大約1.4萬名學生。如果一個孩子在玩電子遊戲而不是做作業，老師可以控制屏幕並強制退出遊戲。Reddit上還有一些教師在對學生的搜索項目進行編目，從普通的“土豆照片”到詭異的“貓屎”等等。

2020年春季，有1000多所學校報名參加了免費試用，其中一些學校在學年結束時購買了付費賬户。在某些情況下，新客户使用聯邦的新冠救濟基金進行購買。這助長了GoGuardian的暴漲。自2020年3月以來，公司增加了253名員工，員工總數達到約480人，辛德還收購了另外兩家教育技術初創公司。

學校，而不是GoGuardian，才能決定在孩子們的電腦上禁止什麼，儘管學生們並不總是知道這一點。早熟的七年級學生曾經給辛德發過電子郵件，抱怨他們在新澤西州的學區封鎖了紐約時報，卻讓布萊巴特新聞等右翼媒體有機可乘。這個七年級學生因此指責辛德。

辛德通過視頻電話，向學生們解釋GoGuardian並沒有做出這樣的過濾決定，並建議他們去遊説他們學校的管理員。此後，他再也沒有收到過他們的消息。他説：“從我們的立場來看，我們沒有資格判斷對錯。”

Photo by Bermix Studio on Unsplash 

佩金是一個藍領小鎮。它的公立高中坐落在一個有必勝客和美甲店的沿路商業區旁邊，離一個聲稱有“世界上最好的日晷”的公園一英里遠。（不過它不是世界上最高的日晷，甚至不是全美最高的，但它確實有關於太陽系的信息牌，而且附近還有個環礁湖。）

三年前，佩金高中在向1800名學生髮放了最基礎版的宏基Chromebook電腦後，與GoGuardian簽約。每年夏天，學校都會給畢業生機會選擇是否保留他們的電腦（每台25美元），並訂購500台新電腦。在學校工作人員的幫助下，技術主管辛德利特設置了每枱筆記本電腦，其中只配備了一個網絡瀏覽器，加上了一些圖書館和數學程序，以及一個用於記錄在線課程的小部件。

她的辦公桌位於學校圖書館的一個角落裏，上面放着電腦上，辛德利特已經登錄了GoGuardian。她打開一個標有“艦隊”的界面，拉出一張數字地圖，顯示出每枱筆記本電腦的位置。她指着屏幕説：“這台説它在6英里以外。”現在是暑假，所以這個學生在家裏上網。“當有Chromebook被盜時，這非常有用。”

辛德利特和她的團隊花了一些時間來弄清楚如何處理那麼多湧入的情報。在首次引入GoGuardian後，佩金高中被大量的警報和“孩子們正在搜索有問題的東西”所淹沒，她説：“有問題的意思就是成人內容。”

她的理念是相當自由的。一些有問題的谷歌搜索不會導致任何責罰，儘管她會把學生叫到她的辦公桌前，警告他們不要用學校的筆記本電腦做越界的事情。她説：“我們沒有足夠的時間或人員來監控他們做的每一件小事。”

Photo by visuals on Unsplash 

屢教不改者會被關進她所謂的“懲罰箱”，即一種虛擬形式的禁閉，將他們的電腦鎖定在只能做學校的作業。辛德利特點擊最近因在谷歌上搜索“性感女孩”而被逮到的10年級學生的搜索歷史，顯示出一連串的時間記錄和其他頑皮的詞彙。辛德利特暫時放過了他，但仍一直在關注他，以防他繼續搜索成人內容。

辛德利特説：“一整個學期裏，可能會有一個孩子被關禁閉。”辛德利特説，她每年還必須提醒至少一名學生不要通過學校的電子郵件賬户發送情書。

對於教師來説，GoGuardian的課堂工具是最吸引人的。佩金高中的數學老師萊利·費勒説，她在教學時可以從桌上的筆記本電腦登錄GoGuardian，這樣她就可以限制學生在屏幕上打開的內容，讓他們只做她想做的事，比如説用計算器或考試。在自習課上，她使用這個軟件來觀察學生們在做什麼。如果有人沒有在做家庭作業，她會在他們的屏幕上打開一個標籤，並輸入GoDoYourWork.com（進入這個網站只會出現一行字：去做作業）。她説，“我喜歡這樣的東西。”她認為這是一種温和的方式，提醒他們“哦對，我現在不該做這個”。

在每堂課結束時，費勒老師都會收到一份報告，其中的餅狀圖總結了學生在筆記本電腦上做的事情，這有助於她瞭解學生在她授課時是否錯過了什麼信息。但在學生因生病或被隔離在家的日子裏，她發現GoGuardian的作用不大。

去年，佩金高中把孩子們分成兩組，每組隔天來一次。在遠程學習的日子裏，學生們可以自由設定自己的時間表。當孩子們面對面上課時，費勒封鎖了YouTube等網站，但她不能限制學生在家裏使用YouTube，因為他們可能需要訪問在線視頻來完成西班牙語或法語的作業。

無論孩子們在哪裏，辛德利特每天都會密切關注GoGuardian。佩金的高中生幾乎有一半接受免費或減價的午餐（由政府補貼），許多人會在課後打工。在疫情期間，辛德利特看着電腦上的賬單支付記錄、失業金申請表，她知道這些孩子的Chromebook往往是家裏唯一的電腦。

有時她會看到更多令人不安的情況。在今年早些時候的一個週四的晚餐時間，辛德利特收到了一個恐慌的警報。一名學生在谷歌上搜索“如果你有自殺傾向，該如何告訴你的女朋友”。辛德利特和其他三名管理人員在一個短信聊天羣中迅速採取行動，以便學校能夠給這個學生的家打電話並提醒指導顧問。辛德利特拒絕分享細節，只是説這個學生最終沒事了。

校長施密格説，GoGuardian可以幫助在教師、輔導員或親人他們能夠注意到之前發現學生的心理健康問題。他説，他曾打電話給家長，發現他們完全沒有意識到孩子正陷入困境。他回憶説：“在過去的一年裏，這種情況已經發生了多次。”

Photo by John Schnobrich on Unsplash 

本學年，佩金高中開始使用Beacon，這個軟件會把它認為最危險的學生提報給管理員。施密格校長説，他在使用這項服務的第一週就收到了40多個警報。每發一個警報，軟件都會創建一個學生在線活動報告，所以他和學校工作人員不必通過他們的搜索歷史來查找警報的源頭。他説：“我已經愛上它了。”

GoGuardian早在2018年就開始測試Beacon，但是，就像公司提供的大多數服務一樣，在2020年3月疫情爆發導致學校關閉後，這項服務的受歡迎程度爆發了。去年，包括拉斯維加斯在內的大區克拉克縣開始使用Beacon，發現了7300多條警報，並對其中近三分之一的警報採取了行動。GoGuardian公司將這項新服務作為一種工具，幫助消除學生在疫情期間所面臨的心理壓力。辛德説，公司 “可能會成為指出這些問題的聚光燈。”

但一些家長和隱私團體認為Beacon象徵着GoGuardian程序中最大的問題，他們認為這是種不必要的窺探，實際上反而可能造成它試圖緩解的心理壓力。新澤西州蒙特克萊爾市的一位家長傑夫·尚德勒説，“我們以前也曾經是青少年，不是嗎？”他的學區對GoGuardian進行了測試。“你進房間裏就會把門關上。我不認為有人會喜歡被監視和被跟蹤。”

尚德勒是一名圖書編輯，有三個孩子在公立學校讀書（8歲、14歲和16歲）。今年2月，他所在地區的主管在給各家的週報中説，蒙特克萊爾市正在幾個教室裏試用GoGuardian。這個偏左派的郊區的家長們嚇壞了，這引起了當地的新聞的報道和網上的請願活動。

擔心的部分原因是，這個地區提到GoGuardian的過濾功能將在孩子們登錄學校賬户時發揮作用，無論他們是在學校的筆記本電腦還是在家裏的電腦上（GoGuardian説，學校可以選擇是否開啓在家用電腦上進行過濾的功能，但拒絕透露有多少學校選擇這樣做）。在伯克利，公立學區去年在類似的反對聲中暫停了GoGuardian的推行。一個10年級的學生向校報抱怨説，學生們“感覺沒有自己的空間”。

Photo by Matthew Henry on Unsplash 

10月，三位民主黨參議員致函GoGuardian及其三個競爭對手，責備他們監視學生，並使學校紀律中已經存在的“種族差異更加嚴重”。

馬薩諸塞州參議員伊麗莎白·沃倫在給彭博商業週刊的一份聲明中寫道：“我們需要保護我們的學生免受這些侵犯隱私行為可能產生的長期有害影響。”

GoGuardian在一份聲明中説，公司“非常關心保護學生的安全和他們的隱私”。

公司向學校提供了説明書，旨在解釋技術如何運作。蒙特克萊爾的學校試圖緩解家長的擔憂，但尚德勒發現這些信息令人困惑。他認為GoGuardian的説法，特別是其中關於識別危險學生的説法，缺乏支持性證據。蒙特克萊爾學區負責人喬納森·龐茲在給家長的信息中寫道：“一旦知道了其他1萬所學校，包括我們的鄰居……也使用GoGuardian，可能會有幫助。”

批評者將GoGuardian的技術描述為一個黑盒子。美國自殺學協會（American Association of Suicidology）前主席喬納森·辛格説，他擔心學校正在部署像GoGuardian這樣的工具，卻沒有獲得任何關於它對心理健康影響的證據，或理解它背後的算法。

辛格説：“這些軟件中必須有一些公眾的參與。”在開發Beacon的過程中，GoGuardian的一位發言人説，公司曾與包括辛格在內的幾位專家談過。雖然辛格承認他向公司員工介紹了他的研究，但他説他僅參與到這種程度，“我甚至不知道它是如何工作的”。

學校被關於重新開放和核酸測試以及口罩要求的辯論所淹沒，沒有太多時間來解決這些問題。當特拉華州準備將GoGuardian引入學校時，協調推廣工作的州政府官員阿麗莎·摩爾説，教育部門還沒有嚴格測試Beacon的有效性，在向學校提供這套系統之前可能也沒有機會這樣做。她説：“在做其他事情之前，我需要先讓這個系統運行起來。”

當學校設置Beacon時，GoGuardian的機器學習模型會記錄學生輸入和訪問的所有內容。據辛德説，這些系統可以檢測出一個帖子是否含有“普通的自殺想法”或真正的“高風險警報”。GoGuardian有一個支持團隊，24小時不間斷地向那些沒有員工或沒有意願自己做篩選的學校發出警報，這讓公司對如何處理事件承擔了更多責任。當工作人員審查警報並認為情況嚴重時，他們會給學校打電話。

辛德表示，GoGuardian的目標是確保學校意識到這個問題，但“我們只能做到這一步，我們希望他們會採取下一步行動”。GoGuardian拒絕透露團隊中有多少人，稱這個數字是保密的。公司表示，它會根據需求改變全天候工作人員的數量。

GoGuardian和其他許多科技公司一樣，拒絕透露其算法如何做出判斷的具體細節。辛德説，GoGuardian遵守了所有關於學生數據和隱私的聯邦法律。如果警察被帶去調查警報，GoGuardian允許學校決定分享哪些數據。而且，公司認為Beacon是有效的。

辛德説：“我們的客户説，‘如果沒有Beacon這樣的工具，有些孩子已經不在這個世界上了。因此，從這類證據來看，這才是我們真正賴以生存的立足點。”

GoGuardian的一些競爭對手期望走得更遠，他們銷售的服務是通過收集學生的搜索、點擊和社交媒體的帖子，試圖明白他們的思想，找出憤怒或傷害的感覺。到目前為止，GoGuardian避免了這種所謂的情緒分析。

辛德説，讓計算機扮演兒童心理學家是不現實的。技術還不夠完善，無法可靠地做到這一點。但是，他補充説：“我們當然希望有一天能擴展到這個領域。”

​bloomberg.com/