GoGuardian AI間諜軟件如何在疫情期間佔領學校和學生設備-彭博社

Joel Schmieg，早期採用者，Pekin Community High School 校長。

攝影師：Evan Jenkins，彭博商業週刊在 Pekin Community High School，教師們幾乎是無所不知的。即使在 Covid-19 時代，教育，甚至是面對面的教育，也是數字化的，工作人員使用一款軟件來監視學生在學校發放的筆記本電腦上的一切活動，並阻止他們訪問被禁止的網站。學生們心知肚明。“他們幾乎知道自己被24/7監視着，” 伊利諾伊州皮奧里亞市外學校的技術主管辛西婭·欣德利特説。

儘管如此，班上的小丑依然存在。欣德利特展示了一個詳細的學生在線活動儀表板，顯示了違規者的身份。一個年輕人在谷歌上搜索了“性感女孩”和“糖爹約會”，名字旁邊出現了黃色的“露骨”標籤。其他學生在 YouTube 上搜索農場模擬遊戲的視頻，吉他教程，還有出於某種原因，關於卡車的童謠。另一個熱門搜索是：“如何繞過 Pekin High 使用的跟蹤軟件 GoGuardian”，GoGuardian 自2014年以來就存在，但疫情使教育工作者有了新的採用理由。這款軟件正在迅速成為美國課堂內幾乎和標準化測試一樣普遍的存在。

北京高科技專家亨德利特。攝影師：彭博商業週刊的埃文·詹金斯儘管美國各地的學校已經全面恢復了面對面的教學，但它們通常會保留在Zoom課程無休止的幾個月中掌握的技術。這包括一些學校在Covid之前已經在使用的筆記本電腦和平板電腦，以及一些應用程序，允許學生在疾病或潛在暴露後隔離期間上課，以及允許教育工作者監控他們的軟件。

對於孩子們來説，這意味着他們的每一個按鍵、點擊和搜索都被洛杉磯總部的GoGuardian等公司記錄和分析。它的競爭對手包括Gaggle.Net、Securly和Bark Technologies。除了監控和網站過濾，GoGuardian還銷售用於課堂管理、視頻通話和網絡安全的軟件工具。其最具未來感的產品Beacon是一項人工智能功能，該公司聲稱可以識別出根據學生的在線行為可能會對自己或他人造成傷害的學生。GoGuardian的首席執行官阿德瓦特·辛德表示，他的公司計劃為“課堂作業、家庭作業、考試”提供軟件——小學和中學的每個方面。“我們還沒有完全意識到技術能做什麼。”他設想計算機系統可以根據GoGuardian收集的數據推薦作業並提供基於個性化課程。今年夏天，他籌集了2億美元，使Liminex Inc.（該公司的官方名稱）的估值超過10億美元。

今年早些時候，GoGuardian與特拉華州和西弗吉尼亞州的州教育部門達成協議，將使這兩個州的每所學校都能夠使用該軟件。紐約市，全國最大的教育區，最近與該公司簽訂了類似的合同，將GoGuardian的潛在覆蓋範圍擴大到超過2300萬學生。一些家長和隱私團體認為在教室內使用跟蹤軟件是令人不安的，但許多學校管理者（以及許多家長）似乎認為這些擔憂被誇大了。當學生們在TikTok和Instagram上毫不留神地滾動時，他們已經向大公司提供個人數據，學校中的監視已經存在了很久，就像一直有監控的監考員一樣。“我一直覺得他們已經被跟蹤了，”皮金高中的校長喬爾·施米格説。另一家GoGuardian的客户——成功學院，這家以嚴格紀律而著稱（或臭名昭著）的紐約大型特許學校網絡——表示，他們聽到家長要求進行更多互聯網過濾，而不是更少。

施米格校長。攝影師：彭博商業週刊的埃文·詹金斯即使大多數教育工作者認為學生在使用計算機時應該受到監控，但對計算機對未來學習的意義卻遠沒有那麼清晰。多年來，硅谷一直試圖在教育領域留下其獨特的印記，但大多數嘗試都以失敗告終。大規模開放在線課程（MOOC）並沒有像未來學家和TED演講者曾描述的那樣成為高等教育的改變者。馬克·扎克伯格的$1億努力試圖重塑新澤西州紐瓦克的學校系統，卻導致了腐敗指控，以及有限的改善證據。由扎克伯格和頂級風險投資公司支持，由前谷歌高管創立的教育公司AltSchool，於2017年開始關閉配備3D打印機的教室，並於2019年完全退出運營學校的業務。

這家最新進軍教育領域的硅谷公司會有不同的結局嗎？GoGuardian和類似的應用程序在疫情期間被迅速引入學校。老師們喜歡這些應用程序，學生們接受它們，甚至在皮奧里亞玩耍——或者説就在皮奧里亞的外面。但實際上沒有人知道這些技術到底有多好，甚至是否有效。

2013年，巴拉克·奧巴馬總統推出了ConnectEd計劃，呼籲學校擁抱互聯網時代，併為學生提供廉價的電腦。很快，iPad和Chromebook開始湧入教室，當時在谷歌擔任程序員的Shinde意識到了一個機會。他辭去了工作，與兩個熟人合作，創建了一個名為Laptop Lookout的瀏覽器小部件。它本來是幫助學校找到孩子們丟失的設備。他們的推銷沒有成功，但給了他一個新的想法。

“這些東西都很棒，”Shinde回憶起他與老師交談時聽到的話。“但我很難阻止我的學生在課堂上看Netflix。” 在將互聯網引入教室後，學校迫切需要控制它的方法。這三人將他們的推銷重新改編成了一個名為GoGuardian的網頁審查小部件。與其像許多公司的IT部門一樣封鎖整個網站以控制員工在工作電腦上的行為，他們開發的系統聲稱會分析每個網站上的文本和像素，僅過濾出那些被認為不當或不需要的內容。因此，理論上，老師可以讓學生訪問Reddit和YouTube，而不必擔心他們可能會走進分散注意力或更黑暗的領域。“你最終會封鎖得更少，”Shinde説。學校將為他們使用的每個GoGuardian產品支付每名學生的費用（現在大約為5美元）。GoGuardian在2015年獲得了500萬美元的種子輪融資，並在早期取得了令人鼓舞但不算驚人的增長。2018年，私募股權公司Sumeru Equity Partners LP以未披露的價格收購了該公司的大部分股份，Shinde的聯合創始人離開，只留下他掌舵。

GoGuardian首席執行官Shinde。圖片來源：GoGuardianShinde在教育領域沒有背景，在31歲時也不是家長——“還沒有”，他説。但他贏得了該領域的粉絲，僅僅是因為比普通的技術男更為隨和。許多硅谷高管在向學校銷售產品時“以史蒂夫·喬布斯為榜樣：‘我最懂’”，奧巴馬政府的教育副部長託尼·米勒説。Shinde在2018年遇到了米勒，並將他招募到GoGuardian的董事會。米勒表示，Shinde“對改善教育有着真正的願景，這與技術本身關係不大，更多的是關於它的好處”。

疫情使Shinde的推銷變得緊迫。他通過向任何需要的學校免費提供GoGuardian軟件的試用來增加吸引力。老師可以實時看到學生在瀏覽網頁。加利福尼亞中央谷地Turlock聯合學區的教育技術協調員馬歇爾·拜爾説：“就像老師和學生在一起一樣。”如果一個孩子在玩視頻遊戲而不是學習，老師可以接管屏幕並強制退出遊戲。有老師在Reddit上記錄學生的谷歌搜索，從平凡的（土豆照片）到令人不安的（“貓糞”和“馬精液價格”）。

2020年春季，超過1000所學校簽署了免費試用，其中一些學校在學年結束時購買了賬户。在某些情況下，新客户使用了聯邦的新冠救助資金進行購買。這為GoGuardian帶來了急速增長：自2020年3月以來，該公司已經增加了253名員工，總數約為480人，Shinde還收購了另外兩家教育科技初創公司。

學校而不是GoGuardian決定在孩子們的電腦上屏蔽什麼內容，儘管這對學生來説並不總是清楚。早熟的七年級學生曾經給Shinde發郵件抱怨他們在新澤西的學區屏蔽了《紐約時報》，但卻讓右翼媒體如《Breitbart News》通過。這些七年級學生責怪Shinde。他安排了一個視頻通話來向學生解釋GoGuardian並不做過濾決定，並建議他們遊説他們的管理者。自那以後他就再也沒有收到他們的消息。“從我們的角度來看，”他説，“我們沒有權利説什麼是對或錯的。”

Pekin High收到了大量警報和“孩子們搜索有問題的東西”，Hinderliter説。“有問題的可能是色情內容”

Pekin是一個藍領城鎮。它的公立高中坐落在一個有必勝客和美甲沙龍的購物中心旁邊，距離一個聲稱擁有“世界上最偉大的日晷”的公園僅1英里（約1.6公里）。（它並不是世界上最高的日晷，甚至不是美國最高的，但它確實有關於太陽系的信息牌，附近還有一個人工湖。）

Pekin High三年前註冊了GoGuardian，當時向其1800名學生提供了簡陋的Acer Chromebook。每年夏天，學校給畢業生一個機會保留他們的電腦（每台25美元），並訂購了一批新的500台。在學校工作人員的幫助下，Hinderliter為每枱筆記本電腦設置了一些只配備了網絡瀏覽器的圖書館和數學程序，以及一個用於記錄在線課程的軟件小部件。

在學校圖書館角落的桌子上的電腦上，Hinderliter 已經登錄到 GoGuardian。她打開一個標有“Fleet”的儀表板，並拉出一個數字地圖，顯示每枱筆記本電腦的位置。“這台顯示它離這裏6英里遠，”她指着屏幕説道。現在是暑假，所以學生在家裏上網。“當我們遇到被盜的 Chromebook 時，這非常有用。”

Hinderliter 和她的團隊花了一段時間才弄清楚如何處理湧入的情報。在首次引入 GoGuardian 後，Pekin High 收到了大量警報和“孩子們搜索有問題的東西，”她説。“有問題的可能是色情內容。”她的理念相當自由。一些有問題的谷歌搜索不會導致任何紀律處分，儘管她會叫學生到她的桌子前警告他們不要在學校筆記本電腦上越界。“我們沒有時間或員工來監視他們做的每件小事，”她説。

多次犯錯的學生被放入她所稱的“懲罰盒”中——這是一種虛擬形式的禁閉，讓他們無法訪問與學業無關的任何內容。Hinderliter 點擊了最近因搜索“性感女孩”而被抓的十年級學生的搜索歷史，展開了一系列時間戳和其他淘氣的詞語。Hinderliter 目前選擇放任，但會繼續關注他，以防他繼續尋找成人內容。“整個學期，我們可能會讓一個孩子呆在懲罰盒裏，”她説。Hinderliter 還説，每年至少要提醒一個學生不要通過學校的電子郵件賬户發送情書。

數學老師Riley Faille。攝影師：Evan Jenkins for Bloomberg Businessweek對於老師們來説，GoGuardian的課堂工具是主要吸引力。Pekin的數學老師Riley Faille説，她在上課時會從桌子上的筆記本電腦登錄GoGuardian，這樣她就可以限制學生在屏幕上打開的內容，只顯示她想要的東西——比如計算器或考試。在自習課時，她使用這個軟件來監視學生的活動。如果有人偏離了作業，她會在他們的屏幕上打開一個標籤，然後輸入GoDoYourWork.com。“我喜歡這樣的東西，”她説。她認為這是一個温和的方式來提醒他們“哦，我現在不應該這樣做。”

每節課結束時，Faille會收到一個報告，其中包含用餅圖總結學生在筆記本電腦上做了什麼，這有助於她看到他們在她上課時是否錯過了什麼。但是在學生因病或隔離而在家的日子裏，她覺得GoGuardian不太有用。去年，Pekin將學生分成兩個小組，每個小組隔天上課。在在家上課的日子裏，學生可以自由安排自己的時間表。當學生親自到校上課時，Faille會屏蔽諸如YouTube之類的網站，但她無法限制學生在家使用YouTube，因為他們可能需要在線視頻來完成西班牙語或法語作業。

無論孩子們身在何處，Hinderliter每天都會密切關注GoGuardian。Pekin的高中生中有近一半享受免費或減價午餐，許多人還會做課後工作。在大流行期間，Hinderliter看着學生的筆記本電腦上支付賬單和填寫失業申請表，知道她的孩子們的Chromebook通常是家裏唯一的電腦。

有時她看到了更令人不安的跡象。今年早些時候的一個星期四晚餐時間，亨德利特收到了一條驚慌的警報。一名學生搜索了“如何告訴你的女朋友你是否有自殺傾向”。亨德利特和其他三名管理員立即採取行動，通過短信聯繫，以便學校官員可以致電學生的家庭並通知輔導員。亨德利特拒絕透露細節，只是説那名學生最終沒事。

校長舒米格表示，GoGuardian可以幫助在老師、輔導員或親人可能注意到之前發現學生心理健康方面的問題。他説他曾經給家長打過電話，發現他們完全不知道自己的孩子正處於困境中。“在過去的一年裏，這種情況發生了多次，”他回憶道。

今年，皮金開始使用Beacon，該軟件自動化了向管理員發出關於被認為最危險的學生的警報的過程。舒米格説，他在服務的第一個星期收到了超過40個警報。每次警報，軟件都會創建一份學生的在線活動報告，這樣他和學校工作人員就不必查看他們的搜索歷史來弄清楚發生了什麼。“我已經喜歡上它了，”他説。

GoGuardian在2018年開始測試Beacon，但像公司提供的大多數服務一樣，在2020年3月學校關閉後，該服務迅速走紅。去年，包括拉斯維加斯在內的龐大的克拉克縣開始使用Beacon，收到了超過7300個警報，對其中近三分之一採取了行動。GoGuardian推廣這項新服務作為應對學生在疫情期間面臨的心理壓力的一種方式。辛德表示，公司“可能有能力照亮這個問題。”

北京高中使用GoGuardian找到數字搗蛋鬼。攝影師：Evan Jenkins for Bloomberg Businessweek但一些家長和隱私團體認為Beacon象徵着GoGuardian的更大問題，他們將其描述為不必要的監視，實際上可能會加劇它本應緩解的心理壓力。“我們都是青少年，對吧？”新澤西蒙特克萊爾的家長Geoff Shandler説。他所在的學區測試了GoGuardian。“當你在房間裏時，你會關上門。我不認為有人喜歡被監視和追蹤的想法。”

Shandler是一名圖書編輯，在公立學校有三個孩子（8歲、14歲和16歲）。今年二月，他所在學區的總務長在每週給家庭的通知中説蒙特克萊爾在幾個教室使用GoGuardian。這個左傾郊區的家長們感到恐慌，引發了當地新聞報道和在線請願。部分擔憂是因為學區表示，無論孩子們是在學校的筆記本電腦上還是在家裏的電腦上登錄到他們的學校賬户，GoGuardian的過濾都會起作用。（GoGuardian表示學校可以選擇是否啓用允許在家庭電腦上進行過濾的功能，並拒絕透露有多少學校選擇這樣做。）在伯克利，公立學區去年暫停了GoGuardian的推出，此舉引發了類似的抗議。一名十年級學生向學校報紙抱怨説學生“感覺自己沒有任何私人空間”。

十月份，三名民主黨參議員致信GoGuardian及其另外三家競爭對手，批評它們監視學生並“加劇已經存在的學校紀律上的種族差異”。馬薩諸塞州參議員伊麗莎白·沃倫在給《彭博商業週刊》的聲明中寫道：“我們需要保護我們的學生免受這些侵犯隱私可能帶來的長期和有害影響。” GoGuardian在一份聲明中表示，公司“非常關心保護學生的安全和隱私權。”

該公司向學校提供手冊，聲稱解釋了技術的運作方式。蒙特克萊爾的學校試圖解決家長的擔憂，但Shandler發現信息令人困惑。他認為GoGuardian的聲明，特別是關於識別處於危險中的學生的聲明，缺乏支持證據。蒙特克萊爾超級主任喬納森·龐茲在給家長的一條消息中寫道：“瞭解到，包括我們的鄰居在內的其他10,000所學校使用了GoGuardian可能會有所幫助。”

批評者將GoGuardian的技術描述為黑匣子。美國自殺學會前主席喬納森·辛格表示，他擔心學校在沒有關於這些工具對心理健康影響的實證證據或對算法運作的理解的情況下部署了類似GoGuardian的工具。他説：“公眾必須參與到軟件的運作中。”在開發Beacon時，一位GoGuardian發言人表示，公司已經與幾位專家，包括辛格進行了交流。儘管辛格承認他向公司員工介紹了他的研究，但他表示這就是他與Beacon的互動的全部內容。“我甚至不知道它是如何運作的。”

學校被有關重新開放、測試和口罩強制令的辯論所淹沒，沒有太多時間來解決這些問題。當特拉華州準備將GoGuardian引入學校時，協調推出工作的州官員Alyssa Moore表示，教育部門尚未對Beacon的有效性進行嚴格測試，也可能在向學校提供該系統之前沒有機會進行測試。“在我做其他事情之前，我需要讓這個系統投入運行，”她説。

當學校設置Beacon時，GoGuardian的機器學習模型會分析學生輸入和訪問的所有內容。根據Shinde的説法，這些系統可以檢測出一個帖子是否具有“一般自殺意念”或者是真正的“高風險警報”。GoGuardian有一個全天候可用的支持團隊，代表那些沒有員工或者沒有意願自行處理機器警報的學校來篩選警報，這使得公司在處理事件方式上承擔了更多責任。當工作人員審查一個警報並認為它很嚴重時，他們會打電話給學校。Shinde表示，GoGuardian的目標是確保學校意識到問題，但“最終就是這樣。我們希望他們採取下一步行動。” GoGuardian拒絕透露團隊有多少人，稱這個數字是專有的。該公司表示，根據需求調整全天候員工人數。

與許多其他科技公司一樣，GoGuardian拒絕披露其算法如何做出決定。Shinde表示，GoGuardian遵守所有關於學生數據和隱私的聯邦法律。如果警方介入調查一個警報，GoGuardian允許學校決定分享哪些數據。該公司聲稱Beacon是有效的。“我們有客户實際上説，‘有些孩子今天還活着，如果沒有Beacon這樣的工具，他們可能不會活着，’” Shinde説。“所以從證據的角度來看，這是我們真正依靠的。”

一些GoGuardian的競爭對手正在走得更遠，銷售服務，這些服務會刮取學生的搜索、按鍵和社交媒體帖子，試圖讀懂他們的心思，查找憤怒或傷害的情緒。到目前為止，GoGuardian已經避開了這種所謂的情感分析。Shinde表示，讓計算機扮演兒童心理學家並不現實。技術還不夠可靠地做到這一點。但他補充説，“我們當然願意有朝一日擴展到這個領域。”