GoGuardian AI间谍软件如何在疫情期间占领学校和学生设备-彭博社

Joel Schmieg，早期采用者，Pekin Community High School 校长。

摄影师：Evan Jenkins，彭博商业周刊在 Pekin Community High School，教师们几乎是无所不知的。即使在 Covid-19 时代，教育，甚至是面对面的教育，也是数字化的，工作人员使用一款软件来监视学生在学校发放的笔记本电脑上的一切活动，并阻止他们访问被禁止的网站。学生们心知肚明。“他们几乎知道自己被24/7监视着，” 伊利诺伊州皮奥里亚市外学校的技术主管辛西娅·欣德利特说。

尽管如此，班上的小丑依然存在。欣德利特展示了一个详细的学生在线活动仪表板，显示了违规者的身份。一个年轻人在谷歌上搜索了“性感女孩”和“糖爹约会”，名字旁边出现了黄色的“露骨”标签。其他学生在 YouTube 上搜索农场模拟游戏的视频，吉他教程，还有出于某种原因，关于卡车的童谣。另一个热门搜索是：“如何绕过 Pekin High 使用的跟踪软件 GoGuardian”，GoGuardian 自2014年以来就存在，但疫情使教育工作者有了新的采用理由。这款软件正在迅速成为美国课堂内几乎和标准化测试一样普遍的存在。

北京高科技专家亨德利特。摄影师：彭博商业周刊的埃文·詹金斯尽管美国各地的学校已经全面恢复了面对面的教学，但它们通常会保留在Zoom课程无休止的几个月中掌握的技术。这包括一些学校在Covid之前已经在使用的笔记本电脑和平板电脑，以及一些应用程序，允许学生在疾病或潜在暴露后隔离期间上课，以及允许教育工作者监控他们的软件。

对于孩子们来说，这意味着他们的每一个按键、点击和搜索都被洛杉矶总部的GoGuardian等公司记录和分析。它的竞争对手包括Gaggle.Net、Securly和Bark Technologies。除了监控和网站过滤，GoGuardian还销售用于课堂管理、视频通话和网络安全的软件工具。其最具未来感的产品Beacon是一项人工智能功能，该公司声称可以识别出根据学生的在线行为可能会对自己或他人造成伤害的学生。GoGuardian的首席执行官阿德瓦特·辛德表示，他的公司计划为“课堂作业、家庭作业、考试”提供软件——小学和中学的每个方面。“我们还没有完全意识到技术能做什么。”他设想计算机系统可以根据GoGuardian收集的数据推荐作业并提供基于个性化课程。今年夏天，他筹集了2亿美元，使Liminex Inc.（该公司的官方名称）的估值超过10亿美元。

今年早些时候，GoGuardian与特拉华州和西弗吉尼亚州的州教育部门达成协议，将使这两个州的每所学校都能够使用该软件。纽约市，全国最大的教育区，最近与该公司签订了类似的合同，将GoGuardian的潜在覆盖范围扩大到超过2300万学生。一些家长和隐私团体认为在教室内使用跟踪软件是令人不安的，但许多学校管理者（以及许多家长）似乎认为这些担忧被夸大了。当学生们在TikTok和Instagram上毫不留神地滚动时，他们已经向大公司提供个人数据，学校中的监视已经存在了很久，就像一直有监控的监考员一样。“我一直觉得他们已经被跟踪了，”皮金高中的校长乔尔·施米格说。另一家GoGuardian的客户——成功学院，这家以严格纪律而著称（或臭名昭著）的纽约大型特许学校网络——表示，他们听到家长要求进行更多互联网过滤，而不是更少。

施米格校长。摄影师：彭博商业周刊的埃文·詹金斯即使大多数教育工作者认为学生在使用计算机时应该受到监控，但对计算机对未来学习的意义却远没有那么清晰。多年来，硅谷一直试图在教育领域留下其独特的印记，但大多数尝试都以失败告终。大规模开放在线课程（MOOC）并没有像未来学家和TED演讲者曾描述的那样成为高等教育的改变者。马克·扎克伯格的$1亿努力试图重塑新泽西州纽瓦克的学校系统，却导致了腐败指控，以及有限的改善证据。由扎克伯格和顶级风险投资公司支持，由前谷歌高管创立的教育公司AltSchool，于2017年开始关闭配备3D打印机的教室，并于2019年完全退出运营学校的业务。

这家最新进军教育领域的硅谷公司会有不同的结局吗？GoGuardian和类似的应用程序在疫情期间被迅速引入学校。老师们喜欢这些应用程序，学生们接受它们，甚至在皮奥里亚玩耍——或者说就在皮奥里亚的外面。但实际上没有人知道这些技术到底有多好，甚至是否有效。

2013年，巴拉克·奥巴马总统推出了ConnectEd计划，呼吁学校拥抱互联网时代，并为学生提供廉价的电脑。很快，iPad和Chromebook开始涌入教室，当时在谷歌担任程序员的Shinde意识到了一个机会。他辞去了工作，与两个熟人合作，创建了一个名为Laptop Lookout的浏览器小部件。它本来是帮助学校找到孩子们丢失的设备。他们的推销没有成功，但给了他一个新的想法。

“这些东西都很棒，”Shinde回忆起他与老师交谈时听到的话。“但我很难阻止我的学生在课堂上看Netflix。” 在将互联网引入教室后，学校迫切需要控制它的方法。这三人将他们的推销重新改编成了一个名为GoGuardian的网页审查小部件。与其像许多公司的IT部门一样封锁整个网站以控制员工在工作电脑上的行为，他们开发的系统声称会分析每个网站上的文本和像素，仅过滤出那些被认为不当或不需要的内容。因此，理论上，老师可以让学生访问Reddit和YouTube，而不必担心他们可能会走进分散注意力或更黑暗的领域。“你最终会封锁得更少，”Shinde说。学校将为他们使用的每个GoGuardian产品支付每名学生的费用（现在大约为5美元）。GoGuardian在2015年获得了500万美元的种子轮融资，并在早期取得了令人鼓舞但不算惊人的增长。2018年，私募股权公司Sumeru Equity Partners LP以未披露的价格收购了该公司的大部分股份，Shinde的联合创始人离开，只留下他掌舵。

GoGuardian首席执行官Shinde。图片来源：GoGuardianShinde在教育领域没有背景，在31岁时也不是家长——“还没有”，他说。但他赢得了该领域的粉丝，仅仅是因为比普通的技术男更为随和。许多硅谷高管在向学校销售产品时“以史蒂夫·乔布斯为榜样：‘我最懂’”，奥巴马政府的教育副部长托尼·米勒说。Shinde在2018年遇到了米勒，并将他招募到GoGuardian的董事会。米勒表示，Shinde“对改善教育有着真正的愿景，这与技术本身关系不大，更多的是关于它的好处”。

疫情使Shinde的推销变得紧迫。他通过向任何需要的学校免费提供GoGuardian软件的试用来增加吸引力。老师可以实时看到学生在浏览网页。加利福尼亚中央谷地Turlock联合学区的教育技术协调员马歇尔·拜尔说：“就像老师和学生在一起一样。”如果一个孩子在玩视频游戏而不是学习，老师可以接管屏幕并强制退出游戏。有老师在Reddit上记录学生的谷歌搜索，从平凡的（土豆照片）到令人不安的（“猫粪”和“马精液价格”）。

2020年春季，超过1000所学校签署了免费试用，其中一些学校在学年结束时购买了账户。在某些情况下，新客户使用了联邦的新冠救助资金进行购买。这为GoGuardian带来了急速增长：自2020年3月以来，该公司已经增加了253名员工，总数约为480人，Shinde还收购了另外两家教育科技初创公司。

学校而不是GoGuardian决定在孩子们的电脑上屏蔽什么内容，尽管这对学生来说并不总是清楚。早熟的七年级学生曾经给Shinde发邮件抱怨他们在新泽西的学区屏蔽了《纽约时报》，但却让右翼媒体如《Breitbart News》通过。这些七年级学生责怪Shinde。他安排了一个视频通话来向学生解释GoGuardian并不做过滤决定，并建议他们游说他们的管理者。自那以后他就再也没有收到他们的消息。“从我们的角度来看，”他说，“我们没有权利说什么是对或错的。”

Pekin High收到了大量警报和“孩子们搜索有问题的东西”，Hinderliter说。“有问题的可能是色情内容”

Pekin是一个蓝领城镇。它的公立高中坐落在一个有必胜客和美甲沙龙的购物中心旁边，距离一个声称拥有“世界上最伟大的日晷”的公园仅1英里（约1.6公里）。（它并不是世界上最高的日晷，甚至不是美国最高的，但它确实有关于太阳系的信息牌，附近还有一个人工湖。）

Pekin High三年前注册了GoGuardian，当时向其1800名学生提供了简陋的Acer Chromebook。每年夏天，学校给毕业生一个机会保留他们的电脑（每台25美元），并订购了一批新的500台。在学校工作人员的帮助下，Hinderliter为每台笔记本电脑设置了一些只配备了网络浏览器的图书馆和数学程序，以及一个用于记录在线课程的软件小部件。

在学校图书馆角落的桌子上的电脑上，Hinderliter 已经登录到 GoGuardian。她打开一个标有“Fleet”的仪表板，并拉出一个数字地图，显示每台笔记本电脑的位置。“这台显示它离这里6英里远，”她指着屏幕说道。现在是暑假，所以学生在家里上网。“当我们遇到被盗的 Chromebook 时，这非常有用。”

Hinderliter 和她的团队花了一段时间才弄清楚如何处理涌入的情报。在首次引入 GoGuardian 后，Pekin High 收到了大量警报和“孩子们搜索有问题的东西，”她说。“有问题的可能是色情内容。”她的理念相当自由。一些有问题的谷歌搜索不会导致任何纪律处分，尽管她会叫学生到她的桌子前警告他们不要在学校笔记本电脑上越界。“我们没有时间或员工来监视他们做的每件小事，”她说。

多次犯错的学生被放入她所称的“惩罚盒”中——这是一种虚拟形式的禁闭，让他们无法访问与学业无关的任何内容。Hinderliter 点击了最近因搜索“性感女孩”而被抓的十年级学生的搜索历史，展开了一系列时间戳和其他淘气的词语。Hinderliter 目前选择放任，但会继续关注他，以防他继续寻找成人内容。“整个学期，我们可能会让一个孩子呆在惩罚盒里，”她说。Hinderliter 还说，每年至少要提醒一个学生不要通过学校的电子邮件账户发送情书。

数学老师Riley Faille。摄影师：Evan Jenkins for Bloomberg Businessweek对于老师们来说，GoGuardian的课堂工具是主要吸引力。Pekin的数学老师Riley Faille说，她在上课时会从桌子上的笔记本电脑登录GoGuardian，这样她就可以限制学生在屏幕上打开的内容，只显示她想要的东西——比如计算器或考试。在自习课时，她使用这个软件来监视学生的活动。如果有人偏离了作业，她会在他们的屏幕上打开一个标签，然后输入GoDoYourWork.com。“我喜欢这样的东西，”她说。她认为这是一个温和的方式来提醒他们“哦，我现在不应该这样做。”

每节课结束时，Faille会收到一个报告，其中包含用饼图总结学生在笔记本电脑上做了什么，这有助于她看到他们在她上课时是否错过了什么。但是在学生因病或隔离而在家的日子里，她觉得GoGuardian不太有用。去年，Pekin将学生分成两个小组，每个小组隔天上课。在在家上课的日子里，学生可以自由安排自己的时间表。当学生亲自到校上课时，Faille会屏蔽诸如YouTube之类的网站，但她无法限制学生在家使用YouTube，因为他们可能需要在线视频来完成西班牙语或法语作业。

无论孩子们身在何处，Hinderliter每天都会密切关注GoGuardian。Pekin的高中生中有近一半享受免费或减价午餐，许多人还会做课后工作。在大流行期间，Hinderliter看着学生的笔记本电脑上支付账单和填写失业申请表，知道她的孩子们的Chromebook通常是家里唯一的电脑。

有时她看到了更令人不安的迹象。今年早些时候的一个星期四晚餐时间，亨德利特收到了一条惊慌的警报。一名学生搜索了“如何告诉你的女朋友你是否有自杀倾向”。亨德利特和其他三名管理员立即采取行动，通过短信联系，以便学校官员可以致电学生的家庭并通知辅导员。亨德利特拒绝透露细节，只是说那名学生最终没事。

校长舒米格表示，GoGuardian可以帮助在老师、辅导员或亲人可能注意到之前发现学生心理健康方面的问题。他说他曾经给家长打过电话，发现他们完全不知道自己的孩子正处于困境中。“在过去的一年里，这种情况发生了多次，”他回忆道。

今年，皮金开始使用Beacon，该软件自动化了向管理员发出关于被认为最危险的学生的警报的过程。舒米格说，他在服务的第一个星期收到了超过40个警报。每次警报，软件都会创建一份学生的在线活动报告，这样他和学校工作人员就不必查看他们的搜索历史来弄清楚发生了什么。“我已经喜欢上它了，”他说。

GoGuardian在2018年开始测试Beacon，但像公司提供的大多数服务一样，在2020年3月学校关闭后，该服务迅速走红。去年，包括拉斯维加斯在内的庞大的克拉克县开始使用Beacon，收到了超过7300个警报，对其中近三分之一采取了行动。GoGuardian推广这项新服务作为应对学生在疫情期间面临的心理压力的一种方式。辛德表示，公司“可能有能力照亮这个问题。”

北京高中使用GoGuardian找到数字捣蛋鬼。摄影师：Evan Jenkins for Bloomberg Businessweek但一些家长和隐私团体认为Beacon象征着GoGuardian的更大问题，他们将其描述为不必要的监视，实际上可能会加剧它本应缓解的心理压力。“我们都是青少年，对吧？”新泽西蒙特克莱尔的家长Geoff Shandler说。他所在的学区测试了GoGuardian。“当你在房间里时，你会关上门。我不认为有人喜欢被监视和追踪的想法。”

Shandler是一名图书编辑，在公立学校有三个孩子（8岁、14岁和16岁）。今年二月，他所在学区的总务长在每周给家庭的通知中说蒙特克莱尔在几个教室使用GoGuardian。这个左倾郊区的家长们感到恐慌，引发了当地新闻报道和在线请愿。部分担忧是因为学区表示，无论孩子们是在学校的笔记本电脑上还是在家里的电脑上登录到他们的学校账户，GoGuardian的过滤都会起作用。（GoGuardian表示学校可以选择是否启用允许在家庭电脑上进行过滤的功能，并拒绝透露有多少学校选择这样做。）在伯克利，公立学区去年暂停了GoGuardian的推出，此举引发了类似的抗议。一名十年级学生向学校报纸抱怨说学生“感觉自己没有任何私人空间”。

十月份，三名民主党参议员致信GoGuardian及其另外三家竞争对手，批评它们监视学生并“加剧已经存在的学校纪律上的种族差异”。马萨诸塞州参议员伊丽莎白·沃伦在给《彭博商业周刊》的声明中写道：“我们需要保护我们的学生免受这些侵犯隐私可能带来的长期和有害影响。” GoGuardian在一份声明中表示，公司“非常关心保护学生的安全和隐私权。”

该公司向学校提供手册，声称解释了技术的运作方式。蒙特克莱尔的学校试图解决家长的担忧，但Shandler发现信息令人困惑。他认为GoGuardian的声明，特别是关于识别处于危险中的学生的声明，缺乏支持证据。蒙特克莱尔超级主任乔纳森·庞兹在给家长的一条消息中写道：“了解到，包括我们的邻居在内的其他10,000所学校使用了GoGuardian可能会有所帮助。”

批评者将GoGuardian的技术描述为黑匣子。美国自杀学会前主席乔纳森·辛格表示，他担心学校在没有关于这些工具对心理健康影响的实证证据或对算法运作的理解的情况下部署了类似GoGuardian的工具。他说：“公众必须参与到软件的运作中。”在开发Beacon时，一位GoGuardian发言人表示，公司已经与几位专家，包括辛格进行了交流。尽管辛格承认他向公司员工介绍了他的研究，但他表示这就是他与Beacon的互动的全部内容。“我甚至不知道它是如何运作的。”

学校被有关重新开放、测试和口罩强制令的辩论所淹没，没有太多时间来解决这些问题。当特拉华州准备将GoGuardian引入学校时，协调推出工作的州官员Alyssa Moore表示，教育部门尚未对Beacon的有效性进行严格测试，也可能在向学校提供该系统之前没有机会进行测试。“在我做其他事情之前，我需要让这个系统投入运行，”她说。

当学校设置Beacon时，GoGuardian的机器学习模型会分析学生输入和访问的所有内容。根据Shinde的说法，这些系统可以检测出一个帖子是否具有“一般自杀意念”或者是真正的“高风险警报”。GoGuardian有一个全天候可用的支持团队，代表那些没有员工或者没有意愿自行处理机器警报的学校来筛选警报，这使得公司在处理事件方式上承担了更多责任。当工作人员审查一个警报并认为它很严重时，他们会打电话给学校。Shinde表示，GoGuardian的目标是确保学校意识到问题，但“最终就是这样。我们希望他们采取下一步行动。” GoGuardian拒绝透露团队有多少人，称这个数字是专有的。该公司表示，根据需求调整全天候员工人数。

与许多其他科技公司一样，GoGuardian拒绝披露其算法如何做出决定。Shinde表示，GoGuardian遵守所有关于学生数据和隐私的联邦法律。如果警方介入调查一个警报，GoGuardian允许学校决定分享哪些数据。该公司声称Beacon是有效的。“我们有客户实际上说，‘有些孩子今天还活着，如果没有Beacon这样的工具，他们可能不会活着，’” Shinde说。“所以从证据的角度来看，这是我们真正依靠的。”

一些GoGuardian的竞争对手正在走得更远，销售服务，这些服务会刮取学生的搜索、按键和社交媒体帖子，试图读懂他们的心思，查找愤怒或伤害的情绪。到目前为止，GoGuardian已经避开了这种所谓的情感分析。Shinde表示，让计算机扮演儿童心理学家并不现实。技术还不够可靠地做到这一点。但他补充说，“我们当然愿意有朝一日扩展到这个领域。”