AI监控学生惹争议!美多所高校被曝用高科技追踪学生行为

  1. 云栖社区>
  2. 云栖号资讯>
  3. 博客>
  4. 正文

AI监控学生惹争议!美多所高校被曝用高科技追踪学生行为

云栖号资讯小编 2020-03-16 13:48:07 浏览664
展开阅读全文

云栖号资讯:【点击查看更多行业资讯
在这里您可以找到不同行业的第一手的上云资讯,还在等什么,快来!

据华尔街日报报道,在美国各地大学校园之中,越来越多的技术开始用于集中监视、追踪和管理学生。

学校运用视频监控摄像头记录学生面部信息,利用 GPS 追踪学生行动,并在社交媒体和电子邮件上监视学生信息。他们通过电子教科书详细记录学生的学习习惯,同时记录学生进入教学楼、出现在教室和图书馆,甚至通过学生 ID 卡来监视学生进入体育馆,宿舍和自助餐厅的频率。

image

相互协作的监视系统有助于保护学生安全,并确保学生顺利毕业。比如帮助学校实时找出正在上课的人,以及可能逃课的学生。此外,大学除了承担提高毕业率的压力,还对学生心理健康负有重大责任。

哥伦比亚大学教授安德鲁・德尔班科(Andrew Delbanco)表示,在大型校园中,有更大能力来监视学生是一件好事。

“尤其对于那些不自信的学生而言,他们可能是家中第一个上大学的人,或来自并不突出的高中,他们容易感到被贴标签或被忽视。让这些学生察觉到他们被人在意是十分必要的。”

但这种保护可能剥夺大学生在承担新职责和新考验时所享有的自由。隐私权倡导者也担心大学拥有过多权力,这些追踪技术都很平常,但以如此集中的方式进行追踪,产生的影响令一些学生感到不安。

“在大多数情况下,人口信息收集分散在许多不同实体之中,” 总部位于加利福尼亚的非盈利组织电子前线基金会(Electronic Frontier Foundation)的高级律师亚当・施瓦茨(Adam Schwart)说, “超市知道顾客想吃什么,书店知道顾客在读什么,警察知道在警局监视摄像机附近出现了什么面孔。同样的,在大学校园里,大学就是超市,书店和警察局。”

以下是美国各地校园中正在使用的一些监视方式:

一、在校园里以及网络上

大学学校招生部门在新生入学前就开始对他们进行追踪。通过衡量申请人在学校网站上所花费的时间,招生人员可以预估学生对学校的兴趣,表现出更大兴趣的学生更有可能被录取。

新生入学时,将获得学生 ID 卡,这些 ID 卡会在收银机以及宿舍、体育馆和自助餐厅的入口留下记录。学校可以追踪这些信息来观察学生的习惯,甚至他们的朋友圈。

威斯康星大学麦迪逊分校信息学院艾伦・鲁贝尔(Alan Rubel)教授称,当学生登录学校的计算机系统时,管理员可以通过网络追踪他们,浏览他们正在浏览的页面。

鲁贝尔教授说,科技公司一直在寻找新的方式来追踪学生。去年,他回顾了一家公司的宣传活动,该公司希望在发生大规模枪击案等紧急情况时使用每名学生的手机相机和麦克风。这些设备能像蜂巢一样,收集信息并反馈给中央政府,然后引导学生远离危险。

如今,高校都可以通过手机找到学生。据了解,已有数十所大学雇用私营公司来积极监控学生在校园中的位置,这些学校想知道学生是否正在上课,在图书馆学习还是在校内闲逛。

image

在加州州立大学萨克拉曼多分校一个系统试点项目中,学校让一年级学生选择是否同意通过手机程序追踪他们的去向,并通过分析标记增加他们辍学风险的个人行为模式,3,800 名一年级学生中有大约 500 名同意参加。

萨克拉曼多州立大学学生成功事业执行主任詹姆斯・德拉格纳(James Dragna)说,“我们将看到校园中的集中场所,学生聚集和停留的地方以及停留的时间段,并且可以使用这些数据来确定我们希望促进的活动类型。” 据了解,德拉格纳的工作是寻找提高学生毕业率的策略。

二、在教室里

新型传感器是另一项快速发展的技术。当学生到教室时,传感器通过连接学生手机上的蓝牙信号来检查出勤情况。

在美国,大约 37 所高校与一家传感器提供商 SpotterEDU 签约。该公司的联合创始人里克・卡特(Rick Carter)曾是一名大学篮球教练,他说这项服务的灵感源于必须确保球员上课,以便他们有资格参加比赛。

密西西比大学每年向 SpotterEDU 支付 10,000 美元,来使用传感器技术追踪 150 名学生运动员的出勤情况。

负责确保运动员毕业的高级体育主任鲍勃・贝克(Bob Baker)称,在其部门开始使用 SpotterEDU 之前,曾需要 25 个人去各个教室检查运动员的出勤情况。现在,该应用会为每个学生生成一个报告,显示他们的上课时间以及错过了什么课。如果学生不在课堂上,则会被记录为缺席,不过该程序不会记录学生的实时位置。

贝克说,这个手机应用会向学生的学术顾问发送一封电子邮件,后者将与学生联系来检查他们的出勤,同时找出他们缺席或迟到的原因。这一技术减少了学生的旷课率,因为学生知道系统将检测到他们的缺席。

三、在体育赛事中

在美国,大约 40 所大学正在使用名为 FanMaker 的应用程序来提高学生参加体育赛事的人数。通过放置在学生座位区中的传感器,不仅可以检测安装了该程序的学生何时参加比赛,还能检测他们停留了多长时间。

对于拥有大型体育项目的大学而言,这样的信息很有价值。如果参加全国电视转播的足球比赛中学生很少,或者学生看到一半就离场,那么这所学校对潜在学生的吸引力就会降低。

作为在此类赛事中来 “凑座” 的回报,这项应用程序还为学生们提供了一些奖励,比如可以在曲棍球比赛中乘坐赞博尼磨冰机,拥有学生中心附近的高级停车位或者参加其他大型赛事的门票。

该应用的联合创始人杰森・科尔(Jason Cole)表示,通过向很少参与比赛的学生提供门票,交易将变得更加轻松,“学校可以通过财务无法做到的方式来改变学生的行为”。

image

此外,佛罗里达州的一所学校还使用 FanMaker 吸引学生参加女子足球比赛,以招募更多优秀的高中生运动员。科尔表示,教练认为如果看台挤满观众,会更吸引新的运动员加入。

四、在智能设备和门户网站上

学生可以通过联网的智能设备和门户网站访问课程并与学校进行交流,这有助于教授实时监控学生的课堂表现。学习管理系统和其他类似工具提供了一种仪表板,教员可以使用它来查看学生在上课前完成的阅读量。如果学生可能无法上课,此类信息将在学期结束之前提醒教师和学术顾问。

维拉诺瓦大学的首席信息官斯蒂芬・富加勒(Stephen Fugale)已任职十七年,直到去年九月离职,他称维拉诺瓦大学使用的学习管理系统能够显示学生是否观看视频,是否在阅读老师分配的章节,以及是否参与在线讨论。

image

这些工具不仅可以考察学生的课程参与度,还能衡量教授与学生之间的互动能力。之后管理员还会使用相同的工具来衡量教师绩效。富加勒说,“如果学生的参与率低,加上学生的课堂反馈,就可以判断教师的工作是好是坏。”

一些观察者担心,使用这样的工具,可能无法及早为陷入困境的学生提供咨询,甚至会在他们有机会解决问题之前,就中断了雄心勃勃的学术道路。

美国国家学术咨询协会的副理事布雷特・麦克法兰(Brett McFarlane)说:“对研究生而言,有各种各样的压力通常是好的。但当一个决策的做出,不是基于学生而是基于学校的利益时,问题就来了。这时就会出现不正常的决策行为。”

五、在社交媒体上

据了解,已有数家公司开发了复杂算法,可以监视学校内部和学校周围的社交媒体信息,以此发现可能对自身或他人构成威胁的学生。

系统一旦识别出符合特定条件的信息,就会向学校发送包含帖子本身的通知,并由学校解释消息。但是由于计算机很难识别人的意图和其他细微差别,因此往往存在许多误报。

根据弗吉尼亚大学安保人员本杰明・雷克斯罗德(Benjamin Rexrode)的说法,弗吉尼亚大学聘用了一家名为 Dataminr 的实时信息监测公司,且每年向该公司支付 19,000 美元。如果有紧急情况并已发表在社交媒体上,Dataminr 会搜寻社交媒体并提醒校园警察。

image

还有一些大学,在使用十分过时的方式来监视某些学生的社交媒体,他们在网上紧盯这些学生的动态并把相关帖子打印出来。

自称高调激进主义者的学生马修・沃尔夫森(Matthew Wolfson)曾就性暴力问题与佐治亚理工学院的学校管理人员发生冲突。2017 年,沃尔夫森就读大学高年级时,正式向学校行政部门提出要求,查看被学校监视的社交媒体的所有记录。

他拿回的三本文件装订夹中,包含了他的政治背景信息,去华盛顿的旅行记录以及他在社交媒体发表的帖子副本。

沃尔夫森说:“当我看到他们收集了这么多信息时,我感到非常惊讶,我很不高兴。”

而学校发言人布莱尔・米克斯(Blair Meeks)称:“佐治亚理工学院支持并鼓励学生融入大学社区,包括在社交媒体以及在校园里亲自分享他们的观点。”

六、在公共场所

如今,校园监控摄像机已十分普及。2001 年 9 月 11 日之后不久,位于印第安纳州西拉斐特的普渡大学在足球场内安装了 12 台监控摄像机。

目前该校校园周围大约有 500 台摄像机。校园警察对其中的 300 台进行监视,它们大多分布在停车场和室外空间,也包括宿舍、教学楼和其他地方。普渡大学的校警称,摄像机内的视频将保存 45 天。

image

罗格斯大学警察局则在整个大学范围内使用约 4,000 个安保摄像机,作为预防犯罪和调查的工具。校警可以策略性地监视摄像机,并根据需要检索素材。

2018 年,当加州大学洛杉矶分校考虑将 AI 增强的面部识别技术应用到校园监控摄像网络时,学生们在市政厅会议中发出抗议。

加州大学洛杉矶分校的高年级学生萨尔瓦多・马丁内斯(Salvador Martinez)曾帮助组织抗议活动,他问道:“人们真的担心这些图像泄露会发生什么。谁来存储它们?谁对它们拥有合法使用权利?”

而在上个月,加州大学洛杉矶分校的行政副校长迈克尔・贝克(Michael Beck)宣布学校放弃应用 AI 增强面部识别的技术。他说:“我们已确定潜在利益十分有限,远远超出我们对校园社区的关注。”

国内的校园监控争议

2019 年 9 月 3 日晚,一张人工智能监控学生课堂一举一动的图片引起了网友们的热议。

这个由国内某 AI 公司推出的 AI 系统,目的是为了利用人脸识别摄像头并通过人脸识别的实时分析,使老师和家长可以随时了解到孩子们在学校里的表现。

而且该系统分析的细致程度可以多达十几条指标结论:趴桌子 2 次,玩手机 2 次,睡觉 1 次,听讲 0 次,阅读 0 次,举手 0 次,笑了 0 次,厌恶表情出现了 10 次……

image

最后 AI 系统还可以得出一个结论:这个孩子有问题。

虽然事后该公司发表声明,表示一切是为了学生安全,但一向被认为不重视隐私保护的国内网友们,这次并不买账,指出这一做法恰恰让学生们 “不安全”。

同样是在不久前,一家被称为国内最强脑机接口技术的公司开发了一款 “监控头环”,声称可以监控小学生的注意力,同样引起了网友们的质疑。

实际上在更早些时候,国内就有不少中小学安装了联网摄像头,家长通过 app 就可以远程看到自己的孩子到底在教室里做些什么。虽然当时也有学生在微博上控诉过类似的事情,但并没有引起多少关注。

技术是把双刃剑, 虽然技术的快速发展是一件好事,但在技术应用过程中,如何应对社会的质疑、技术被使用者的感受甚至反对,是所有技术从业者不应该逃避的挑战。

【云栖号在线课堂】每天都有产品技术专家分享!
课程地址:https://yqh.aliyun.com/zhibo

立即加入社群,与专家面对面,及时了解课程最新动态!
【云栖号在线课堂 社群】https://c.tb.cn/F3.Z8gvnK

原文发布时间:2020-03-15
本文作者:周子嫄
本文来自:“学术头条公众号”,了解相关信息可以关注“学术头条

网友评论

登录后评论
0/500
评论
云栖号资讯小编
+ 关注
所属团队号: 云栖号资讯