首页 > 教育 > 正文

人脸识别技术进校园 教育部:加以管理

2019-09-11 11:09:04来源:中国青年报  

最近,一些能够识别人脸的摄像头翻进国内学校的院墙,备受舆论指摘。不管学生是逃课,还是上课打瞌睡、玩手机都逃不过这个人脸识别系统的法

最近,一些能够识别人脸的摄像头翻进国内学校的院墙,备受舆论指摘。不管学生是逃课,还是上课打瞌睡、玩手机都逃不过这个人脸识别系统的“法眼”。这双冷酷之眼唤起了许多人对曾经高中班主任无处不在的恐惧,更掀起了关于教育初衷的大讨论。

同一个世界,同一种担忧。近日,瑞典一所高中使用人脸识别系统记录学生的出勤,学校董事会被认为对学生个人信息的处理不符合欧盟《通用数据保护条例》(GDPR)的规定。 瑞典数据监管机构对当地一所高中开出一张金额为20万瑞典克朗(约合人民币14.7万元)的罚单。

而在美国纽约州北部的洛克波特市,当地一所学校本预计从今年9月开始使用人脸识别系统,用140万美元的国家补助金安装数十个监控摄像头,对潜在罪犯进行监测。这项计划也被美国教育部叫停。

事实上,人脸识别系统早在城市管理中就被广泛应用。警察用它们比对犯罪分子和失踪人员,交警用它们监控交叉路口,以捕捉超速和违反交规的汽车。去年,国内警方依靠人脸识别技术在张学友演唱会上抓捕约60名犯罪嫌疑人或在逃人员,还一度成为人们津津乐道的话题。

但自人脸识别技术诞生之日起,人们对这项技术的担忧从未停止。在每个公园、街道摄像头下甚至许多看不见的地方,你无法预知哪一刻你的表情会被无声狩猎,更不知这些数据存储时长、位置和使用用途,潜在安全风险难以评估。

今年5月,美国旧金山监事会以绝对多数的投票结果,决定禁止旧金山警方使用人脸识别软件来查找罪犯。高新科技公司众多的这座城市,成为美国第一个推出人脸识别禁令的城市。不久后,马萨诸塞州的萨默维尔市议会也通过了禁止在公共场所使用面部识别软件的法令。

当人脸识别技术进入校园,则变成一个更加严峻的问题。

安全本是人脸识别技术在校园应用的最初方向。在美国一些校园枪击事件频发的地方,人脸识别系统已经顺理成章地进入校园。

今年,位于美国底特律市的直布罗陀公立学校,专门斥巨资引入新型数字安保摄像机,可以让管理员和当地警察监控学校入口、走廊和其他区域,以防持枪分子潜入。这个学校的安全委员会负责人自豪地表示:“在采取措施让学生更安全时,我们从来没有遇到任何阻碍。”

该区学校向家长写信称,他们将监视重点放在“性犯罪者,被停学的学生,被停职或休假的员工等”,并承诺视频片段将保留60天,之后将从服务器中删除,“不会记录任何其他地区学生、工作人员或访客的行动”。

但这项承诺并没有让担忧者放心。在美国,任何年龄学生的生物识别数据均受《家庭教育权和隐私权法案》的约束,该法旨在保护学生教育记录的隐私。而洛克波特市区学校的这项应用,让纽约大学教育学院的教育顾问斯蒂芬妮·科伊尔感觉,“这正在向孩子们传递这样的信息,他们是不可预测的潜在罪犯”。她和其他人联合致函纽约州教育部,反对在学校使用这项技术。“学生应该把学校视为一个值得好好学习的地方,他们不应该担心他们的每一个举动都受到监控。”

而另一些反对者认为,洛克波特市区学校尚未发布关于引进的人脸识别系统准确性的任何数据。“当系统出错时,谁在被监控列表中并不重要。”一位法律隐私顾问说,“如果一个进入摄像头的人被错认成威胁者遭到误会,下一步补救措施是什么?”

当是否应该使用人脸识别系统维护校园安全尚在激烈辩论阶段时,用它来保证出勤率和提高听课效率则同引发更大的争议。

在瑞典数据监管机构认为,在日常环境中对学生进行摄像监控等行为侵犯了学生的隐私。因为学校统计学生出勤率完全可以通过其他方式完成,而这些方式都比人脸识别技术对学生权益的侵害要小得多。

更何况,人脸识别技术对情绪的识别尚处于研究阶段。宾夕法尼亚州立大学的一个研究小组进行研究发现,机器在识别人类情感时,人体可能比面部更具参考性。一位研究员表示,“我们发现根据肢体语言解释情绪很复杂,即使人类也存在许多不一致之处。”何况在目前机器有限的识别能力范围内,要做到对学生上课时的表情精确分析,仍为时尚早。

更重要的是,教育本就是一套教学相长的系统工程。人脸识别技术的滥用会让人人自危。

在中国学校使用人脸识别技术的消息曝出两天后,教育部科学技术司司长雷朝滋在接受记者采访时表示,“(对于人脸识别技术应用)我们要加以限制和管理。现在我们希望学校非常慎重地使用这些技术软件。”

其实,尽管人脸识别技术一进校园便成为抵制的对象,并不意味着人们因此因噎废食。使用其基本原则,应该是被监控者知情同意和最大程度的隐私保护。

近日,美国伊利诺斯州和德克萨斯州通过生物特征识别法,要求收集和使用人脸识别的公司和个体必须遵循一套基本的隐私协议。要求包括在收集前得到知情同意、规定数据保护义务和限制保留位置、禁止从生物特征数据中获利等。

在欧洲,据欧盟委员会的高级官员透露,他们正在计划一项关于人脸识别数据使用的立法,这将赋予所有欧洲居民明确的决定权,“知道人脸识别数据何时被使用”。一组欧洲隐私监管机构希望将面部识别数据重新分类为“生物识别数据”,这意味着收集数据时需要对方明确的同意以及其他更严格的隐私保护。

但这依然有很长的路要走。其实更令人害怕的是,在人脸识别技术无孔不入地延伸后,人类只会变成一台台监控摄像头下流水线上的冰冷机器,或者擅长使用肢体和表情掩饰情感的“戏精”。而在这背后,是人们关于让渡安全还是让渡隐私的矛盾。

早在两年前的一部科幻剧《黑镜》中,这种矛盾的结局已可窥见。一位焦虑的母亲时刻害怕孩子受到伤害,从小给孩子身体植入芯片,便可以通过iPad随时监视孩子的动态,还可以主动把孩子眼中任何涉及血腥、暴力和色情的内容都打上马赛克。在故事的最后,母亲的“含辛茹苦”最后只换来了女儿义无反顾的反抗和逃离。(江山)

责任编辑:hnmd003

精彩推荐

最近更新