？美国纽约州近日通过法令：2022年之前，禁止在学校使用人脸识别等生物特征识别技术。这也将是美国第一个明确规定学校不得使用该技术的法案。据南方都市报报道，这项法案的提出背后，是去年发生的校园申请争议。2019年5月，纽约州西部城市洛克波特开始在全市校园部署人脸识别设备，主要目的是加强校园安全。“这是让学生、员工和访客更安全的另一项措施，”洛克波特市学区负责人米歇尔布拉德利在接受外媒采访时表示。根据洛克波特市的官方信息，人脸识别系统将识别不允许出现在学校的人员，并在发现异常情况时发出警报。该系统识别出的人包括二级和三级性犯罪者、停职的学校员工、未经法院命令被学校开除的人，以及执法部门提供的信息表明他们构成威胁的人，等等。由于隐私等问题，人脸识别应用在美国一直饱受争议。于是，洛克波特市在纽约州教育厅等部门的督促下多次修改系统设置，最终决定只让系统记录人员比对情况，不收集或存储任何个人信息，诸如学生照片等个人信息也不会添加到系统中。另外，根据当地法律要求，监控录像会在保存60天后从服务器中删除。2020年1月，该系统在洛克波特正式上线运行。不过，仍有部分美国民间团体认为，人脸识别系统的侵入性太强，不应该部署在学校等场所。如果系统向学生虚报，会给学生造成种种伤害，比如影响学生的上课出勤率，对有无端犯罪记录的学生进行拘留等。6月，纽约公民自由联盟提起诉讼，要求洛克波特市停用该系统。起诉得到了一些地方官员的支持。当地时间6月23日，纽约州众议员莫妮卡·华莱士和参议员布赖恩·卡瓦纳发表联合声明，重申对隐私问题的担忧：“我们担心使用这项技术可能会侵犯学生的隐私和其他公民权利，教职员工和访客。这是一种无效的校园安全形式，可能无法安全地存储学生数据。”据悉，现任纽约州参议员两院均已投票支持新禁令。接下来，禁令将交给纽约州州长安德鲁·科莫。如果他签署，禁令将成为法律。除了在纽约的教室安装“天眼”，相关应用此前也曾在中国教室交替使用，引发了一些舆论。它可以洞察课堂上的所有行为。此前，浙江省杭州市某中学迎来了一个神奇的新朋友：智慧课堂行为管理系统。通过该系统，您可以清楚地看到和区分哪些学生在听课，哪些学生缺席。这套系统俗称“天眼”，内置三个摄像头，捕捉学生的面部表情和动作，然后进行一系列大数据分析，最终计算出实时出勤数据、课堂注意力偏差分析，以及课堂行为记录。数据和课堂表达数据，并将结果反馈给校园管理。校方负责人表示，系统会每隔30秒进行一次扫描，针对学生阅读、举手、写字、起身、听课、趴在桌子上等六大行为，结合结合面部表情是高兴、悲伤、愤怒、怨恨，分析学生在课堂上的状态。（其中，只有趴在桌子上是一种消极行为。）如果这种注意力不集中的行为达到一定分数，系统就会向显示屏推送提醒，老师可以根据提醒进行教学管理。据悉，该系统还可以与学校医务室等其他后台数据对接，如果学生身体不适，也可以列入“白名单”。也就是说，在这个系统的“加持”下，通过这个系统提供的数据和结果，学生每天8节课的320分钟，到底有多少分钟，一目了然。被显示。对于系统的落地应用，教育家黄老师说：华而不实。“学生开小差与否，老师在课桌上看得一清二楚。”在他看来，如何将“学习”的主动权牢牢掌握在学生手中，成为教育管理者需要思考的问题。学习一直是一个自主的过程。教育的核心突破，不在于教具的升级。学生在课堂上的认真程度取决于老师的魅力。强行监管只会让很多学生成为“面具人”。与此同时，该系统的应用也遭到了大部分网友的猛烈抨击：暂且抛开道德层面，从技术角度来看，该技术的应用是否真的可行？综上所述，该系统声称可以在课堂上使用。发挥两大功能：1.实时课堂考勤数据。由于课堂上的学生人数较少；此外，教室的范围也不大。目前很多人脸识别技术厂商都能很好的满足这个需求，我就不细说了。2、课堂注意力偏差分析（微表情数据）。在系统运行过程上，安装使用后会进行两类操作：一是人脸检测，通过人脸摄像头检测学生的人脸，完成第一点提到的实时考勤；另一种是根据这些面部数据，进行实时深度分析，通过微表情识别来判断学生是否注意力不集中或心不在焉。人的面部表情是由几块微小的肌肉控制的。与普通人比较夸张或普通的表情不同，微表情持续时间短，动作幅度小。此外，微表情是一个人在试图掩饰内心情绪时产生的无法伪造或压制的自发性表情。与其他生物识别技术的研发相比，微表情识别一直是计算机视觉领域具有挑战性的技术难题，因为它过于细微。该技术的研发门槛较高，技术难点主要体现在三个方面：数据采集，这里的数据必须是动态视频数据；肌肉单位很难标注，每个人对表情的定义不同，很难用“笑”“难过”等标准来判断；微表情识别必须在五分之一秒以内捕捉到情绪变化，需要每秒处理五帧以上，这样数据才能实时。雷锋网（公众号：雷锋网）了解到，这项技术目前应用最多的是金融领域。以信贷行业为例，如今骗贷事件频发。当涉及到大额贷款申请时，金融机构会要求面试官在发放贷款前与用户进行十到十五分钟的问答环节。首先，将检查用户的基本信息。在用户答题过程中，会为用户制作微表情档案，记录用户的答题习惯。随着面试官问题的深入，当用户回答后面的问题时，如果有违反他之前回答习惯的地方（比如眼睛从直视屏幕变成向上或向下看），系统就会做出相应的反应。标记异常。当整个面试流程结束后，系统会根据之前记录的异常次数和级别，对面试官进行综合评价和反馈。如果前后差距过大，说明这个人的情绪和心理从基本问题到提问环节发生了很大的变化。这可以提醒面试官，这个人有一定的风险，应该多做调查，了解情况。降低风险。由此看来，这项技术应用的前提还得配合面试官提问逐渐深入时出现的细微面部表情变化。回到正题，学生在课堂上没有任何语言思维和负担，也就是说所有的面部表情都是在自然状态下产生的，绝对不可能从单一面部表情的变化来判断他的面部表情。精神活动或是否分心（缺乏标准）。宇视智能算法开发部专家杨志坤直言，“我对这套系统的可操作性持怀疑态度。”在他看来，这套系统在实际应用过程中，会存在以下问题：任何AI技术的实施，都必须保证误识率可控。一般来说，普通教室的长度在12米左右。近距离用机器判断每个学生面部的细微变化是极其困难的；任何产品的落地都需要考虑灯光等各种复杂环境的影响，这个系统还需要考虑教室的上午、下午、晚上等环境变化。机器如何保证实时复杂场景下的准确识别？视频监控下的学生是动态的，应用场景是非合作的。在这种情况下，识别的难度会进一步增加。机器如何实现不同角度的准确识别？杨志坤表示，近年来AI技术发展迅速，教育市场确实成为未来AI安防落地的重点发展方向之一。现在各大安防厂商都在密切关注这个市场。但从行业角度来看，相关技术不能盲目实施。人工智能的应用必须保证识别率、误识别率和鲁棒性。只有满足这三点，技术的落地才有意义。目前比较容易实现的场景包括门禁、人脸考勤等，而系统提出的微表情分析，以目前AI的发展水平来看，还有很长的路要走。在他看来，“一款产品的落地，不仅要考虑客户的需求，更要考虑受众的体验。”本文转载自雷锋网。如需转载，请在雷锋网官网申请授权。
