当前位置: 首页 > 科技观察

美国学区正在用AI预防校园暴力,检测到威胁性语言后通知管理人员,但预诊率只有25%

时间:2023-03-20 10:21:17 科技观察

美国又发生枪击案。5月24日,至少有19名儿童和两名教师在德克萨斯州尤瓦尔迪的罗伯小学发生枪击事件。这是自2012年康涅狄格州纽敦桑迪胡克小学枪击案以来美国死亡人数最多的校园枪击案,也是2022年美国至少发生的第30起幼儿园、中小学校园枪击案。法国媒体报道,枪击案的肇事者可能是一名17岁的少年。当地时间29日,美国总统拜登和第一夫人吉尔·拜登前往得克萨斯州尤瓦尔迪市罗伯小学大规模枪击案现场。他们参观了在小学外设立的纪念地,慰问了遇难者。献花者。每次青少年大规模枪击事件发生后,我们都会忍不住想:这些迹象到底是怎么漏掉的?人工智能正在防止针对个人的校园暴力,早期干预至关重要。学校目前也越来越依赖监控软件来检查他们在网上发布的帖子和文章,因为他们几乎总是记录这些计划。这些软件系统来自Gaggle、LightspeedSystems和Bark等公司,可以监控学校配备的设备和网络上的通信。其中,AI可以检测到一些语言,表明学生有伤害自己或他人的倾向。在GoogleDocs和MicrosoftOffice上写的电子邮件或暴力计划,以及对武器或自杀方法的网络搜索,都会被标记给管理员,然后他们必须决定威胁是否可信以及如何采取行动。“这是一个预警系统,可以提醒我们注意可能发生的事情,因此我们可以帮助他们恢复到相对正常的水平。”昆廷牧羊人说。虽然无法知道有多少校园枪击事件已经被阻止,但用户表示,该技术可以在学生使用学校服务进行交流时发出警告,学校必须准备好在警报出现时采取行动,评估警告并做出回应。警报通常包括被标记的措辞、威胁的类型以及学生聊天和打字的位置。当威胁被认为是可信的时,学校辅导员必须进行家访,例如当学生写下关于自杀念头而不是为了课堂项目时。学校官员说,家长们经常表示惊讶。根据具体情况,学生可能会住院、转介给治疗师进行治疗,或由辅导员进行更密切的监控。本月早些时候,被控在纽约布法罗一家超市杀害10人的少年男子也已被转移到医院。在送他回家之前,医务人员确定他没有危险或精神疾病。维多利亚地区使用Gaggle,每名学生每年的费用约为6美元。然而,谢泼德说,学区不能仅仅依靠技术来防止校园暴力。四年前当他成为学监时,他向社区成员询问了他们的担忧,学生安全是最重要的。成年人表达了对更多人身安全措施的需求,例如校警和通知系统。学生们说他们需要更多的心理健康支持和帮助来培养应对技巧。学区已获得数十亿美元的救济资金来解决心理健康问题和学习障碍,正在努力使用他们可以使用的所有工具来发现和预防暴力。Shepherd说,他所在的地区削减了300个运营、行政和教学职位,以便为学生提供更多的心理健康服务。维多利亚是一个拥有13,500名来自低收入西班牙裔社区的学生的地区。它为每所学校增加了一名社会情感行为专家,以帮助陷入困境的学生和家庭。“我们意识到每个学生来到学校都会有情绪,有时会感到悲伤、愤怒或沮丧。如果我们能及早看到这一点,我们就可以帮助孩子们不让他们的感情劫持他们的情绪,那时候坏事就会发生。”94%的计划是提前分享的去年,美国特勤局分析了67起针对学校的暴力阴谋,这些阴谋避免回避他们,发现在94%的案例中,攻击者是通过电子信息或在线帖子口头分享计划。其他人在尚未共享的期刊、文件、视频或录音中概述了他们的计划。乌瓦尔迪大学的枪手在Facebook上给海外的一名少女发短信说,他计划在枪击前杀死他的祖母和学生。据说他还在社交媒体上发布了枪支和自残的照片和视频。根据联邦调查局关于导致袭击的射手行为的报告,活跃的射手表现出四到五种与周围人相关的行为,例如心理健康的变化、困难的人际交往和暴力讨论。枪手在枪击事件发生前一年还经历了多重问题,从学校纪律处分到家庭虐待。这些射手普遍存在抑郁、焦虑或偏执等心理健康问题。然而,在FBI调查的案件中,只有约25%在袭击发生前得到正式诊断。FBI发现,对于18岁以下的枪手,同学比家人更有可能观察他们的行为。在41%的案件中,这种行为被报告给了执法部门,而且在大多数情况下,关于这种行为的唯一讨论是在枪手和其他枪手之间进行的。据联邦调查局和其他官员称,自杀念头在继续伤害他人的青少年中也很常见。科罗拉多州法尔肯市第49学区的安全和安保主管戴维·沃森说:“那些有杀人倾向的人往往有自杀倾向,这对学区来说是一个潜在威胁。”.沃森说,他的学区在2017-2018学年开始注意到青少年心理健康问题有所增加,此后科罗拉多斯普林斯东北部地区发生了一连串学生自杀事件。Bark为学校提供免费的AI服务来扫描他们的通信。该软件不是独立的应用程序,也不是在学校网络中使用的过滤器;相反,它是在学校的谷歌和微软Office365中实施的。每名学生2美元的年费,学区可以在放学后派检查员审查潜在的严重威胁。但正如Shepherd所说,我们不能完全依赖技术。AI能在多大程度上解决此类问题,还需要我们继续观察和探索。相关报道:https://www.wsj.com/articles/how-do-schools-spot-possible-shooters-before-tragedy-strikes-this-tech-can-help-11653602532