学校正在使用人工智能保护学生

在过去的10年中，目睹了180起学校枪战，其中有356人受害。由于该国的枪支管制法律较弱，学校正在转向人工智能（AI）来保护学生。但是据Recode称，最近在9所公立学校中安装的AI系统引起了一些隐私方面的担忧。

　　基于AI的软件称为外观搜索，由一家名为Avigilon的公司开发。该软件能够根据学生的外貌，年龄，性别，衣服和某些面部特征在校园内寻找学生。

　　该软件使学校管理人员可以找到学生，并找到他们可能在校园内有监控摄像头的地方的位置。它使用身体描述，例如年龄，性别和人的头发颜色。通过分析特征，该软件从其他视频素材中搜索匹配项。因此，该工具无法分辨出该人的确切身份，但却可以判断出他们在学校期间可能去过的地方。

外观搜索的工作方式

　　该软件已集成到学校的监视系统中。因此，如果学校安全官员目睹任何可疑的学生活动，则他/她可以单击特定学生的身体以获得该学生的更多信息。该软件将分析学生的物理特性，例如衣服，性别，头发颜色以及Avigilon所说的某些面部特征。在分析了所述特征之后，该软件将随后将该图像与具有与其他相机馈送的类似特征的任何图像进行匹配。

　　隐私问题

　　像往常一样，使用AI软件会带来明显的隐私问题，并且该软件也是如此。许多安全和隐私专家已经质疑Avigilon的外观搜索。

　　“人们在观看时的行为会有所不同，”隐私未来论坛的AI和道德总监Brenda Leong提醒道。“我们是否真的希望年轻学生和高中生以及其他任何人都感觉自己一直在这种环境中工作？”

　　尽管该软件可以提高安全性并减少学校的暴力行为，但其使用方式有所不同。学校管理员正在使用此工具监视学生的欺凌行为，违反行为守则的情况，并协助对学校员工进行调查。

　　该技术并非完全基于面部识别，但是它是可以识别面部某些特征的软件。在AI Now Institute研究机器学习的学者Varoon Mathur认为外观搜索使用“对象检测”。非营利性数字版权非营利组织Logan Koepke称其为“人检测”软件，因为它分析了人的其他特征，而不仅仅是面部表情。

​

　　在大多数学校中使用此软件，学生将永远无法获得隐私。学校管理员报告说，没有关于该软件的侵犯隐私的报告。

　　但是，前Marjory Stoneman Douglas高中（已经安装了该软件的学校）的学生Koerber说：“学校枪击事件可能随时随地发生。我们知道。但是，为了防止这种情况，我们是否需要侵犯每个在特定学校就读的人的隐私？我认为并非如此。”