人工智能研究人员表示 旧金山的面部识别禁令只是触及表面

旧金山的监事会本周采取了重大举措，当时它投票禁止将面部识别软件用于执法目的，但这些措施本身并不能解决人工智能监控所带来的道德问题。

至少这些是来自三位专家的第一印象，专注于人工智能迅速崛起的社会影响。

卡内基梅隆大学(Carnegie Mellon University)哲学教授戴维·丹克斯(David Danks)表示，他没有机会深入研究市政立法的细节，该立法于周二获得通过，并将在下周进行第二次程序性投票。他说“这是一个细节重要的案例。”

“在面部识别匹配的基础上逮捕某人意义上的'执法目的'就是这种极端明显的案例，”Danks在周二晚上参加了西雅图大学人工智能小组讨论会后告诉GeekWire。“但是，如果它监视一个团体的成员，并不是我知道这是这个人，但我知道这是一个我上传了20个面孔的社区的成员?”

面部识别引起了研究人员和隐私权倡导者的大量批评 - 部分原因是当局一直在使用该技术追踪中国西北地区数百万穆斯林，部分原因是有关种族和性别相关软件的报告失败，部分原因是仅仅因为面孔是一个人的公共身份的重要组成部分。

康奈尔大学信息科学家Solon Barocas 说：“实际上还有很多其他东西具有与面部识别相似的特性，同样有害，但不产生相同的内脏反应。”

谷歌研究和机器智能部门的高级科学家玛格丽特·米切尔说，例子可能包括分析一个人的步行步态，或检查一个人的讲话的节奏。

“机器学习将发现一大堆新方法，”巴罗卡斯说。

人工智能和机器学习领域的领先公司表示，他们正试图自我调节他们推出的AI产品。米切尔说：“谷歌一直在努力提高对价值观的透明度。” “我最喜欢的一个，因为它直接适用于我所做的一切，是为了避免加强不公平的偏见。”

与此同时，微软有一个内部道德委员会，负责审查其人工智能软件的拟议应用程序 - 偶尔会拒绝它所认为的不道德的用例。面部识别是一个顶级的问题。

但自我监管是否足够?去年12月，微软总裁布拉德史密斯表示，联邦政府应制定管理面部识别技术的法律，重点关注同意，第三方测试，公平和隐私等问题。

政府应该建立联邦人工智能委员会吗?

“我不太确定那会是什么样子，”丹克斯说。“在我看来，有点像'联邦内燃机委员会'。重要的是如何使用这些技术，而不是孤立的技术。“

在Danks看来，规范AI可能不需要创建一个全新的官僚机构。

“在许多领域，实际上，已经有监管权力来做到这一点，”他说。“缺乏的是监管机构的技术专长，以了解如何行使这些权力来管理某些新技术或某些公司。随着任何新的技术进步，问题在于，我们如何填补这些空白?

一个很好的例子可能是个人医疗数据。Danks说，人工智能工具可能远远超过根据健康保险流通与责任法案或HIPAA提供的联邦隐私保护。

“例如，HIPAA不涵盖推断的属性，”他说。“我们在某些方面对我们的医疗数据有很好的保护。但是，如果我使用AI来解决它而不是FDA批准的测试，它就不再被认为是私人数据了。这是引用中的“猜测”。这是我们需要填补的差距之一。“

然而，该法案未能成为法律。美国公民自由联盟和其他批评者称，该立法包含太多漏洞 - 并且反对微软和其他科技公司在制定该法案时所起的作用。这些差异无法及时解决，以满足今年立法会的最后期限，但赞助该法案的西雅图民主党参议员鲁文卡莱尔表示，支持者将在明年再次尝试。

由西雅图大学阿尔伯斯商业与经济学院主办的阿尔伯斯伦理周继续推出“责任人工智能和物联网”，微软物联网和智能边缘高级主管Avijit Sinha的演讲。活动定于周四下午5:30在Pigott Auditorium举行。

谈到面部识别，西雅图大学的数字艺术与技术俱乐部将于周六中午至下午4点在大学的Redhawk中心的Quadstock音乐节上展示“Emotion Bots” 。学生将能够根据他们的面部表情阅读他们所表达的情感。这是一个俱乐部项目的演示版本，将在校园的不同地点实施，并将于明年开始试用。