面部识别技术的反乌托邦潜力

2019-04-01 11:40:49 编辑：来源：

导读您正在观看：面部识别技术的反乌托邦潜力由美国有线电视新闻网伦敦的Matthew Ponsford撰写第二次你进入伦敦设计双年展的美国馆，你会觉得

您正在观看：面部识别技术的反乌托邦潜力

由美国有线电视新闻网伦敦的Matthew Ponsford撰写

第二次你进入伦敦设计双年展的美国馆，你会觉得你正在被观看。但是在伦敦富丽堂皇的萨默塞特宫(Somerset House)的这个房间花一点时间，它的创造者希望你能够意识到你是 - 而且永远都是 - 在你无法控制的强大系统的眼睛下。

Fenty Beauty，SpaceX Falcon和Sony Aibo入围Beazley Designs of the Year

这个名为“面值”的装置由纽约史密森尼设计博物馆的Cooper Hewitt策划，汇集了令人不安的技术实例，这些技术旨在阅读我们的面孔，了解我们的情感并直观地了解我们的身份。

坐在两把椅子中的任何一把，配备面部检测技术的相机将扫描你的眉毛或鼻子皱纹的最轻微的曲线，以获得情绪的迹象。捕获的所有内容都会返回各种可疑的反馈 - 例如对您年龄的不准确评估或难以理解的“幸福”分数。库珀休伊特(Cooper Hewitt)的董事卡罗琳·鲍曼(Caroline Baumann)认为这很有趣，但“充电”。

她在接受电话采访时说：“我认为将这些数据或事实转化为数据或事实可能令人心碎。但事实就是如此。”

该装置是伦敦设计双年展的40个展馆之一，这是一个国际设计展示，主题为“情感状态”。

“Face Values”的安装视图是美国伦敦设计双年展馆。

“Face Values”的安装视图是美国伦敦设计双年展馆。图片来源：David Levene提供的

“Face Values”获得了该主题最具启发性的诠释奖，是面对网络数字技术入侵我们通常私密的内心世界的一系列创意项目的最新成果。

大胆，挑衅，包容：游戏设计的新面貌

Cooper Hewitt当代设计高级策展人Ellen Lupton表示，该展览反映了公众对设计和技术未来的信任正在崩溃的时期：“这一假设已经发生了变化，这种假设认为技术是一种解放力量。”

位于“Face Values”中心的两把椅子坐在美国设计师Zachary Lieberman和R. Luke DuBois的装置前面。Liberman揭示了面部检测的工作方式，扫描访客以显示该技术如何将一个人的外观变成一组数据点。然后它将从其他访客捕获的类似的身体部位有趣地叠加到你的脸上。结果是一种警察合成照片，在屏幕上模拟，当你扭曲和扭曲你的脸。

在2018年伦敦设计双年展上，一位访客与Cooper Hewitt的“面值”装置中的Zachary Lieberman的表镜进行了互动。照片David Levene。图片来源：David Levene提供的

但DuBois的展示更令人不安。参观者被记录下来，因为他们被要求表现出特定的情感，如喜悦或平静，并通过人工智能计划评价他们的努力。与此同时，他们正在反馈它所收集的信息 - 其中大部分是不准确的 - 关于这个人的年龄，性别和种族。

对于游客而言，令人不安的是坐在那里咧嘴笑着获得最大的“欢乐”收视率，同时被告知你看起来很老。它体现了这些系统如何影响和制服我们。

“人们知道(这种技术)存在，但他们并不知道收集这些信息的政府和营销公司的数量，”鲍曼说，“我们确实希望人们不要意识到技术不是A +。”

R. Luke DuBois在Cooper Hewitt的“Face Values”装置中拍摄了他的作品。图片来源：David Levene提供的

全球斗篷

生物识别专家兼执行董事世界隐私论坛的Pam Dixon预测，我们正面临着面对日常生活的面部识别。

“我最好的猜测是，我们将在五年内看到整个世界隐藏在面部识别技术和其他生物识别技术中，”Dixon在电话采访中说。“这很难错过。”

控制幻觉：为什么世界上充满了不起作用的按钮

面部识别技术的形式已经在Apple的iPhone X上推出，用于解锁屏幕，以及Facebook用户上传的相册，以便在照片中识别您。

但警方和安全部队长期以来一直是该技术的最大支持者，尽管它的使用远非万无一失。今年，伦敦大都会警察局在诺丁山狂欢节结束了对面部识别软件的使用，这是一个庆祝英国 - 加勒比文化和该国最大的街头艺术节。根据独立法律观察人士的说法，在过去的两年里，大都会人员已经扫描了人群中的疑似犯罪分子，但他们一再被误认。

客户在iPhone X上设置面部识别。信用：Bloomberg通过Getty Images

在双年展的轻松环境中，游客对于被误导的震惊做出了最大的反应。在现实世界中，执法的错误读数会带来可怕的后果，面部识别技术在种族和性别平等方面的惨淡记录是其最一致和潜在的灾难性失败。

2月，麻省理工学院和斯坦福大学的研究人员发现，微软，IBM和中国初创公司Megvii制作的面部识别应用程序在确定浅肤色男性的性别方面准确率超过99%。但对肤色较深的女性进行相同的测试，识别错误的比例高达35%。

在该技术的一个最近的测试由美国公民自由联盟(ACLU)亚马逊的面部识别系统，它已授权给执法部门和私营部门的公司，扫描美国国会的所有535名成员反对25000名警方嫌疑犯照片的面孔，并产生了28个错误的匹配。该测试还发现，非裔美国人和拉美裔国会议员被错误地误认为是罪犯。

迫害的历史

“这不是一件全新的事情，”Lupton解释道，他将算法与维多利亚时代联系起来，用于测量从鼻子大小到眼睛之间距离的所有内容，相信它可以解释一个人的性格。

“它涉及现代警务和心理学的起源。第一个面部照片都是关于测量面部和寻找罪犯之间的统计相似性。”

NASA支持火星上3D打印房屋的设计

但现在是探索这些想法的“肥沃时期”，钟声鲍曼。大约在过去两年中，自唐纳德特朗普总统的震惊选举和英国退出欧盟的公投决定以来，由于调查显示剑桥分析公司在利用复杂数据影响投票方面的作用，对技术的信任度大幅下降，操纵情绪和传播虚假信息。

相关视频：中国的总体规划是什么?

有关异常事物如何得到的例子，Lupton指向中国。在新疆地区，在中国最西边，黑匣子系统向数以万计的监控摄像机提供数据，以及从“消费者习惯到银行活动，健康状况以及新疆每个居民的DNA特征”的数据。据德国新闻杂志Der Spiegel报道。

算法为任何不规则的活动搜索这些数据，数千人被捕。类似的系统将在这个拥有14亿人口的州内推出，其形式是一个全能的系统，它将为每个人提供所谓的社会信用评分，该评分将决定从住房到约会应用程序的所有内容。