生物识别镜突出了人工智能的缺陷

墨尔本大学的研究人员以世界第一的方式设计了一种人工智能(AI)系统，可以根据他们的脸部照片来检测和展示人们的个性特征和身体吸引力。

该系统称为生物识别镜，用于研究一个人对AI的理解以及他们对有关其独特特征的信息的反应。

当有人站在生物识别镜前时，系统会在几秒钟内检测到一系列面部特征。然后，它将用户的数据与数千张面部照片的数据进行比较，这些面部照片由一组众包响应者进行心理测量评估。

生物识别镜具有14种特征，从性别，年龄和种族到吸引力，古怪和情绪稳定性。一个人站在那里的时间越长，性格就越个性化。

由社会自然用户界面中心(SocialNUI)和墨尔本科学馆的Niels Wouters博士领导的研究项目探讨了该技术对同意，数据存储和算法偏差的关注。

“随着人工智能和大数据的兴起，政府和企业将越来越多地使用闭路电视摄像机和互动广告来检测路过的人的情绪，年龄，性别和人口统计特征，”沃特斯博士说。

“我们的研究旨在挑起关于人工智能界限的挑战性问题。它向用户展示了实施人工智能是多么容易，以不道德或有问题的方式区分可能产生社会后果的人。通过鼓励关于隐私和大规模监视的辩论，我们希望有助于更好地理解人工智能背后的道德规范。“

生物识别镜强调了算法偏差和假设的潜在现实后果。

“虽然收集有关您的购物偏好的个人信息以定制个性化服务似乎无害，但未经同意捕获此信息使得无法知道预测是否基于正确的数据，”Wouters博士说。

“人工智能的使用是一个滑坡，超出了购物和广告领域。想象一下，无法控制算法错误地认为你不适合管理职位，没有资格获得大学学位，或未经你的同意公开分享你的照片。

“你的一个特点就是选择 - 比如，你的责任水平 - 以及生物识别镜子要求你想象这些信息现在正在与你的保险公司或未来的雇主分享，”沃特斯博士说。“该项目透明地展示了对个人的潜在后果。”

Wouters博士说，重要的是要注意生物识别镜不是心理分析的工具。

“生物识别镜只计算公众对面部外观的估计感，”他说。

“它受到其不准确性的限制，因为只有相对较小且众包的数据集才能通知其设计。从生物识别镜中得出关于心理状态的有意义的结论是不合适的。”