美联储正在努力保护AI培训数据免受恶意篡改

2022-09-01 10:18:40 编辑：党力翠来源：

导读情报界的高级研究机构为两个计划奠定了基础，这些计划的重点是克服对抗性机器学习和防止对手对用户使用人工智能工具的方式。情报高级研究计...

情报界的高级研究机构为两个计划奠定了基础，这些计划的重点是克服对抗性机器学习和防止对手对用户使用人工智能工具的方式。

情报高级研究计划活动(IARPA)主任史黛西·迪克森(Stacey Dixon)表示，该机构预计这两个计划都将运行约两年。

“我们欣赏到这样一个事实，人工智能将在我们的生活中发挥更多作用，并且我们将越来越依赖它，因此我们希望能够利用或至少减轻迪克斯在4月16日于弗吉尼亚州阿灵顿举行的情报与安全联盟(INSA)会议上说。

第一个项目称为人工智能特洛伊木马(TrojAI)，每当对手破坏了用于机器学习算法的训练数据时，它就会发出警报。

迪克森说：“例如，他们插入了一些训练数据，说停车标志实际上是一个限速标志。” “当您采用训练中产生的算法并将其用于其他用途时，您如何知道训练数据中存在此类触发器?”

IARPA于去年12月发布了一份广泛的机构公告草案，并在2月底之前收到了私营部门的反馈，意见和建议。

迪克森(Dixon)表示，另一个计划将在今年晚些时候发布公告草案，该计划旨在保护其图像已用作面部识别工具训练数据的人们的身份。

“如何确保没有人能采用您创建的算法，然后返回并重新创建数据库中的面孔?” 迪克森说。“在某些领域，我们还没有进行过多的研究，因此我们将启动计划。”

尽管少数机构已经尝试了一些更简单的AI工具，例如机器人流程自动化，但海关和边境保护局自2016年6月以来一直在进行生物特征面部识别试点计划，该计划将登机航班的图像与护照，签证和其他形式的照片进行比较政府签发的件。

此外，迪克森表示，IARPA已将网络安全预测作为一项“理想”目标，并将该项目描述为使机构和公司对即将到来的网络攻击有所了解，并确定可能是谁在背后。

标签：

免责声明：本文由用户上传，如有侵权请联系删除！