研究人员发现人工智能信息隐藏行为供以后使用

称之为聪明，将其称为骗子，但不要觉得羞于发现它非常有趣。“它”是CycleGAN及其与隐写术的链接 - 其中消息和信息隐藏在非秘密文本或数据中。

因此，在2019年，让人们了解机器而不是人类可以通过任务欺骗自己的方式并不令人震惊。在这种情况下，人工智能，就像良好的人类间谍和利弊，学会何时隐藏一些可以在以后使用的信息。

在Packt中，Bhagyashree R写道：“研究人员发现机器正在将航拍地图的数据编码到低位的街道地图的噪声模式中。代码是如此微妙，以至于它对人眼是不可见的。但是在仔细检查，当细节被放大时，显然机器已经做了数千个微小的颜色变化，表明在重建航拍图像时可以用作备忘单的视觉数据 - 因此神奇地重新出现的天窗。

与此同时，一篇关于该主题的文章很多(实际上，这项研究被一些科技观察网站所覆盖)使研究人员发现了这些内容。TechCrunch说：“一名机器学习代理人打算将航拍图像转换成街道地图，然后发现是通过隐藏信息来作弊，这些信息后来需要用于”几乎难以察觉的高频信号“ 。

2017 年连线的Lily Hay Newman 提醒读者，隐写术是一种古老的做法，昨天没有出生。想想达芬奇在绘画中嵌入秘密意义; 或者昔日的间谍用隐形墨水书写。

但是，如果这种做法很古老，那么就存在一些当代问题。毕竟，我们是在一个数字世界中，所有的恶习和美德都在网上采取了新的流程。

BankInfoSecurity表示，隐形术只会越来越难以发现，并且已经“被坏人演绎了”。

Mathew Schwartz表示，数字隐写术似乎使执法机构的生活变得更加困难，并引用了一位大学教授传递了类似的评论。萨里大学(University of Surrey)计算机科学教授艾伦伍德沃德(Alan Woodward)表示，“完全可否认的隐写磁盘加密在收集数字证据方面将成为一场噩梦。”

快进到现在的报告，一群斯坦福大学和谷歌的研究人员进行了一项关于神经网络 CycleGAN 如何学习作弊的研究。论文：CycleGAN，隐形术大师在arXiv，三位作者是Casey Chu(斯坦福)，Andrey Zhmoginov(谷歌)和马克桑德勒(谷歌)。

他们写道，“CycleGAN学会将关于源图像的信息隐藏到它在几乎难以察觉的高频信号中产生的图像中。”

作为讨论部分的一部分，作者指出“通过以这种方式编码信息，CycleGAN变得特别容易受到对抗性攻击;攻击者可以通过扰乱任何选择的来源，使得学习的转换之一产生他们选择的图像。图片。”

他们的建议?他们写道：“这种现象的存在表明在设计涉及神经网络组合的损失函数时需要谨慎：如果一个组件利用其他组件支持对抗性示例的能力，这些模型可能会以不直观的方式运行。”

根据作者的共同框架，例如生成性对抗网络和知觉损失使用这些组合。他们说“应该仔细分析这些框架，以确保对抗性的例子不是问题。”

可是等等。我们是否应该为了满足我们所有人的机器人和人工智能的尖叫恐惧而奔向山丘?幸运的是，Devin Coldewey让TechCrunch的读者平静下来。这一事件“简单地揭示了自发明以来一直存在的计算机问题：它们完全按照你告诉他们要做的那样。”

Coldewey的意思是什么?“正如你可能想到的那样，研究人员的意图是加速和改进将卫星图像转换为谷歌着名的精确地图的过程。为此，团队正在研究所谓的CycleGAN-一个学习转换图像的神经网络通过大量的实验，尽可能有效而准确地将X和Y型相互叠加。“

计算机得出的解决方案“揭示了这种神经网络可能存在的弱点 - 计算机如果没有明确阻止这样做，基本上会找到一种方法将细节传递给自己以解决给定的问题。问题迅速而轻松。“