UIUC最新研究:对抗性样本是纸老虎,一出门就不好使!

  1. 云栖社区>
  2. 雷锋网>
  3. 博客>
  4. 正文

UIUC最新研究:对抗性样本是纸老虎,一出门就不好使!

云栖大讲堂 2017-08-01 13:25:00 浏览809
展开阅读全文

雷锋网(公众号:雷锋网) AI科技评论按:众所周知,在图像识别领域,对抗样本是一个非常棘手的问题,研究如何克服它们可以帮助避免潜在的危险。但是,当图像识别算法应用于实际生活场景下时,我们真的需要那么担心对抗样本问题吗?近日,来自UIUC的一篇论文《不用那么担心自动驾驶中物体识别的对抗样本问题》给了我们解答。

论文首先提出如下观点:大多数机器学习算法对于对抗干扰很敏感,只要从图像空间中精心选取的方向增加轻微的干扰,就可能会导致这个图像被训练好的神经网络模型误分类。此外,打印出增加过干扰的图像,然后把它们拍下来,这些拍下的图像仍然会被误分类,这也证实了现实世界中对抗样本的存在。这些失误让人们意识到将机器学习应用于现实场景下时,安全是否有保障。

不过前面那些实验忽略了现实世界中物体的关键性质:相比虚拟场景下对图片单一的识别,在现实世界中,相

网友评论

登录后评论
0/500
评论
云栖大讲堂
+ 关注
所属云栖号: 雷锋网