AI 安全在阿里业务中的实践,你了解吗?

  1. 云栖社区>
  2. 阿里技术>
  3. 博客>
  4. 正文

AI 安全在阿里业务中的实践,你了解吗?

技术小能手 2019-03-11 13:38:05 浏览2953
展开阅读全文

image

我们知道,AI 技术将在很长一段时间占据互联网技术时代的风口。但是,有代码的地方就有缺陷,提到技术很难不讲安全,那么AI会不会碰到安全问题呢?

AI安全

试想一下,未来的某个早晨,当你像往常一样打开无人驾驶的汽车车门,报出目的地,然后坐在后座上舒舒服服地浏览推送给你的各种新闻,汽车突然失控,在本该停止的红灯前飞驰而过撞向了正在过马路的行人,那将是怎样一场灾难。

人工智能技术给生活带来便利的同时,其自身的安全问题(AI安全)也不容忽视,AI安全问题可以归纳为内外2方面原因:

  1. 自身缺陷导致的模型出错:例如,模型结构本身存在缺陷、或者训练数据和真实场景数据之间的偏差,都可能导致模型预测错误。
  2. 外部攻击导致的模型风险:例如,来自外部的对抗样本攻击可诱使算法识别出现误判漏判,输出错误结果。

本文,我们会针对第2点的对抗样本技术结合其在阿里巴巴安全领域中

网友评论

登录后评论
0/500
评论
技术小能手
+ 关注
所属云栖号: 阿里技术