学界 | 人工智能的圣杯:关于可解释AI(XAI)的一切

  1. 云栖社区>
  2. 大数据文摘>
  3. 博客>
  4. 正文

学界 | 人工智能的圣杯:关于可解释AI(XAI)的一切

技术小能手 2018-11-15 15:45:18 浏览1260
展开阅读全文

在过去十年间,无数个人工智能解决方案在各大企业得到部署。

智能受众评测系统、智能财务合规系统、智能人员招聘系统,不一而足。

这期间,在企业客户却也始终存在一种怀疑态度:AI系统做出的产品部署是否真的值得被信赖呢?

在我看来,这也是企业人工智能要着力攻克的下一个难题。

错误的客户流失预测会使企业失去一个重要的客户,而错误的金融交易分类会使企业蒙受资金损失。实际上,客户对人工智能模型的精确度不是特别在意,他们更担心的是数据科学家们无法解释的一个问题:“我如何相信它做出的决策?”

647b3b0f96aa7b7cdab7f0d13027b9e263e9a477

AI系统--我如何信任它们?

在大多数支持AI的数字化转型中,客户喜欢让他们的系统拥有AI的能力以实现某些商业价值主张。另一方面,大多数数据科学家则追求使用最流行的算法(如DNN/GAINS/DRN等)。遗憾的是,他们都忘记了在决策制定过程中的问责机制和信任机制中存在着一


网友评论

登录后评论
0/500
评论
技术小能手
+ 关注
所属团队号: 大数据文摘