EM算法的九层境界:​Hinton和Jordan理解的EM算法

  1. 云栖社区>
  2. 新智元>
  3. 博客>
  4. 正文

EM算法的九层境界:​Hinton和Jordan理解的EM算法

技术小能手 2017-12-15 14:32:27 浏览6133
展开阅读全文

前言

为什么说EM算法是他们强强发力的领域呢?

这里我们讨论Hinton和统计大神Jordan的强强发力的领域。当Bayes网络发展到高级阶段, 概率图模型使得计算成为问题,由此开启了Variational Bayes领域。在“变の贝叶斯”里面, 我们解释了研究Variational Bayes,有3拨人。 第一拨人, 把物理的能量搬到了机器学习(参考 “给能力以自由吧!”)。 第二拨人, 就是Hinton,他将VB和EM算法联系了起来,奠定了现在我们看到的VB的基础。 第三拨人,就是Jordan, 他重建了VB的框架ELBO的基础。所以说EM算法扩展的VBEM算法,就是Hinton和Jordan共同发力的部分。

Hinton曾在采访中,不无感慨的说到, 他当时研究VB和EM算法的关系的时候, 主动去请教当时的EM算法的大佬们, 结果那






网友评论

登录后评论
0/500
评论
技术小能手
+ 关注
所属云栖号: 新智元