03 EM算法 - EM算法流程和直观案例

简介:

02 EM算法 - K-means算法回顾、EM概述

利用EM算法处理聚类问题的步骤:

样本数据x={x1,x2,...,xm},联合分布p(x,z;θ),条件分布p(z|x;θ),最大迭代次数J 。

1、 随机初始化模型参数θ的初始值θ0
2、开始EM算法的迭代处理:

__E步:__计算联合分布的条件概率

E步

__M步:__极大化L函数,得到θj+1

M步

如果θj+1已经收敛,则算法结束,输出最终的模型参数θ,否则继续迭代处理。


七、EM算法直观案例

假设现有两个装有不定数量黑球、白球的盒子,随机从盒子中抽取出一个白球的概率分布为p1和p2;为了估计这两个概率,每次选择一个盒子,有放回的连续随机抽取5个球,记录如下:

使用MLE最大似然估计:

如果现在不知道具体的盒子编号,但是同样还是为了求解p1和p2的值,这个时候就相当于多了一个隐藏变量z, z表示的是每次抽取的时候选择的盒子编号,比如z1就表示第一次抽取的时候选择的是盒子1还是盒子2。

随机初始一个概率值:p1=0.1和p2=0.9;然后使用最大似然估计计算每轮操作中从两个盒子中抽取的最大概率。然后计算出来的z值,重新使用极大似然估计法则估计概率值。

使用最大似然概率法则估计z和p的值,但是在这个过程中,只使用一个最有可能的值。如果考虑所有的z值,然后对每一组z值都估计一个概率p,那么这个时候估计出来的概率可能会更好,可以用期望的方式来简化这个操作。

以p1估计为例,计算如下:

计算出p1和p2的概率值后,再次计算从每个盒子中抽取的概率如下:

再次计算概率值如下:

04 EM算法 - EM算法收敛证明

相关文章
|
5月前
|
机器学习/深度学习 算法
20 机器学习 - Lineage逻辑回归算法分类案例
20 机器学习 - Lineage逻辑回归算法分类案例
32 0
|
5月前
|
机器学习/深度学习 算法 Python
07 机器学习 - 朴素贝叶斯分类算法(案例二)
07 机器学习 - 朴素贝叶斯分类算法(案例二)
45 0
|
5月前
|
机器学习/深度学习 数据采集 算法
09 机器学习 - Kmeans聚类算法案例
09 机器学习 - Kmeans聚类算法案例
35 0
|
2天前
|
机器学习/深度学习 算法 数据挖掘
R语言:EM算法和高斯混合模型的实现
R语言:EM算法和高斯混合模型的实现
11 1
|
2天前
|
算法 数据可视化 数据挖掘
R语言社区主题检测算法应用案例
R语言社区主题检测算法应用案例
|
6月前
|
机器学习/深度学习 自然语言处理 算法
KMeans算法全面解析与应用案例
KMeans算法全面解析与应用案例
293 0
|
2月前
|
算法 索引
二分查找算法案例
二分查找算法案例
18 0
|
2月前
|
机器学习/深度学习 自然语言处理 算法
基于TF-IDF+KMeans聚类算法构建中文文本分类模型(附案例实战)
基于TF-IDF+KMeans聚类算法构建中文文本分类模型(附案例实战)
108 1
|
3月前
|
算法 Python
通过案例理解Apriori算法
通过案例理解Apriori算法
27 1
|
4月前
|
算法 安全 Java
Java【算法 04】HTTP的认证方式之DIGEST认证详细流程说明及举例
Java【算法 04】HTTP的认证方式之DIGEST认证详细流程说明及举例
159 0