《LDA漫游指南》——2.7 总结

简介:

本节书摘来异步社区《LDA漫游指南》一书中的第2章,第2.7节,作者: 马晨,更多章节内容可以访问云栖社区“异步社区”公众号查看

2.7 总结

1. 贝叶斯学派采用给参数赋予先验分布,并使得先验与后验共轭,通过求后验均值来得到参数的估计,频率学派通过某个优化准则,比如最大化似然函数来求得参数的估计;不管是哪个学派思想,都要用到似然函数。注意到似然函数有所不同,这点在极大似然估计(MLE)和最大后验概率估计(MAP)体现得尤其明显。

2.当拥有无限数据量时(Beta分布式中的s和f都趋向于无穷,Dirichlet分布式中的m趋向于无穷),贝叶斯方法和频率学派方法所得到的参数估计是一致的。当在有限的数据量下,贝叶斯学派的参数后验均值的大小介于先验均值和频率学派方法得到参数估计。比如在抛硬币实验中,当数据量有限时,先验均值为0.5,后验均值将会比先验大,比频率学派得到参数估计小。

3. 随着观测数据的增多,后验分布曲线越来越陡峭(越来越集中),即方差越来越小(后验方差总比前验方差小)。当数据量无穷大时,方差趋近于0,即随着数据越来越多,后验的不确定性在减小。

相关文章
|
2月前
|
传感器 编解码 自动驾驶
即插即用 | Lite-FPN让CenterNet系列再涨4个点(3D检测也适用)
即插即用 | Lite-FPN让CenterNet系列再涨4个点(3D检测也适用)
63 0
|
5月前
|
数据采集
|
8月前
训练自己的图像分类模型部署在手机设备
训练自己的图像分类模型部署在手机设备
|
11月前
|
计算机视觉 网络架构
视觉大模型系列 | MSA:一种简单强大的医学 SAM 适配器,轻松强化 SAM 到指定领域
视觉大模型系列 | MSA:一种简单强大的医学 SAM 适配器,轻松强化 SAM 到指定领域
846 0
|
机器学习/深度学习 JavaScript 关系型数据库