《数据科学:R语言实现》——3.12 估计缺失数据

简介:

本节书摘来自华章出版社《数据科学:R语言实现》一 书中的第3章,第3.12节,作者:R for Data Science Cookbook 丘祐玮(David Chiu),更多章节内容可以访问云栖社区“华章计算机”公众号查看。

3.12 估计缺失数据

之前的教程介绍了如何检测数据集中的缺失数值。尽管包含缺失值的数据并不完整,但是我们还是要采用启发式的方法来补全数据集。这里,我们会介绍一些技术来估计缺失值。
准备工作
按照3.3节“转换数据类型”教程,把导入数据的每个属性转换成合适的数据类型。同时按照3.2节“重命名数据变量”中的步骤,命名employees和salaries数据集的列名。

screenshot

实现步骤
screenshot
screenshot

运行原理
估计缺失值的方法通常有3种:第1个是移除缺失值,第2个是执行平均值估计,最后一个是执行多重估计。在本教程中,我们使用了一个雇员的数据作为例子。首先我们设置emp_no为10001,抽取数据子集。然后我们专门把某个薪水值替换为NA缺失值。接着,我们使用其中一种估计方法进行缺失值估计。
首先,我们介绍了如何使用函数na.omit移除缺失值,它会自动地移除带有缺失值的记录。移除缺失值是直接而简单的做法,并且适合缺失值所占的比例很小的时候。相反,如果缺失值在数据集中占的比重较大,移除这些缺失值会使分析结果产生偏差,并导致错误结论。
其次,我们使用平均值来估计缺失值。我们首先使用函数mean,同时忽略缺失值(na.rm表明计算过程不会考虑缺失值),计算平均薪水。这种估计不会影响平均值的整体估计,但是可能会引起数据集标准差和平方误差的偏差,并进一步导致偏差估计。因此,这并不是一个值得推荐的方法。
第三,我们可以使用函数mice执行多重估计。这里我们首先安装加载mice程序包给R进程,然后从from_date和to_date属性中抽取整数年份。然后,考虑到雇员薪水每年都会增加,我们可以选择贝叶斯线性回归作为估计方法(通过给meth参数设置norm实现)来预测缺失值。最后我们使用函数complete获取完整数据。多重估计方法使用数据之间的关系来预测缺失值,并使用蒙特卡洛方法生成可能的缺失值。这是众多缺失值估计问题中最常见的手段。
更多技能
除了使用mice程序包预测数据集中的缺失值,我们还可以使用回归的方法来预测缺失值。
screenshot

函数lm会生成一个salary对from_date的拟合回归曲线,我们可以使用这个拟合模型来预测1993年的可能薪水值。

相关文章
|
2天前
|
移动开发 数据可视化
广义线性模型beta二项分布的淋巴结疾病风险预测可视化R语言2实例合集|附数据代码
广义线性模型beta二项分布的淋巴结疾病风险预测可视化R语言2实例合集|附数据代码
|
2天前
|
机器学习/深度学习 人工智能 数据可视化
【视频】R语言支持向量回归SVR预测水位实例讲解|附代码数据
【视频】R语言支持向量回归SVR预测水位实例讲解|附代码数据
|
2天前
|
机器学习/深度学习 数据可视化
R语言Stan贝叶斯回归置信区间后验分布可视化模型检验|附数据代码
R语言Stan贝叶斯回归置信区间后验分布可视化模型检验|附数据代码
|
2天前
|
机器学习/深度学习 数据采集 算法
数据分享|R语言机器学习预测案例合集:众筹平台、机票折扣、糖尿病患者、员工满意度
数据分享|R语言机器学习预测案例合集:众筹平台、机票折扣、糖尿病患者、员工满意度
|
2天前
|
数据可视化 数据挖掘 索引
R语言层次聚类、多维缩放MDS分类RNA测序(RNA-seq)乳腺发育基因数据可视化|附数据代码2
R语言层次聚类、多维缩放MDS分类RNA测序(RNA-seq)乳腺发育基因数据可视化|附数据代码
|
2天前
|
机器学习/深度学习 数据可视化
R语言逻辑回归logistic模型ROC曲线可视化分析2例:麻醉剂用量影响、汽车购买行为2
R语言逻辑回归logistic模型ROC曲线可视化分析2例:麻醉剂用量影响、汽车购买行为
|
2天前
|
机器学习/深度学习 算法
R语言分类回归分析考研热现象分析与考研意愿价值变现
R语言分类回归分析考研热现象分析与考研意愿价值变现
|
2天前
|
数据可视化 定位技术
R语言贝叶斯INLA空间自相关、混合效应、季节空间模型、SPDE、时空分析野生动物数据可视化
R语言贝叶斯INLA空间自相关、混合效应、季节空间模型、SPDE、时空分析野生动物数据可视化
|
2天前
|
机器学习/深度学习 数据可视化 算法
R语言逻辑回归logistic模型ROC曲线可视化分析2例:麻醉剂用量影响、汽车购买行为1
R语言逻辑回归logistic模型ROC曲线可视化分析2例:麻醉剂用量影响、汽车购买行为
|
2天前
|
机器学习/深度学习 数据可视化 算法
R语言聚类分析、因子分析、主成分分析PCA农村农业相关经济指标数据可视化|数据分享
R语言聚类分析、因子分析、主成分分析PCA农村农业相关经济指标数据可视化|数据分享

热门文章

最新文章