《大数据原理:复杂信息的准备、共享和分析》一一2.1 背景

简介: 本节书摘来自华章出版社《大数据原理:复杂信息的准备、共享和分析》一 书中的第2章,第2.1节,作者:[美] 朱尔斯 J. 伯曼(Jules J. Berman)著 ,更多章节内容可以访问云栖社区“华章计算机”公众号查看。

2.1 背景
数据标识无疑是最被低估和最不被理解的大数据问题。数据测量、注释、特性和类信息本身是没有任何意义的,只有当一个整合了这些信息的标识符能够对众多数据对象加以区分时,它们才是有意义的(见术语表,Annotation)。识别方法、待识别对象和类的选择,从根本上来讲,与大数据资源的组织模型相关。如果忽视或不恰当地进行数据标识,大数据资源就会出现问题。
本章将深入描述数据标识的可用方法以及标识信息的最小属性(包括唯一性、排他性、完整性、真实性和协调性)。我们会对不充分的识别行为带来的可怕后果进行讨论,并给出现实案例。可以对已识别出的数据对象进行去标识操作,在某些情况下,也可进行重标识(见术语表,Deidentification,Reidentification)。当遇到保密、隐私和知识产权问题时,拥有去标识化数据对象的能力将极为重要(见术语表,Privacy and confidentiality,Intellectual property)。错误检测、误差修正和数据验证等过程,要求有对去标识化的数据对象重新进行标识的能力。
标识系统的核心是其良好的信息系统,它提供了一种数据对象命名方式,这样可以通过数据对象的名字和检索方式将每个对象与系统中的其他对象区分开来。如果数据管理员正确地标识他们的数据,他们不用做任何事,就会获得一个比许多现有的大数据资源更有价值数据对象的集合。想象这样一个场景:为了治病,你出现在你出生的医院接受治疗,并且看到了自你出生以来的各种疾病记录。有可能:
1.医院的医疗记录中有你的名字,但不是你。多次努力后,他们发现另一个医疗卡记录了你的名字。这再一次证实这条记录是别人的。耗费大量的时间和精力后,你被告知,医院不能调出你的医疗记录。他们否认失去你的记录,只承认他们无法从信息系统中检索记录。
2.医院的医疗记录中有你的名字,但不是你。你和你的医生都不知道身份信息的错误。医生在认为别人的医疗记录是你的医疗记录的前提下,给你提供了不当的治疗。由于这个错误,你死了,但医院信息系统却没有明显的损失。
3.医院有你的医疗记录。随着最近有关测试和程序的完成,你的医生发现记录丢失了大量信息。在过去,没有人能发现这些失踪的记录。你询问医生你的记录是否可能与另一个病人或多个病人的记录搞混了,医生只是耸了耸肩。
4.医院有你的医疗记录,但该记录包含其他患者做的各种检查。其他一些患者的医疗记录里也有你的名字,并显示名字不同。似乎没有人明白有关其他病人的这些记录是如何进入你的图表中的。
5.你被告知该院已改变了其医院信息系统,旧的电子记录将不再可用。你被要求回答关于你的一长串病史问题。你的回答将被添加到新病历中,但许多情况你已经忘记了。
6.你被告知你的电子记录被转移到一个大型医院的医院信息系统中。发生这种情况是一个复杂的收购兼并的结果。你正在接受治疗的医院尚未部署多医院系统的信息结构,对你的医疗记录没有访问权限。你放心,你的记录没有丢失,医院可在十年之内获得访问权限。
7.你到达医院时发现,曾经医院引以为傲的大厦已经拆除,被一个大型购物中心所取代。你的电子记录已经一去不复返了,值得安慰的是你知道JC Penney公司现在在搞六折的珠宝促销活动。
医院信息系统是典型的大数据资源。与大多数大数据资源一样,医疗记录必须是唯一的、可访问的、完整的、未受掺杂(与其他人的记录混淆)的、永久性的和保密的数据。而如果没有适当标识系统,这一切是不可能达到的。

相关实践学习
简单用户画像分析
本场景主要介绍基于海量日志数据进行简单用户画像分析为背景,如何通过使用DataWorks完成数据采集 、加工数据、配置数据质量监控和数据可视化展现等任务。
SaaS 模式云数据仓库必修课
本课程由阿里云开发者社区和阿里云大数据团队共同出品,是SaaS模式云原生数据仓库领导者MaxCompute核心课程。本课程由阿里云资深产品和技术专家们从概念到方法,从场景到实践,体系化的将阿里巴巴飞天大数据平台10多年的经过验证的方法与实践深入浅出的讲给开发者们。帮助大数据开发者快速了解并掌握SaaS模式的云原生的数据仓库,助力开发者学习了解先进的技术栈,并能在实际业务中敏捷的进行大数据分析,赋能企业业务。 通过本课程可以了解SaaS模式云原生数据仓库领导者MaxCompute核心功能及典型适用场景,可应用MaxCompute实现数仓搭建,快速进行大数据分析。适合大数据工程师、大数据分析师 大量数据需要处理、存储和管理,需要搭建数据仓库?学它! 没有足够人员和经验来运维大数据平台,不想自建IDC买机器,需要免运维的大数据平台?会SQL就等于会大数据?学它! 想知道大数据用得对不对,想用更少的钱得到持续演进的数仓能力?获得极致弹性的计算资源和更好的性能,以及持续保护数据安全的生产环境?学它! 想要获得灵活的分析能力,快速洞察数据规律特征?想要兼得数据湖的灵活性与数据仓库的成长性?学它! 出品人:阿里云大数据产品及研发团队专家 产品 MaxCompute 官网 https://www.aliyun.com/product/odps 
相关文章
|
21天前
|
SQL 分布式计算 数据可视化
Tableau与大数据:可视化工具在大数据分析中的应用
【4月更文挑战第8天】Tableau是一款领先的数据可视化工具,擅长于大数据分析,提供广泛的数据连接器,支持多源整合。它与Hadoop、Spark等深度集成,实现高效大数据处理。Tableau的拖拽式界面和交互式分析功能使得非技术人员也能轻松探索数据。在实战中,Tableau用于业务监控、数据storytelling和自助式分析,推动数据民主化,提升决策效率。未来,Tableau将持续创新,扩展生态系统,并保障数据安全与合规性,助力企业最大化数据价值。
30 0
|
3天前
|
分布式计算 IDE 大数据
MaxCompute产品使用合集之有多人调用大数据计算MaxCompute,我需要给他们每个人都生成ak信息吗
MaxCompute作为一款全面的大数据处理平台,广泛应用于各类大数据分析、数据挖掘、BI及机器学习场景。掌握其核心功能、熟练操作流程、遵循最佳实践,可以帮助用户高效、安全地管理和利用海量数据。以下是一个关于MaxCompute产品使用的合集,涵盖了其核心功能、应用场景、操作流程以及最佳实践等内容。
|
3天前
|
分布式计算 DataWorks 安全
DataWorks产品使用合集之DataWorks创建 MaxCompute 资源背景信息如何解决
DataWorks作为一站式的数据开发与治理平台,提供了从数据采集、清洗、开发、调度、服务化、质量监控到安全管理的全套解决方案,帮助企业构建高效、规范、安全的大数据处理体系。以下是对DataWorks产品使用合集的概述,涵盖数据处理的各个环节。
18 5
|
3天前
|
分布式计算 DataWorks Java
DataWorks操作报错合集之dataworks 同步es数据到maxcompute 遇到报错:获取表列信息失败如何解决
DataWorks是阿里云提供的一站式大数据开发与治理平台,支持数据集成、数据开发、数据服务、数据质量管理、数据安全管理等全流程数据处理。在使用DataWorks过程中,可能会遇到各种操作报错。以下是一些常见的报错情况及其可能的原因和解决方法。
11 0
|
3天前
|
存储 运维 监控
|
3天前
|
分布式计算 大数据 调度
MaxCompute产品使用合集之大数据计算MaxCompute底层加速查询的原理是什么
MaxCompute作为一款全面的大数据处理平台,广泛应用于各类大数据分析、数据挖掘、BI及机器学习场景。掌握其核心功能、熟练操作流程、遵循最佳实践,可以帮助用户高效、安全地管理和利用海量数据。以下是一个关于MaxCompute产品使用的合集,涵盖了其核心功能、应用场景、操作流程以及最佳实践等内容。
|
3天前
|
存储 分布式计算 DataWorks
MaxCompute产品使用合集之大数据计算MaxCompute dataworks可以批量修改数据集成任务的数据源配置信息吗
MaxCompute作为一款全面的大数据处理平台,广泛应用于各类大数据分析、数据挖掘、BI及机器学习场景。掌握其核心功能、熟练操作流程、遵循最佳实践,可以帮助用户高效、安全地管理和利用海量数据。以下是一个关于MaxCompute产品使用的合集,涵盖了其核心功能、应用场景、操作流程以及最佳实践等内容。
|
3天前
|
机器学习/深度学习 分布式计算 大数据
MaxCompute产品使用合集之大数据计算MaxCompute如何限制用户只能访问特定的元数据信息,而不是整个工作空间
MaxCompute作为一款全面的大数据处理平台,广泛应用于各类大数据分析、数据挖掘、BI及机器学习场景。掌握其核心功能、熟练操作流程、遵循最佳实践,可以帮助用户高效、安全地管理和利用海量数据。以下是一个关于MaxCompute产品使用的合集,涵盖了其核心功能、应用场景、操作流程以及最佳实践等内容。
|
3天前
|
存储 数据可视化 大数据
大数据分析与处理:探索数据的深层价值
大数据分析与处理:探索数据的深层价值
16 2
|
14天前
|
存储 分布式计算 大数据
使用 Java 进行大数据处理和分析
【4月更文挑战第19天】本文探讨了Java在大数据处理中的关键作用,涉及Hadoop框架、HDFS数据存储、MapReduce编程模型及Spark等数据分析工具。还包括数据预处理、可视化、性能优化、安全与隐私保护以及完整处理流程。Java在金融、医疗、电商等领域有广泛应用,为大数据洞察和决策提供支持,但同时也需要开发者具备深厚的技术背景和实践经验。

热门文章

最新文章