《大数据、小数据、无数据:网络世界的数据学术》一 导读

简介: 相对于一般商品而言,研究类数据(research data)的利用价值或多或少。数据管理计划、数据发布需求以及由资助机构、学术期刊和科研机构提出的积极政策都很难适应数据多样性和跨领域的新实践。除了按例定义之外,很少有政策尝试给出数据的定义。

前  言‖

在“大数据”风靡的当代,学术研究中的“小数据”依旧不容小觑。随着绝对数据量的增加,学者们进行个体研究的能力却不断退化。因为他们从未距离研究对象如此遥远。新工具和新视角成为学术研究的必需品。但相对于“小数据”而言,“大数据”不一定是最好的选择。因为研究者距离数据来源(即数据采集、处理、提炼和转换方式及其对应的研究假设和目的)越远,就越难理解数据代表的实际意义。因此,学者们更倾向于使用少量数据进行更深入细致的研究。但当数据尚未被发现甚至不可能被发现时,学者们将面临“无数据”的窘境。
相对于一般商品而言,研究类数据(research data)的利用价值或多或少。数据管理计划、数据发布需求以及由资助机构、学术期刊和科研机构提出的积极政策都很难适应数据多样性和跨领域的新实践。除了按例定义之外,很少有政策尝试给出数据的定义。那些反映学术界利益相关者竞争机制和动机的政策更是少之又少。数据的含义因人而异,因时不同;数据可以像资产一样受控、积累、交易、组合投资、挖掘甚至可能被发布;同时,数据也可以像债务一样被管理、保护或者毁约。数据的敏感性和保密性可能很高,因此数据发布往往伴随着高风险。数据价值可能立即显现,也可能很久之后才引人注意。有些数据值得长期监护,但大部分数据都只具有短期价值。某些研究类数据的价值可能在几个小时或几个月之内,随着技术和领域前沿工作的进步而不复存在。
要理解数据在学术研究中的价值,首先必须明确数据绝非一般事物,其不是具有本质内涵的自然对象。恰恰相反,出于研究或学术目的,学者们往往需要证明现象发生的论据,即观察结果、客观对象以及其他实体,而数据正是这些论据的表现形式。而且这种具体表现形式会因学者、情景以及时间的不同而有所差异。学者们虽然在自然科学、社会科学以及人文学科领域内创造、使用、分析和解释数据,但都尚未就数据定义达成共识。把某种事物概念化为数据的过程本身就是一种学术行为。学术活动包括寻求论据、解释现象以及论证观点等,这些活动以数据为媒介,最终往往表现为期刊论文、专著、会议论文以及学术界认可的其他形式。考虑数据重用的研究极为少见。
伽利略使用笔记本记录观察到的现象,19世纪的天文学家把图像刻在玻璃板上,而今天的天文学家则使用数字设备捕获光子。普通相机拍摄的夜空图像之所以能与航空任务采集的图像基本相似,是因为天文学家已经在数据描述和映射的表示体系上达成一致。为集成几个世纪以来的观测数据,天文学家已经在标准、工具和档案方面做了大量工作。即便如此,该领域的知识基础设施还远未建成,更不用说完全自动化了。就数据获取的组织和协调而言,信息专业技术人员在天文学等领域发挥着重要作用。
出版物和数据之间的联系体现在多个方面,这正是研究类数据在学术交流范围内得以充分利用的原因。数据创造可能需要长期的深思熟虑,这一漫长过程积累了许多随时间可增值的资源。但数据创造也可能历时很短,甚至具有偶发性。在后两种情况下,研究者需要尽可能记录现象发生时的所有仪器数据。在天文学、社会学和人种学等领域,不论研究计划制定得有多好,数据采集都具有随机性,因为每个阶段的研究发现都会影响下一阶段的数据选择。因此,任何领域的学者都需要学会评估数据优劣、判定数据信度和效度以及适应实验室研究、实地调查和档案馆的条件。出版物是特定领域中假设读者具有专业知识的条件下,对研究成果进行报告的形式,其为读者理解研究成果的论点、方法及结论提供了必要信息。但因为假定读者熟悉该领域,所以其往往省略重复研究所需的细节。虽然人们对数据发布各执己见,但数据的重复性与再现性只在特定领域具有相关性。而且即使是在这些领域,真正实现重复与再现也很困难。而判断哪个学术研究成果更具有保存价值更是难上加难。
数据管理、发布和共享等相关政策模糊了数据在学术活动中的复杂作用,而且在很大程度上忽略了领域内与领域间政策实践中的差异性。“数据”的概念在自然科学、社会科学和人文学科之间甚至同一学科内都存在很大差异。数据管理在很多领域内可学不可教,这使得现有解决方案缺乏系统性。一般而言,研究人员重用自己的数据都有很大困难,更不用说使这些数据为具有不同需求的其他人所用。由于数据共享实施难度大、激励机制有限,而且在知识基础设施工程建设方面需要大量投资,所以其规范仅存在于部分领域。
本书面向包括研究类数据利益相关者在内的广大读者,具体包括学者、研究人员、高校领导、出版商、图书馆和数据档案馆的工作人员以及投资决策者和政策制定者等。第一部分使用四章篇幅界定“数据”与“学术”的概念,详细讨论了数据、学术、知识基础设施以及研究实践的多样性。第二部分包括三章,分别探究了自然科学、社会科学和人文学科领域的数据学术(data scholarship)。这三个案例分析结构平行,便于进行跨领域对比。第三部分涵盖三个章节,主要阐述数据策略和数据实践相关内容,并尝试分析数据学术面临众多棘手问题的原因。这部分具体包括:数据共享、发布与重用,数据信誉、归属与发现,保存何种数据及其原因。
“学术”与“数据”之间有着长远而错综复杂的关系,二者都不是新概念。当前,二者之间的关系又出现了新要素,即从学术活动中提取数据进行挖掘,并应用于其他目的。研究类数据相关的成本、收益、风险和报酬等正在相互竞争的利益相关者之间进行重新分配。本书旨在推动各方进行内容更全面、信息更充分的讨论。这对学术的未来至关重要。

目  录

第1章 挑战
1.1 引言
1.2 大数据与小数据
1.2.1 大
1.2.2 开放性
1.2.3 长尾
1.3 无数据
1.3.1 数据不可获取
1.3.2 数据不可发布
1.3.3 数据不可用
1.4 六项挑战
1.5 结论

第2章 何为数据
2.1 引言
2.2 定义与术语
2.2.1 按例定义
2.2.2 操作定义
2.2.3 分类定义
2.2.4 概念区分
2.3 结论

第3章 数据学术
3.1 引言
3.2 知识基础设施
3.3 社会与技术
3.3.1 社区与协作
3.3.2 知识与表示
3.3.3 理论、实践与政策
3.4 开放学术
3.4.1 开放获取研究成果
3.4.2 开放获取数据
3.4.3 开放技术
3.5 交流融合
3.5.1 数据隐喻
3.5.2 数据单元
3.5.3 记录文件
3.6 结论

第4章 数据多样性
4.1 引言
4.2 学科与数据
4.3 数据大小问题
4.3.1 项目目标
4.3.2 数据采集
4.3.3 数据分析
4.4 数据产生问题
4.4.1 距离问题
4.4.2 外部影响因素
4.5 结论

相关实践学习
简单用户画像分析
本场景主要介绍基于海量日志数据进行简单用户画像分析为背景,如何通过使用DataWorks完成数据采集 、加工数据、配置数据质量监控和数据可视化展现等任务。
SaaS 模式云数据仓库必修课
本课程由阿里云开发者社区和阿里云大数据团队共同出品,是SaaS模式云原生数据仓库领导者MaxCompute核心课程。本课程由阿里云资深产品和技术专家们从概念到方法,从场景到实践,体系化的将阿里巴巴飞天大数据平台10多年的经过验证的方法与实践深入浅出的讲给开发者们。帮助大数据开发者快速了解并掌握SaaS模式的云原生的数据仓库,助力开发者学习了解先进的技术栈,并能在实际业务中敏捷的进行大数据分析,赋能企业业务。 通过本课程可以了解SaaS模式云原生数据仓库领导者MaxCompute核心功能及典型适用场景,可应用MaxCompute实现数仓搭建,快速进行大数据分析。适合大数据工程师、大数据分析师 大量数据需要处理、存储和管理,需要搭建数据仓库?学它! 没有足够人员和经验来运维大数据平台,不想自建IDC买机器,需要免运维的大数据平台?会SQL就等于会大数据?学它! 想知道大数据用得对不对,想用更少的钱得到持续演进的数仓能力?获得极致弹性的计算资源和更好的性能,以及持续保护数据安全的生产环境?学它! 想要获得灵活的分析能力,快速洞察数据规律特征?想要兼得数据湖的灵活性与数据仓库的成长性?学它! 出品人:阿里云大数据产品及研发团队专家 产品 MaxCompute 官网 https://www.aliyun.com/product/odps 
相关文章
|
2月前
|
分布式计算 DataWorks IDE
MaxCompute数据问题之忽略脏数据如何解决
MaxCompute数据包含存储在MaxCompute服务中的表、分区以及其他数据结构;本合集将提供MaxCompute数据的管理和优化指南,以及数据操作中的常见问题和解决策略。
47 0
|
2月前
|
SQL 存储 分布式计算
MaxCompute问题之下载数据如何解决
MaxCompute数据包含存储在MaxCompute服务中的表、分区以及其他数据结构;本合集将提供MaxCompute数据的管理和优化指南,以及数据操作中的常见问题和解决策略。
38 0
|
2月前
|
分布式计算 关系型数据库 MySQL
MaxCompute问题之数据归属分区如何解决
MaxCompute数据包含存储在MaxCompute服务中的表、分区以及其他数据结构;本合集将提供MaxCompute数据的管理和优化指南,以及数据操作中的常见问题和解决策略。
35 0
|
10天前
|
数据采集 搜索推荐 大数据
大数据中的人为数据
【4月更文挑战第11天】人为数据,源于人类活动,如在线行为和社交互动,是大数据的关键部分,用于理解人类行为、预测趋势和策略制定。数据具多样性、实时性和动态性,广泛应用于市场营销和社交媒体分析。然而,数据真实性、用户隐私和处理复杂性构成挑战。解决策略包括数据质量控制、采用先进技术、强化数据安全和培养专业人才,以充分发挥其潜力。
14 3
|
13天前
|
运维 供应链 大数据
数据之势丨从“看数”到“用数”,百年制造企业用大数据实现“降本增效”
目前,松下中国旗下的64家法人公司已经有21家加入了新的IT架构中,为松下集团在中国及东北亚地区节约了超过30%的总成本,减少了近50%的交付时间,同时,大幅降低了系统的故障率。
|
1月前
|
分布式计算 DataWorks 关系型数据库
DataWorks报错问题之dataworks同步rds数据到maxcompute时报错如何解决
DataWorks是阿里云提供的一站式大数据开发与管理平台,支持数据集成、数据开发、数据治理等功能;在本汇总中,我们梳理了DataWorks产品在使用过程中经常遇到的问题及解答,以助用户在数据处理和分析工作中提高效率,降低难度。
|
1月前
|
存储 监控 大数据
数据仓库(11)什么是大数据治理,数据治理的范围是哪些
什么是数据治理,数据治理包含哪些方面?大数据时代的到来,给了我们很多的机遇,也有很多的挑战。最基础的调整也是大数据的计算和管理,数据治理是一个特别重要的大数据基础,他保证着数据能否被最好的应用,保证着数据的安全,治理等。那么数据治理到底能治什么,怎么治?
67 0
|
2月前
|
JSON 分布式计算 MaxCompute
MaxCompute问题之创建数据集失败如何解决
MaxCompute数据包含存储在MaxCompute服务中的表、分区以及其他数据结构;本合集将提供MaxCompute数据的管理和优化指南,以及数据操作中的常见问题和解决策略。
33 0
|
2月前
|
存储 分布式计算 DataWorks
MaxCompute数据问题之数据不一致如何解决
MaxCompute数据包含存储在MaxCompute服务中的表、分区以及其他数据结构;本合集将提供MaxCompute数据的管理和优化指南,以及数据操作中的常见问题和解决策略。
37 0
|
2月前
|
存储 分布式计算 DataWorks
MaxCompute数据之数据不一致如何解决
MaxCompute数据包含存储在MaxCompute服务中的表、分区以及其他数据结构;本合集将提供MaxCompute数据的管理和优化指南,以及数据操作中的常见问题和解决策略。
26 0