大数据:国家竞争的前沿

简介:       大数据的使用将成为未来提高竞争力的关键要素。大数据本质上是“一场管理革命”。大数据时代,决策将日益基于数据和分析而作出,而并非基于经验和直觉。 我国尽管已经意识到大数据的竞争力和战略性,却并未在真正意义上将其提升到国家战略高度,数据财富尚未形成全民意识。
0.jpg

      大数据的使用将成为未来提高竞争力的关键要素。大数据本质上是“一场管理革命”。大数据时代,决策将日益基于数据和分析而作出,而并非基于经验和直觉。

我国尽管已经意识到大数据的竞争力和战略性,却并未在真正意义上将其提升到国家战略高度,数据财富尚未形成全民意识。

 大数据:未来提高竞争力的关键要素

“如果说IBM的主机拉开了信息化革命的大幕,那么大数据才是第3次浪潮的华彩乐章。”著名未来学家、当今世界最具影响力的社会思想家之一阿尔文?托夫勒在其 1980年出版的《第三次浪潮》一书中的话正在演变成现实。大数据虽然姗姗来迟,但是来得比托夫勒想象得更为迅猛。

进入21世纪以来,一些崭新的互联网的应用如微博、社交网站的不断普及,以及视频通讯、医疗影像、地理信息和监控录像等视频内容的急剧增加,加之传感器、无线电射频识别(RFID)阅读器、导航终端等非传统IT设备和移动设备,都将产生越来越多的数据,从而造成了“数据爆炸”的现象。根据国际数据公司(IDC)预测,全球的数据产生量到 2020将会增长 44倍,达到35.2ZB。也就是说,全球大概需要 376亿个1TB硬盘来存储数据。大数据并非单指数据量之大,而是指为了更经济地从高频率获取的、大容量的、不同结构和类型的数据中获取价值而设计的新一代架构和技术。

牛津大学教授维克托·迈尔-舍恩伯格在其新书《大数据时代》中说,大数据是一场“革命”,将对各行各业带来深刻影响,甚至改变我们的思维方式。其中最关键的是,大数据的出现让人们放弃了对因果关系的渴求,转而关注相关关系,人们只需知道“是什么”,而不用知道“为什么”。这颠覆了千百年来人类的思维模式,对人类的认知方式和交流方式提出了新挑战。

此外,大数据时代产生的数据密集型的知识发现,有可能成为继实验科学、理论分析和计算机模拟这三种经典科研范式之后的第四种科研范式。谷歌的广告优化配置、战胜人类的“IBM沃森问答系统”已经在向我们展示“第四范式”的魅力。

数据正成为与物质资产和人力资本相提并论的重要生产要素,大数据的使用将成为未来提高竞争力的关键要素。大数据作为重要的生产要素,其价值主要体现在如下三个方面。

能够实现巨大商业价值。大数据在商业领域的应用,可以通过对顾客群体细分来实现对每个群体量体裁衣般的采取独特的行动,通过模拟现实来发掘新的需求和提高投入的回报率,通过分析消费者的行为特征进行商业模式、产品和服务的创新等,这些应用将会产生巨大的商业价值。沃尔玛是最早通过利用大数据而受益的企业之一,它通过对消费者的购物行为等非结构化数据进行分析,成为最了解顾客购物习惯的零售商。沃尔玛通过分析顾客在互联网上的搜索内容,以及在社交网站所显露的行为轨迹,甚至比美国的一个粗心的父亲更早地捕捉到了他女儿的怀孕信息,并将带有婴儿用品优惠券的广告邮件,寄送给他正在念高中的女儿。

能够增强社会管理水平。大数据在政府和公共服务领域的应用,可有效推动政务工作开展,提高政府部门的决策水平、服务效率和社会管理水平,产生巨大社会价值。2009年,谷歌公司通过把 5000万条美国人最频繁检索的词条和美国疾控中心在2003年至2008年间季节性流感传播时期的数据进行比较,成功预测了当年甲型H1N1流感的爆发及其传播源头,远早于疾控中心官方。

能够提高安全保障能力。大数据在国防、反恐、安全等领域的应用,将对各部门搜集到的各类信息进行自动分类、整理、分析,有效解决情报、监视和侦察系统不足等问题,提高国家安全保障能力。从纯技术角度观察,美国的“棱镜”项目就是一个典型的通过分析海量通讯数据获取安全情报的大数据案例。

《孙子兵法》说:“多算 胜,少 算 不胜。”决定能否“多算”的重要因素在于,掌握数据的多少以及对数据处理能力的高低。在大数据时代,国家层面的竞争力将部分体现为一国拥有大数据的规模、活性以及对数据的解释、运用能力。一个国家在网络空间的数据主权将是继海、陆、空、天之后另一个大国博弈的空间。

 国家层面:将大数据提升为国家战略

鉴于大数据潜在的巨大影响,很多国家都将大数据视作战略资源,并将大数据提升为国家战略。

2012年3月,美国奥巴马政府宣布推出“大数据的研究和发展计划”。该计划涉及美国国家科学基金、美国国家卫生研究院、美国能源部、美国国防部、美国国防部高级研究计划局、美国地质勘探局等6个联邦政府部门,承诺将投资两亿多美元,大力推动和改善与大数据相关的收集、组织和分析工具及技术,以推进从大量的、复杂的数据集合中获取知识和洞见的能力。美国奥巴马政府宣布投资大数据领域,是大数据从商业行为上升到国家战略的分水岭,表明大数据正式提升到战略层面,大数据在经济社会各个层面、各个领域都开始受到重视。

其实,不仅是美国,其他一些国家和地区也都把大数据提升到国家战略层面,认为未来国家层面的竞争力将部分体现为一国拥有数据的规模及运用数据的能力。2013年2月,法国政府发布了其《数字化路线图》,列出了 5项将会大力支持的战略性高新技术,“大数据”就是其中一项。法国政府将以新兴企业、软件制造商、工程师、信息系统设计师等为目标,开展一系列的投资计划,旨在通过发展创新性解决方案,并将其用于实践,来促进法国在大数据领域的发展。2012年9月,日本总务省发布2013年行动计划,提出以复苏日本为目的推进“活跃在ICT领域的日本”ICT综合战,明确提出“通过大数据和开放数据开创新市场”。这些表明,日本政府在新一轮IT振兴计划中把大数据发展作为国家层面战略提出,新 ICT战略将重点关注大数据应用技术。

  企业层面:对大数据的存储、处理和应用积极布局

不仅是政府开始谋划大数据发展战略,IT巨头如英特尔、IBM、甲骨文、微软、淘宝、百度和腾讯等也开始对大数据的存储、处理和应用进行布局,在针对个人用户信息的大数据的管理和分析上投入了巨额资金。

2010年以来,欧美 IT巨头掀起一轮与大数据相关的并购潮。英特尔并购了安全软件制造商McAfee等很多大数据处理以及架构厂商来弥补自己在软件上的能力;IBM通过并购数据分析公司来增强自己在海量数据处理上的实力。从各IT巨头纷纷推出的大数据产品可以看出,这些IT巨头几乎抢占了搜索服务、数据库、服务器、存储设备、数据挖掘等核心价值环节。

国已成为 IT巨头布局大数据战略的重要战场。例如:英特尔在上海成立一个团队专门在做 Hadoop大数据处理架构的开发;EMC组建EMC中国研究院,下设大数据、云基础构建、云平台与应用3个实验室来推动这3个方面的研究以及大数据在中国的应用;IBM在北京成立了全球首个大数据智慧赋能中心,并且汇聚了来自IBM全球的大数据技术专家和商业运营精英,旨在为企业构建一个从商业评估、论证、方案部署到人员培训的完整大数据战略体系。

国内企业受限于IT产业链所处的位置,普遍在数据库、数据仓库、商业智能等领域基础薄弱,因此,在大数据上布局不可能像跨国企业那样全面。但国内相对强势的互联网企业、电信运营商、电信设备供应商已经开始启动产业布局,以互联网应用服务为切入点抢占大数据制高点。

 大数据面临的挑战:不仅仅是技术

如果从数据结构复杂多样,数据规模爆炸增长,对社会生活产生巨大影响的角度看,全球已经进入大数据时代。但是从对数据的应用角度看,当下还处于大数据时代的早期。特别是对我国来说,大数据真正落地,还需面临几个重大的挑战。

对数据共享和隐私保护的挑战。中国人口居世界首位,将会成为产生数据量最多的国家,但对数据保存不够重视,对存储数据的利用率也不高。此外,我国一些部门和机构拥有大量数据但受行政垄断和商业利益所限,数据开放程度也较低,这给数据利用造成极大障碍。制约我国数据资源开放和共享的一个重要因素是政策法规不完善,一方面欠缺推动政府和公共数据开放的政策;另一方面数据保护和隐私保护方面的制度不完善,抑制了开放的积极性。所以,如何使政府从垄断和保密的历史惯性思维方式中解脱出来,在确保隐私、机密和国家安全的前提下带头开放数据,降低公众获取和利用政府数据资源难度和成本,至少是我国大数据时代开启阶段的瓶颈。

对数据储存和分析技术的挑战。大数据中大部分都是非结构化的数据,如网络日志、RFID、传感器网络、社交网络、互联网搜索索引、详细通话记录、医疗记录、摄影档案、视频档案等。现有的软件和工具主要适用于以结构化数据为主的传统数据,要想及时捕捉、存储、聚合和管理这些大数据,以及对数据进行深度分析和挖掘,需要新的技术和能力。在大数据软件平台和算法方面,国外又一次走在我国前面。特别是近年来以开源模式发展起来的 Hadoop等大数据处理软件平台及其相关产业已经在美国初步形成。而我国数据存储、处理技术基础薄弱,总体上以跟随为主,难以满足大数据大规模应用的需求。

对管理理念和运作方式的挑战。大数据的技术挑战显而易见,但其带来的决策挑战更为艰巨。大数据开发的根本目的是以数据分析为基础,帮助人们作出更明智的决策,优化企业和社会运转。哈佛商业评论说,大数据本质上是“一场管理革命”。多年前出现的互联网将企业经营、政府运作以及人们生活的方式做出了很大改变。大数据的出现,又一次激起了这种巨大的变革能力。在大数据时代,决策将日益基于数据和分析而作出,而并非基于经验和直觉。在我国,无论是政府部门还是企业,对大数据可能产生的价值的认识,以及如何利用数据分析实现科学决策依然有相当长的路要走。

大数据时代:政府需要有所作为

现代历史上的历次技术革命,中国均是学习者。而在这次云计算与大数据的新变革中,中国与世界的距离最小,在很多领域甚至还有着创新与领先的可能。一方面,大数据技术以开源为主,迄今为止,尚未形成绝对技术垄断。即便是英特尔、IBM、甲骨文等IT巨头,也同样是集成了开源技术,和本公司原有产品更好的结合而已。另一方面,中国人口和经济规模,决定中国的数据资产规模将冠于全球,客观上为大数据技术的发展,提供了广阔的发展空间。从国家角度来看,大数据是重要战略资源。因此,挖掘大数据价值,推动大数据发展,需要政府发挥作用。

将大数据上升为国家战略。我国尽管已经意识到大数据的竞争力和战略性,却并未在真正意义上将其提升到国家战略高度,数据财富尚未形成全民意识。因此有必要从国家层面上制定大数据发展规划,将大数据上升为国家战略。通过国家层面的战略规划明确大数据产业的发展重点、空间布局和保障措施,推动和改善与大数据相关的收集、储存和分析工具及技术,并在公共服务领域(如安防、医疗、卫生、教育等),开展大数据应用示范,提高应急处置能力和安全防范能力,提升服务能力和运作效率。

推动数据公开,同时保护“隐私权”。如同工业革命要开放物质的交易、流通一样,开放的、流通的数据是时代的要求。美国政府创建了Data.gov网站公开数据,英国、印度也有“数据公开”运动。中国要赶上这样一场大数据变革,首先要从政府开始公开数据,让社会享受公开数据的好处,同时也可以提升政府的办事效率。其次要通过数据立法,对“隐私权”“所有权”等敏感问题通过法律形式加以保护。

推动政府2.0建设。通过以移动技术为代表的云计算、大数据等新一代IT技术工具和社会性网络服务(SNS)、社交媒体为代表的社会工具应用,打造以用户创新、大众创新、开放创新、协同创新为特征的政务平台,实现从生产范式向服务范式的转变,通过政府、市场、社会的协同与互动塑造公共价值。


原文发布时间为:2013-09-17


本文来自云栖社区合作伙伴“大数据文摘”,了解相关信息可以关注“BigDataDigest”微信公众号

相关实践学习
简单用户画像分析
本场景主要介绍基于海量日志数据进行简单用户画像分析为背景,如何通过使用DataWorks完成数据采集 、加工数据、配置数据质量监控和数据可视化展现等任务。
SaaS 模式云数据仓库必修课
本课程由阿里云开发者社区和阿里云大数据团队共同出品,是SaaS模式云原生数据仓库领导者MaxCompute核心课程。本课程由阿里云资深产品和技术专家们从概念到方法,从场景到实践,体系化的将阿里巴巴飞天大数据平台10多年的经过验证的方法与实践深入浅出的讲给开发者们。帮助大数据开发者快速了解并掌握SaaS模式的云原生的数据仓库,助力开发者学习了解先进的技术栈,并能在实际业务中敏捷的进行大数据分析,赋能企业业务。 通过本课程可以了解SaaS模式云原生数据仓库领导者MaxCompute核心功能及典型适用场景,可应用MaxCompute实现数仓搭建,快速进行大数据分析。适合大数据工程师、大数据分析师 大量数据需要处理、存储和管理,需要搭建数据仓库?学它! 没有足够人员和经验来运维大数据平台,不想自建IDC买机器,需要免运维的大数据平台?会SQL就等于会大数据?学它! 想知道大数据用得对不对,想用更少的钱得到持续演进的数仓能力?获得极致弹性的计算资源和更好的性能,以及持续保护数据安全的生产环境?学它! 想要获得灵活的分析能力,快速洞察数据规律特征?想要兼得数据湖的灵活性与数据仓库的成长性?学它! 出品人:阿里云大数据产品及研发团队专家 产品 MaxCompute 官网 https://www.aliyun.com/product/odps 
相关文章
|
SQL 分布式计算 大数据
|
机器学习/深度学习 人工智能 安全
|
新零售 物联网 大数据
|
算法 大数据 数据挖掘