没有云计算就没有大数据

简介:

最近很多人跟我聊大数据,有客户,有朋友,还有应聘者。聊得越多却越怕谈大数据,为什么呢?比如有人跟我说他在做基因数据的大数据分析,我听到眼睛一亮,因为十几年前读书的时候做过一些基因序列分析方面的事情,知道这个很有价值但由于当时分析手段很落后也只得作罢,于是我赶紧问,你怎么分析?他说我把几千个人的基因数据片段拆分为多个维度,根据病例基因样本,放到Excel里XXXXX......


我顿时一口鲜血,#@%^#&^@#*......


这个例子虽然有些夸张,不过确实也能反应现在跟别人聊大数据时的困惑,做报表的说我做大数据分析,做工具的也说我做大数据分析。

5dc00065994826ce37f

那到底什么是大数据分析呢?


大数据分析应该至少具备三个特征:1. 客观  2. 实时 3. 多维


什么是客观? 比如我们要分析一群人当中哪些可能有抑郁或自杀倾向, 使用调查问卷是过去常见的手段,但调查问卷看起来是客观的,实际上却颇有偏颇。因为人在做问卷的时候本身就会根据问题本身进行一些主观倾向性的回答,并不一定是客观的。那么什么是客观的呢?这个人的日常行为、作息时间、朋友关系等,这些都是客观的数据。只有通过客观数据得到的结果才是准确的。如果数据不是客观数据,分析手段就算再先进,结果也不会太准确。


什么是实时?数据是有价值的,但是数据在不同时间段价值差别就非常大了,过了黄金时间段,数据就成垃圾。比如警察叔叔在抓捕逃犯时的交通监控数据,会随着时间的推移价值越来越低。再比如我们春晚时参与抢红包互动的用户访问情况和分布数据,过了那几个小时,业务上所期望带来的广告价值就成为0了。


什么是多维?事物有多个维度,比如我们要分析一个人的征信情况来判断借款给这个人的风险是多少?只是收集他的收入情况、公司、学历、历史银行还款记录等基本信息是不够的。实际上一个人除了这些数据维度,还有更广阔的维度,比如他的消费习惯、购物情况、朋友数量和分布、所在公司的状况等等。所以数据一定要有足够多的维度分析才更精确,更有价值。

5dc000659972b393c33

说完这些可能有同学就会问了,你说的这几点在人类历史中,计算机出现以来都一直存在啊,为什么10年前没有大数据分析,最近几年大数据分析才热门起来呢?

没错,其实数据一直都在人类社会活动中不停地产生,大数据一直都存在,那么为什么今天我们才发现大数据的价值呢?有人问数据到底有没有价值?答案一定是有的,但是挖掘数据价值的投入产出比就不好说了。因为可能分析数据要100元,但是产生的结果价值也许只有50元。


这就是为什么以前人们上网、购物、玩游戏,产生的数据也很多,但是大部分的数据都没有产生价值,因为以前开采数据价值的代价太高了。进行数据分析的前提一定是要有低廉的存储成本和大规模的计算资源,以及高效的技术手段。这样才能通过20元的投入来获得50元的数据价值。


传统的IT手段解决不了这些问题,所以以前有大数据,但是并没有大数据分析,也很少有人从海量数据中得到太多的价值。其实数据的价值就像页岩油,一直都在那里,也是有价值的,但是当技术手段不成熟时,页岩油就是没有价值。直到“ 水平井与压裂技术 ”的出现和完善,使得开采页岩气的效率和成本大幅下降,造就了目前的页岩气能源革命,也引起了石油价格大幅下跌。云计算就相当于是页岩气革命中的“水平井与压裂技术”。因为云计算技术的出现帮助我们解决了海量存储和大规模计算的问题,这才有了大数据分析。


在传统IT架构下,很多的日志、用户行为记录、交易过程信息,要么是根本没有记录,要么就是因为无法有效产生价值而把这些数据都丢弃掉了。往往一个企业的交易相关数据量也就是几百GB到几个TB而已(视频和图片除外)

所以一个企业连数据都没有多少,怎么做大数据分析?

5dc000659968a6503e7

那么要想通过大数据分析来产生业务价值,第一步要做的是什么呢?其实不是去想怎么分析,而是先规划好数据的收集,只有先存储了足够多的数据,数据的价值才能够从量变到质变,从而为业务带来价值。就比如现在很多互联网公司收集用户行为以及交易状态数据,然后通过实时或者准实时的分析,再迅速调整业务策略来提高商品销量。


所以如果希望通过大数据的分析手段来获取数据价值,首先要解决海量数据的存储问题以及必须具备大规模计算的能力,有了这两个武器,数据的价值才能够高效的发掘。

相关实践学习
简单用户画像分析
本场景主要介绍基于海量日志数据进行简单用户画像分析为背景,如何通过使用DataWorks完成数据采集 、加工数据、配置数据质量监控和数据可视化展现等任务。
SaaS 模式云数据仓库必修课
本课程由阿里云开发者社区和阿里云大数据团队共同出品,是SaaS模式云原生数据仓库领导者MaxCompute核心课程。本课程由阿里云资深产品和技术专家们从概念到方法,从场景到实践,体系化的将阿里巴巴飞天大数据平台10多年的经过验证的方法与实践深入浅出的讲给开发者们。帮助大数据开发者快速了解并掌握SaaS模式的云原生的数据仓库,助力开发者学习了解先进的技术栈,并能在实际业务中敏捷的进行大数据分析,赋能企业业务。 通过本课程可以了解SaaS模式云原生数据仓库领导者MaxCompute核心功能及典型适用场景,可应用MaxCompute实现数仓搭建,快速进行大数据分析。适合大数据工程师、大数据分析师 大量数据需要处理、存储和管理,需要搭建数据仓库?学它! 没有足够人员和经验来运维大数据平台,不想自建IDC买机器,需要免运维的大数据平台?会SQL就等于会大数据?学它! 想知道大数据用得对不对,想用更少的钱得到持续演进的数仓能力?获得极致弹性的计算资源和更好的性能,以及持续保护数据安全的生产环境?学它! 想要获得灵活的分析能力,快速洞察数据规律特征?想要兼得数据湖的灵活性与数据仓库的成长性?学它! 出品人:阿里云大数据产品及研发团队专家 产品 MaxCompute 官网 https://www.aliyun.com/product/odps 
相关文章
|
1月前
|
存储 大数据 数据挖掘
云计算与大数据:从基础设施到实际应用
云计算与大数据:从基础设施到实际应用
100 0
|
1月前
|
存储 大数据 数据挖掘
python数据分析——大数据和云计算
大数据和云计算作为当代信息技术的两大核心驱动力,正在以前所未有的速度改变着我们的生活、工作和思维方式。它们不仅为各行各业的创新提供了强大的技术支持,更是推动了整个社会的数字化转型。 从大数据的角度来看,它的核心价值在于通过对海量数据的收集、存储、分析和挖掘,发现其中的关联性和趋势,从而为决策提供更为科学、精准的依据。无论是商业领域的市场预测、消费者行为分析,还是公共服务领域的城市规划、交通管理,大数据都发挥着不可或缺的作用。同时,随着物联网、传感器等技术的普及,大数据的来源和种类也在不断扩展,这使得我们能够更全面地认识世界,把握规律。
47 0
|
2月前
|
监控 物联网 大数据
智慧工地管理平台系统源码基于物联网、云计算、大数据等技术
智慧工地平台APP通过对施工过程人机料法环的全面感知、互联互通、智能协同,提高施工现场的生产效率、管理水平和决策能力,实现施工管理的数字化、智能化、精益化。
51 0
|
4月前
|
资源调度 分布式计算 大数据
【云计算与大数据技术】资源管理、调度模型策略的讲解
【云计算与大数据技术】资源管理、调度模型策略的讲解
102 0
|
4月前
|
资源调度 大数据 调度
【云计算与大数据技术】集群资源统一管理系统YARN、Mesos、Omega讲解(图文解释 超详细)
【云计算与大数据技术】集群资源统一管理系统YARN、Mesos、Omega讲解(图文解释 超详细)
61 2
|
4月前
|
消息中间件 大数据 Apache
【云计算与大数据技术】流计算讲解及集群日志文件实时分析实战(附源码)
【云计算与大数据技术】流计算讲解及集群日志文件实时分析实战(附源码)
43 1
|
4月前
|
机器学习/深度学习 分布式计算 大数据
【云计算与大数据技术】Spark实战项目之判别西瓜好坏(附源码和数据集)
【云计算与大数据技术】Spark实战项目之判别西瓜好坏(附源码和数据集)
44 0
|
2月前
|
分布式计算 DataWorks IDE
MaxCompute数据问题之忽略脏数据如何解决
MaxCompute数据包含存储在MaxCompute服务中的表、分区以及其他数据结构;本合集将提供MaxCompute数据的管理和优化指南,以及数据操作中的常见问题和解决策略。
47 0
|
2月前
|
SQL 存储 分布式计算
MaxCompute问题之下载数据如何解决
MaxCompute数据包含存储在MaxCompute服务中的表、分区以及其他数据结构;本合集将提供MaxCompute数据的管理和优化指南,以及数据操作中的常见问题和解决策略。
38 0
|
2月前
|
分布式计算 关系型数据库 MySQL
MaxCompute问题之数据归属分区如何解决
MaxCompute数据包含存储在MaxCompute服务中的表、分区以及其他数据结构;本合集将提供MaxCompute数据的管理和优化指南,以及数据操作中的常见问题和解决策略。
35 0

热门文章

最新文章