别让商务大数据的思路,误了工业大数据

简介:

最近闭幕的十八届五中全会把大数据战略提高到一个前所未有的层面———实施国家大数据战略,推进数据资源开放共享。笔者在此想谈一下对推进工业大数据的一点看法。

大数据

大数据的概念与背景

大数据是最近几年才热起来的一个概念。大数据热大约在2012年前后在中国出现。其中,涂子沛先生的《大数据》一书起到了重要的作用。“除了上帝,任何人都必须用数据来说话”这句话,更是得到了时任广东省委书记汪洋(现为国务院副总理)的高度肯定。

读过这本书的人都知道:涂子沛关注的重点是大数据对政治、社会、伦理等方面的影响。后来,各家互联网公司、IT公司将人们关注的热点引向了商业领域,再经股评师的运作,使之成为全社会炙手可热的概念。与此同时,学术界不失时机地将大数据的概念引入了工业界。

然而,工业界重视数据分析早已不是新鲜事了。人们很早就希望通过数据发现客观规律、优化生产过程。例如,笔者25年前就开始涉足工业数据的分析研究,而数据挖掘等理论也早已广泛传播。对数据挖掘的价值,一种流行的观点是:当企业竞争进入白热化、所有手段都已用尽时,数据挖掘提供了领先半步的可能。与现在的观点相比,这个认识是相当低调的。当然,低调背后是有原因的,因为业界真正成功的案例其实非常少。

很多企业急于搭上“工业大数据”这趟快车,然而在现实中遇到了很多的困惑。

人们似乎都认为数据的作用很大,但从事过工业数据分析的人往往有这样的体会:分析过程往往达不到预想的目标,数据似乎并不是传说中的金矿。

这种困惑也体现在商务活动中。企业信息化建设原本应该遵循一个基本原则:用户需求驱动系统开发。从事大数据业务的IT公司对用户说:你说怎么做,我就怎么做;用户却说:我不知道能得到什么,也不知道该怎么做,最好你告诉我怎么做。

谁都不知道怎么做。于是,大家都被畅销书的理念忽悠着做事。然而,畅销书的观点是正确的吗?在笔者看来,畅销书上的观点往往对不上中国企业的现状———或将商务大数据的应用场景套在工业大数据,或将未来的场景套用到现在。

工业大数据与商务大数据有什么不同?

现在关于大数据的流行观点,几乎都是针对商务大数据的。然而,许多观点可能并不适合工业界。笔者认为,工业和商业至少有以下几点不同:

可发现的新知识少。一般来说,发现新知识是大数据分析的一个重要目的。然而,在工业领域,人们对生产过程的研究一般比较深入,专业知识也很丰富,很难从数据中发现新的知识。与之相比,商务活动的大数据分析往往涉及人的喜好,这些恰恰是过去难以量化研究的,故而大数据的含金量高。

对分析结果的质量要求高。工业界对分析结果的精度和可靠度要求高。如果将不可靠、不精确的分析结果用于指导生产,不仅不能创造价值,甚至可能导致极大的损失。与之相比,在许多商务大数据的应用场景下,即便分析错误,损失也不大。

分析难度高。工业系统往往是复杂的人造系统,包含大量复杂的前馈和反馈环节。这意味着,变量间的相关性往往不是自然的因果关系。这个问题很容易误导分析和决策的过程。另外,工业数据的信噪比往往比较低,分析结果很容易出现严重偏离事实的畸变(即所谓的有偏估计)。

相关性包含的信息少。在商务大数据中,数据之间的“相关性”本身往往就具有很大的参考价值,而在工业体系中则未必是这样。

工业大数据体现价值的场景有哪些?

价值是用户决定的。一杯水,放在沙漠里可以救命,剩在餐桌上就是垃圾。工业大数据也是一样,能否创造价值,首先是要看用在什么场景中。

笔者认为,用户对工业大数据提不出需求,是客观现实的真实反映。大数据有用,但合适的应用场景不一定是现在。下面分析几个有用的场景:

质量要求高的生产场景。制造业从什么时候开始重视数据?显然,当我们追求高质量、高稳定性的时候,数据会显得非常重要,数据的价值才得以体现。国外先进企业追求6Sigma(一种改善企业质量流程管理的技术,主要强调通过制定极高的目标、收集数据以及分析结果,来减少产品和服务的缺陷),故而强调数据的重要性;许多企业一味追求低成本,数据的重要性自然就会低。

高度自动化及智能化的生产场景。在高度自动化和智能化的生产单元,人的介入很少,对质量的要求一般也很高。这时,对设备健康状态和产品质量的自动监控就变得非常重要。

工业互联网的场景。工业互联网能使成千上万用户的数据实现共享。多个用户的共享会带来两个过去无法企及的效果。首先是分析结果的可靠性上升。这得益于来自不同用户的实例,可用于对分析结论的重复性认证。其次是分析结果可以在众多的用户中分享,以创造更大的价值。

在当今的中国企业中,符合上述要求的场景是不多见的。多数企业重视成本远甚于质量,智能制造和自动化的水平低,工业互联网尚未起步。由此可见,对中国多数企业来说,工业大数据的价值很可能只是“未来时”,虽然这个未来可能并不遥远。

推进工业大数据现在该做啥?

马云策划淘宝的年代,笔者正在浙江大学攻读博士学位。记得那时学校的网速只有每秒100个字节———这件事启发我们:机会往往发生在条件不太成熟的时候。所以,创新者的起步一定要早。在工业大数据全面应用之前,是我们培养能力、积累技术的时候。

但是,仅起步早是不够的,关键还要走对路子。正如培根所说:“跛足而走对路的人,胜过健步如飞却误入歧途者。”怎样尽早抓住机会呢?笔者认为,可以从以下几个方面做起:

一是理解工业大数据的本质作用

对企业来说,大数据用得好坏的关键是看能否创造出高于成本的价值。所以,笔者赞同从功能的角度定义工业大数据:大数据是过程(生产制造、研发服务、采购销售)痕迹的数字化记录,目的是为“用数据说话”奠定基础,是对已有系统所产生的数据的二次利用。

这意味着,工业大数据平台的建设,应该高度重视数据的组织,避免遗漏重要的数据以及数据之间的联系。例如,实时的设备状态和工艺参数应该与所生产的产品准确对应,相关的时钟不能混乱。

二是以方便“人”的分析为出发点

在商务大数据中,很多人强调机器学习,强调从大量数据中获得规律性、重复性的知识。对于工业大数据,这种认识要做调整:工业知识主要来自人脑,数据的作用是对已有认识的确认、分辨与准确化。这就意味着,大数据平台的要点是方便人从事分析工作。而人的分析工作往往是针对特定事件驱动的。

使得这些过程做到透明化,提高管理水平,通过更有效的管理创造效益。这样,建立大数据平台的一个重要任务是:让相关过程显性化,避免人陷落在信息和数据的海洋中,丧失关注的焦点。按照这个观点,在工业领域,“知识自动化”的重点应该是知识的管理,而非知识的发现。

三是正确认识工业大数据的知识发现

如前所述,由于工业数据体现出来的规律性往往难以突破人已有的认识范围,发现规律性的知识(如工艺与质量之间的关系)是比较困难的。然而,工业大数据往往适合发现另外一类知识,即从数据中提炼信息的知识,将物理量的检测数据转化成产品质量、能耗、效率、设备状态等信息的“软测量”算法,其实就是这种类型的知识。这些知识往往是生产技术人员并不熟悉的盲点。故而,从数据研究者的角度看,它们属于容易出成绩的领域。

过去,学术界对这些问题很热衷,企业却不重视,因为这种知识很难创造价值。不能创造价值的原因,是未能将其纳入管理或者控制的流程中,故而创造价值的途径不畅通。为此,企业可能会需要一个平台,以便将这些知识转化成数字化的模型,并纳入生产制造等流程中,以便创造经济价值。

四是注重与智能制造的结合

在笔者看来,数字化、网络化引发的智能制造大体是这样一个逻辑:信息驱动知识,在决策过程中创造价值、体现智能。其中,信息来自供应链、客户、智能设备、物联网,知识表现为软件化的模型,决策则包括自动或人工的管理与控制。

如前所述,工业大数据在这个逻辑中有两个重要作用:获取“从数据提炼成信息的知识”;决策和专业知识主要来自人脑,但需要用大数据将其验证、矫正和精确化。

五是加强数据分析可靠性理论研究

在工业系统中,可靠分析的结果才有使用价值。可靠性分析原本是统计理论的重要组成部分。但用于大数据明显是不合适的。这些理论的基本假设条件往往都是不成立的。而且,许多理论和著名观点也造成了大量的误导,如盲目强调分析结果的准确性、认为大数据强调相互关系而轻视因果等。

大数据的因果分析是个十分需要重视的领域,但过去主要是科学、哲学研究的范畴,统计学家对其重视不足。笔者认为,其实,可以从杜绝假象、通过证伪等思路来逼近因果。也就是说,重点分析那些容易导致错误结果的情况。同时,逻辑链的完整性和证据的独立性也很重要。

笔者认为,数据的质量和完整性是导致分析错误的重要诱因。因此,建立大数据平台时,不仅要关注数据本身,更要关注数据之间的对应性;不仅要关注数据是什么,还要关注数据的采集过程。数据的采集过程不同,意味着内涵发生了变化。如果数据质量不高,大数据很可能是一堆垃圾。这样看来,盲从商务大数据“非结构化”的观点也是不对的。


本文作者:佚名

来源:51CTO

相关实践学习
简单用户画像分析
本场景主要介绍基于海量日志数据进行简单用户画像分析为背景,如何通过使用DataWorks完成数据采集 、加工数据、配置数据质量监控和数据可视化展现等任务。
SaaS 模式云数据仓库必修课
本课程由阿里云开发者社区和阿里云大数据团队共同出品,是SaaS模式云原生数据仓库领导者MaxCompute核心课程。本课程由阿里云资深产品和技术专家们从概念到方法,从场景到实践,体系化的将阿里巴巴飞天大数据平台10多年的经过验证的方法与实践深入浅出的讲给开发者们。帮助大数据开发者快速了解并掌握SaaS模式的云原生的数据仓库,助力开发者学习了解先进的技术栈,并能在实际业务中敏捷的进行大数据分析,赋能企业业务。 通过本课程可以了解SaaS模式云原生数据仓库领导者MaxCompute核心功能及典型适用场景,可应用MaxCompute实现数仓搭建,快速进行大数据分析。适合大数据工程师、大数据分析师 大量数据需要处理、存储和管理,需要搭建数据仓库?学它! 没有足够人员和经验来运维大数据平台,不想自建IDC买机器,需要免运维的大数据平台?会SQL就等于会大数据?学它! 想知道大数据用得对不对,想用更少的钱得到持续演进的数仓能力?获得极致弹性的计算资源和更好的性能,以及持续保护数据安全的生产环境?学它! 想要获得灵活的分析能力,快速洞察数据规律特征?想要兼得数据湖的灵活性与数据仓库的成长性?学它! 出品人:阿里云大数据产品及研发团队专家 产品 MaxCompute 官网 https://www.aliyun.com/product/odps 
相关文章
|
4月前
|
NoSQL 物联网 大数据
【补充】助力工业物联网,工业大数据之AirFlow安装
【补充】助力工业物联网,工业大数据之AirFlow安装
58 1
|
4月前
|
Prometheus 数据可视化 Cloud Native
助力工业物联网,工业大数据之服务域:可视化工具Grafana介绍【三十八】
助力工业物联网,工业大数据之服务域:可视化工具Grafana介绍【三十八】
102 1
|
4月前
|
存储 SQL Oracle
助力工业物联网,工业大数据之服务域:项目总结【三十九】
助力工业物联网,工业大数据之服务域:项目总结【三十九】
43 1
|
4月前
|
SQL Prometheus 监控
助力工业物联网,工业大数据之服务域:node_exporter插件【三十七】
助力工业物联网,工业大数据之服务域:node_exporter插件【三十七】
35 1
|
4月前
|
存储 Prometheus Cloud Native
助力工业物联网,工业大数据之服务域:Prometheus的介绍【三十六】
助力工业物联网,工业大数据之服务域:Prometheus的介绍【三十六】
50 1
|
4月前
|
Prometheus 监控 Cloud Native
助力工业物联网,工业大数据之服务域:服务器性能监控Prometheus及项目总结【三十五】
助力工业物联网,工业大数据之服务域:服务器性能监控Prometheus及项目总结【三十五】
33 1
|
4月前
|
分布式计算 资源调度 物联网
助力工业物联网,工业大数据之服务域:定时调度使用【三十四】
助力工业物联网,工业大数据之服务域:定时调度使用【三十四】
34 1
|
4月前
|
Oracle 关系型数据库 大数据
助力工业物联网,工业大数据之服务域:Shell调度测试【三十三】
助力工业物联网,工业大数据之服务域:Shell调度测试【三十三】
20 1
|
4月前
|
监控 物联网 大数据
助力工业物联网,工业大数据之服务域:AirFlow的架构组件【三十二】
助力工业物联网,工业大数据之服务域:AirFlow的架构组件【三十二】
45 0
|
4月前
|
NoSQL 大数据 物联网
助力工业物联网,工业大数据之服务域:AirFlow的介绍【三十一】
助力工业物联网,工业大数据之服务域:AirFlow的介绍【三十一】
44 0