Hadoop World:中国企业崛起 开源贡献迅速攀升

  1. 云栖社区>
  2. 博客>
  3. 正文

Hadoop World:中国企业崛起 开源贡献迅速攀升

晚来风急 2017-08-02 15:00:00 浏览1083
展开阅读全文

8月4日,由O'Reilly和Cloudera共同举办的全球顶尖的大数据会议Strata+Hadoop World在北京召开。Strata+Hadoop World (SHW) 是世界最大的大数据盛会,它为各种技术提供了深度交流的机会,参会者在这里能看到最领先的技术、最广泛的应用场景、最有趣的用例教学,以及最全面的大数据行业和趋势探讨。

作为致力于聚集大数据领域最有影响力的产业决策者、战略专家、架构师、开发人员和分析师的国际性会议,从硅谷首次走进中国,旨在汇聚Hadoop生态最前沿科学与新兴商业基础的相互碰撞,共同打造产业和技术的未来。

SHW的演讲不仅涵盖了全世界大数据领域顶尖技术专家,同时还有各种大数据应用场景的经验介绍,包括金融、多媒体、零售、物流等。

我们现在的生活已经完全进入了信息化时代,可能所有人都间接用过Doug Cutting的作品,他是Lucene、Nutch 、Hadoop等项目的发起人。是他,把高深莫测的搜索技术形成产品,贡献给普通用户,同时还打造了目前在云计算和大数据领域里如日中天的 Hadoop。Doug Cutting现任Cloudera首席架构师,对于Hadoop在国内的推动,最近又有新进展。

清华大学数据科学研究院近日宣布与数据管理和分析平台Cloudera合作。在Cloudera CAP学术合作项目的支持下,清华大学和Cloudera将联合发布BASE (Big Analytics Skill Enablement)倡议,以期解决中国大数据行业的人才稀缺困境。

在合作项目仪式之后,笔者有幸对这位传奇人物Doug Cutting进行了采访,接下来让我们一起来听听创始人是如何解读Hadoop的吧。

Hadoop越来越重视安全

Hadoop如今已经成为开源的代名词之一,其应用范围也非常之广,但安全方面一直饱受争议。据Doug介绍:其实十年前在Hadoop创立的时候是没有做安全这块的,但是我们后来不断的加强对安全模块的研发,现在Hadoop也成为了非常安全的平台。

首先,Hadoop在登录安全方面已经做了增强,可以确保登录的人群是有着合法认证的。另外在文件层面也有安全保护,可以做到某一个栏或者某一个表格都只有一部分人能登录,经过认证的人能看到,其他没有权限的人看不到,所以这种权限管理和登录认证管理,还有文件保护管理都做得非常好。

动态保护方面,在网络上进行数据传输的时候也会有数据加密,通过数据加密的方式保护正在传输中的数据不会有泄密或者是安全的漏洞。而且Cloudera也在不断的研发新技术,对于Hadoop这个平台有层出不穷新的部分加入进来。

  与高校合作推动开源发展,培养更多人才

在高校合作方面Cloudera也是早有建树,据Doug介绍:我们在海外也跟很多大学在展开合作,这些合作的名单非常长,包括美国的大学,包括新加坡的大学还有亚洲其他国家大学,也包括欧洲的一些大学和研究机构。

合作的主要形式就是提供免费的课程,这些全套免费的课程Cloudera开发了很多年,免费提供给这样的大学共同展开合作。Cloudera在中国选取的第一个合作方是清华大学,今后还将会与更多的中国大学展开合作。

Doug Cutting亲自印证,国内企业对开源贡献非常多

最近一段时间笔者重点听了很多著名国内企业技术人员的演讲,他们大都会提到对开源社区的代码贡献。但实际情况到底如何呢?这个问题甩给Doug最好不过了。

Doug表示:中国的企业确实为整个Hadoop的开源社区做了大量的贡献,例如华为。华为很多年一直参与到Hadoop的开发,也贡献了很多,像阿里巴巴、腾讯包括一些大的中国互联网企业,他们都是Hadoop的使用者,同时也是Hadoop技术的贡献者,中国企业确实贡献非常多。

关于Hadoop开发包含两个层面,一个是Hadoop这个项目本身,第二就是围绕Hadoop的中心有很多其他组件进行开发。比如Linux,提到的不仅仅是内核,除了Linux内核以外还有很多其他应用软件运行在Linux之上,Hadoop也是如此。目前90%的Hadoop软件都是运行在Hadoop系统平台之上的,它来自Hadoop平台之外的开发。比如一些美国开发的软件是隶属于Hadoop整个生态体系之内的,相信越来越多开发者虽然不是直接来自Hadoop,但是在整个生态系统环境内Cloudera会打造一个非常丰富的生态系统,让更多的参与者能够进行开发。

Cloudera的模式之所以成功,也是基于Cloudera自身特点的,但对其他的开源厂商并非合适。Doug Cutting最后表示:每家公司都要去探索最适合自己的路和商业模式。我们也拭目以待看下一个十年会出现哪些商业模式。


本文作者:云中子

来源:51CTO

网友评论

登录后评论
0/500
评论
晚来风急
+ 关注