Spark 2.0 预览:更简单,更快,更智能

  1. 云栖社区>
  2. 博客>
  3. 正文

Spark 2.0 预览:更简单,更快,更智能

晚来风急 2017-06-02 14:34:00 浏览755
展开阅读全文

Apache Spark 2.0 技术预览在 Databricks Community Edition 发布。该预览包使用upstream branch-2.0构建,当启动Cluster时,使用预览包和选择“2.0 (Tech Preview)” 一样简单。
image

离最终的Apache Spark 2.0发布还有几个星期,现在先来看看有什么新特性:

image

更简单:SQL和简化的API

Spark 2.0依然拥有标准的SQL支持和统一的DataFrame/Dataset API。但我们扩展了Spark的SQL 性能,引进了一个新的ANSI SQL解析器并支持子查询。Spark 2.0可以运行所有的99 TPC-DS的查询,这需要很多的SQL:2003功能。

在编程API方面,我们已经简化了API:

统一Scala/Java下的DataFrames 和 Datasets

SparkSession

更简单、更高性能的Accumulator API

基于DataFrame的Machine Learning API 将成为主要的ML API

Machine Learning 管道持久性

R中的分布式算法

更快:Spark 作为一个编译器

Spark 2.0将拥有更快的速度,下图是Spark 2.0和Spark 1.6的速度对比图:
image

更智能:结构化数据流

通过在DataFrames之上构建持久化的应用程序来不断简化数据流,允许我们统一数据流,支持交互和批量查询。

文章转载自 开源中国社区[http://www.oschina.net]

网友评论

登录后评论
0/500
评论
晚来风急
+ 关注