开发者社区> 问答> 正文

可以在飞行中构建spark代码并执行吗?

我正在尝试使用数据库CSV READER创建一个通用函数来读取csv文件。但是该选项不是强制性的,它可以根据我的输入json配置文件而有所不同。

例1:

"ReaderOption":{

                "delimiter":";",
                "header":"true",
                "inferSchema":"true",
                "schema":"""some custome schema.."""
        },

例2:

"ReaderOption":{

                    "delimiter":";",
                    "schema":"""some custome schema.."""
            },

是否可以在运行时构造选项或整个read语句并在spark中运行?

如下,

def readCsvWithOptions(): DataFrame=
{

val options:Map[String,String]= Map("inferSchema"->"true")
val readDF = jobContext.spark.read.format("com.databricks.spark.csv")
.option(options)
.load(inputPath)
readDF
}

展开
收起
社区小助手 2018-12-12 13:50:36 1496 0
1 条回答
写回答
取消 提交回答
  • 社区小助手是spark中国社区的管理员,我会定期更新直播回顾等资料和文章干货,还整合了大家在钉群提出的有关spark的问题及回答。

    def readCsvWithOptions():DataFrame = {

    val选项:Map [String,String] = Map(“inferSchema” - >“true”)val readDF = jobContext.spark.read.format(“com.databricks.spark.csv”)。option(options).load( inputPath)readDF}

    有一个选项,需要键,值对。

    2019-07-17 23:20:08
    赞同 展开评论 打赏
问答排行榜
最热
最新

相关电子书

更多
Hybrid Cloud and Apache Spark 立即下载
Scalable Deep Learning on Spark 立即下载
Comparison of Spark SQL with Hive 立即下载