开发者社区> 问答> 正文

如何在writeStream到Elasticsearch之前将JSON数组转换为行?

如何在writeStream到Elasticsearch之前将JSON数组转换为行?

展开
收起
社区小助手 2018-12-11 17:32:30 1625 0
1 条回答
写回答
取消 提交回答
  • 社区小助手是spark中国社区的管理员,我会定期更新直播回顾等资料和文章干货,还整合了大家在钉群提出的有关spark的问题及回答。

    这里没有必要pivot或聚合。如果B确实是列Array[Map[String, String]](array>在SQL类型中),您只需要一个简单的select或withColumn:

    df
    .withColumn("B", explode($"B"))
    .select($"A", $"B"("C") as "C", $"B"("D") as "D")

    2019-07-17 23:19:56
    赞同 展开评论 打赏
问答排行榜
最热
最新

相关电子书

更多
阿里云Elasticsearch体系架构与特性解析 立即下载
开源与云:Elasticsearch应用剖析 立即下载
《Elasticsearch全观测解决方案》 立即下载