开发者社区> 问答> 正文

将table 查询结果写到csvtablesink,文件大小始终为0

已解决

image
在job ui上看任务是跑起来的,也有数组生成
image
对应的hdfs上的文件大小size一直为0
image

展开
收起
lbjj 2018-12-04 09:52:14 2961 0
1 条回答
写回答
取消 提交回答
  • 个人博客: http://wuchong.me
    采纳回答

    CsvTableSink 用在无限流的场景下的话,不会马上写出去,会 buffer 起来,在结束的时候会 flush 出去。所以一般常用在测试场景。在真实线上的话,建议用 StreamingFileSink 或者 RollingFileSink

    使用的时候: res.toAppendStream[Row].addSink(new StreamingFileSink(...))

    2019-07-17 23:18:12
    赞同 1 展开评论 打赏
问答地址:
问答排行榜
最热
最新

相关电子书

更多
俞航翔|基于Log的通用增量Checkpoint 立即下载
低代码开发师(初级)实战教程 立即下载
阿里巴巴DevOps 最佳实践手册 立即下载