备案控制台

开发者社区

开发者社区 > 大数据与机器学习 > 实时计算 Flink > 正文

使用spark 2.3 structed streaming 时 checkpoint 频繁在HDFS写小文件，块数到达百万级别，这个怎么优化下

请教各位大神们：使用spark 2.3 structed streaming 时 checkpoint 频繁在HDFS写小文件，块数到达千万级别，这个怎么优化下

展开

收起

社区小助手 2019-01-30 14:43:57 3390 0

1 条回答

写回答

取消提交回答

社区小助手

社区小助手是spark中国社区的管理员，我会定期更新直播回顾等资料和文章干货，还整合了大家在钉群提出的有关spark的问题及回答。

取消checkpoint呢

2019-07-17 23:27:19

赞同展开评论打赏

问答分类：

分布式计算流计算 Spark 实时计算 Flink版

问答标签：

文件存储HDFS版文件文件存储HDFS版checkpoint apache spark文件 apache spark streaming checkpoint文件存储HDFS版

问答地址：

开发者社区 > 大数据与机器学习 > 实时计算 Flink > 问答

版权声明：本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。

相关问答

实时计算 Flink版

Flink独立集群与hdfs集群不在一起，flink如何配置checkpoint目录为hdfs？

10

1

0

Flink有没有遇到过打checkpoint的时候，遇到写hdfs的错误然后一直卡死，怎么回事？

51

3

0

Flink里打包好的jar包上传运行，checkpoint在代码里可以设置oss-hdfs的地址么？

73

3

0

实时计算 Flink版写s3性能比写hdfs差，有什么优化的建议吗？

160

3

0

问一下大佬们，我们最近flink任务从checkpoint（hdfs存储)恢复，发现恢复信息里还尝试

479

2

0

问一下群里的大佬们，我们最近flink任务从checkpoint（hdfs存储)恢复，发现恢复信息里

157

1

0

我有个问题想请教一下，对于spark处理小文件，有没有什么优化方法

6632

3

0

spark任务想完整的部署，发布，执行调度，仅仅maxcompute组件权限够么，还需要datawo

807

1

0

Spark 读取Maxcompute 中的表进行处理，怎么弄？

818

1

0

maxcompute的底层引擎我用的都是mr，他是可以切换成spark吗？

1859

1

0

大数据与机器学习

实时计算 Flink

实时计算Flink版是阿里云提供的全托管Serverless Flink云服务，基于 Apache Flink 构建的企业级、高性能实时大数据处理系统。提供全托管版 Flink 集群和引擎，提高作业开发运维效率。

我要提问

热门讨论

热门文章

Flink-CDC 文档网站地址是什么？

FlinkCDC MySQL 中 scan.startup.mode 用的是什么模式啊？

Flink CDC有遇见这个问题的吗？

Flink1.17为什么需要JDK 11呢？JDK8我试了也能运行

flink谁遇到过这种问题嘛？怎么解决啊？

flink cdc，读取datetime类型，全都变成了时间戳，怎么解决？下游是可以解决。但是我想知

各位老师，请教个问题，flink 会在本地 /tmp 目录下产生大量flink-临时文件，目前看好？

Flink CDC中Starroks和doris哪个强一点？

flink1.15启动后无法访问webui的问题有人遇到过吗

Flink这个未授权访问漏洞有什么解决方案吗？

展开全部

数据仓库介绍与实时数仓案例

权威详解 | 阿里新一代实时计算引擎 Blink，每秒支持数十亿次计算

Flink+Paimon+Hologres 构建实时湖仓数据分析

通过Flink实时构建搜索引擎的索引

Flume+Kafka+Flink+Redis构建大数据实时处理系统：实时统计网站PV、UV展示

阿里云实时计算产品案例&解决方案汇总

流计算精品翻译: The Dataflow Model

Flink SQL 功能解密系列 —— 流式 TopN 挑战与实现

Apache Flink 的迁移之路，2 年处理效果提升 5 倍

Flink Checkpoint 问题排查实用指南

展开全部

相关课程

更多

大数据实战项目：反爬虫系统（Lua+Spark+Redis+Hadoop框架搭建）第三阶段

92

25

去学习

大数据实战项目：反爬虫系统（Lua+Spark+Redis+Hadoop框架搭建）第四阶段

106

19

去学习

大数据实战项目：反爬虫系统（Lua+Spark+Redis+Hadoop框架搭建）第五阶段

125

32

去学习

大数据实战项目 - 反爬虫系统（Lua+Spark+Redis+Hadoop框架搭建）第七阶段

324

9

去学习

Hadoop 分布式文件系统 HDFS

945

43

去学习

大数据实时计算框架Spark快速入门

778

93

去学习

相关电子书

更多

EXTENDING SPARK WITH JAVA AGENTS 立即下载

Spark Streaming At Bing Scale 立即下载

海量数据分布式存储——Apache HDFS之最新进展 立即下载