开发者社区> 问答> 正文

flink更新hbase时的数据一致性问题

在map等运算符中出现两个带有相同键的数字。第一个数字通过密钥从hbase获取值,添加它们并通过接收器将新值放入hbase(dataStream.write(new HBaseOutputFormat(),0L))。第二个值做同样的事情。在第一个数字更新到hbase之前,第二个数字是否有可能从hbase获得值?

展开
收起
flink小助手 2018-12-10 10:34:11 3105 0
1 条回答
写回答
取消 提交回答
  • flink小助手会定期更新直播回顾等资料和文章干货,还整合了大家在钉群提出的有关flink的问题及回答。

    您需要的是keyByDataStream API中的函数,或者groupBy在您使用DataSet API的情况下:请参阅Flink文档。这些功能确保始终由一个特定的插槽处理一个特定的密钥。一个插槽代表一个线程,这意味着即使并行度大于1,您的两个数字也会按顺序处理。

    当然,你必须确保put操作到HBase的阻止,所以你不能使用HBase的像相互作用的异步方式BufferedMutator或异步I / O操作员。

    2019-07-17 23:19:04
    赞同 展开评论 打赏
问答排行榜
最热
最新

相关电子书

更多
Flink CDC Meetup PPT - 龚中强 立即下载
Flink CDC Meetup PPT - 王赫 立即下载
Flink CDC Meetup PPT - 覃立辉 立即下载