【DB】几种ETL模式

简介:

ETL(抽取、转换、装载)是企业信息化中系统集成、数据仓库软件经常遇到的。当面临以下情况时,需要有较好的模式来解决: 
* 大数据量
* 复杂逻辑
* 大量表

 下面列举几种模式,供大家参考。

image

image

image

image

image

image

 

 

 

 

 

也欢迎提出你的方案,共同探讨。




















本文转自DavyYew 51CTO博客,原文链接:http://blog.51cto.com/davyyew/705585,如需转载请自行联系原作者




相关文章
|
SQL 存储 运维
基于MySQL Catalog作为CDC源表示例操作
基于MySQL Catalog作为CDC源表示例操作
|
5月前
|
Oracle 关系型数据库 数据库
在Flink CDC中,使用Oracle 11g数据库的NUMBER类型作为主键
在Flink CDC中,使用Oracle 11g数据库的NUMBER类型作为主键
46 1
|
6月前
|
SQL Oracle 关系型数据库
如何使用 DATAX 以 UPSERT 语义更新下游 ORACLE 数据库中的数据?
如何使用 DATAX 以 UPSERT 语义更新下游 ORACLE 数据库中的数据?
|
SQL 分布式计算 运维
【大数据开发运维解决方案】Sqoop增量同步mysql/oracle数据到hive(merge-key/append)测试文档
上一篇文章介绍了sqoop全量同步数据到hive, 本片文章将通过实验详细介绍如何增量同步数据到hive,以及sqoop job与crontab定时结合无密码登录的增量同步实现方法。
【大数据开发运维解决方案】Sqoop增量同步mysql/oracle数据到hive(merge-key/append)测试文档
|
SQL Oracle 前端开发
摸鱼不如来了解一下--数据库DB与数据仓库DW区别和联系
数据库(DB)和数据仓库(DW)的区别与联系
145 0
|
SQL Oracle 关系型数据库
如何快速批量导入非Oracle DB格式的数据--sqlloader
在 Oracle 数据库中,我们通常在不同数据库的表间记录进行复制或迁移时会用以下几种方法
283 0
如何快速批量导入非Oracle DB格式的数据--sqlloader
|
存储 JSON NoSQL
数据集成模块中如何配置Mongo DB数据同步(2)
MongoDB是面向文档的NoSQL(非关系型)数据库,它的数据结构由字段(Field)和值(Value)组成,类似于JSON对象。 数据集成的Mongodb输出组件提供了写入Mongodb数据库的能力。本文重点介绍如何配置Mongodb的加载策略。
207 0
数据集成模块中如何配置Mongo DB数据同步(2)
|
存储 JSON NoSQL
数据集成模块中如何配置Mongo DB数据同步(1)
MongoDB是面向文档的NoSQL(非关系型)数据库,它的数据结构由字段(Field)和值(Value)组成,类似于JSON对象。 数据集成的Mongodb输入组件提供了从mongodb数据库中全量和增量两种读取方式,并且能够对数据自动进行数据分片,从而可以并发的高校读取数据。
2077 0
数据集成模块中如何配置Mongo DB数据同步(1)
|
关系型数据库 数据库 PostgreSQL
PostgreSQL的DB在表空间之间迁移
Background The  /data/01 disk space is insufficient, but /data/02 is sufficient, so we migrate some data to /data/02.
1546 0