设计和实现OLAP解决方案

简介: 设计和实现OLAP解决方案   第一讲 简介首先,啥叫数据仓库? 数据仓库就是数据的仓库!用外文说叫Data Warehouse,简称DW。 是不是哐当倒下一片啊,要不咱换个专业点的说法? 数据仓库是一个面向主题的、集成的、相对稳定的、反映历史变化的、包含商业信息的数据集合,用于支持管理决策。

设计和实现OLAP解决方案

 

第一讲 简介
首先,啥叫数据仓库?

数据仓库就是数据的仓库!用外文说叫Data Warehouse,简称DW。

是不是哐当倒下一片啊,要不咱换个专业点的说法?

数据仓库是一个面向主题的、集成的、相对稳定的、反映历史变化的、包含商业信息的数据集合,用于支持管理决策。

看得懂不?谅你也不懂。

算了,别叫这真了。

等你明白了舍生取义,你自然会明白什么是数据仓库的。

 

数据仓库里面有大量包含商业信息的数据,但是我们很难从中捕获信息,因为数据仓库一般有很大的数据量,要整理这些数据还是很麻烦的。

 

OLAP系统就是来解决其中一部份目标的。

先说什么是OLAP,发音噢勒普。联机分析处理,还是看不懂吧?

就是让你高效访问数据仓库的。

相对应的有一个OLTP,叫联机事务处理,就是我们平常用的数据库。

OLTP通常有大量并发添加和修改,随时变化,包含大量的数据,具有复杂的结构。

 

当我们把OLTP装载到DW中,一般就不再有修改,随着数据的增加而定期更新,而不是随频繁发生的事务而更新。结构和安全性也更简化,目的是提高分析查询的效率,而不是进行事务处理。

 

还有数据集市,叫Data Mart,数据集市是数据仓库的一种特殊形式,典型的数据集市包含面向专门主题的适合特定业务功能的企业数据子集。

你可以认为数据集市是数据仓库的一部份。

 

 

第二讲 OLAP概述
OLAP 技术使数据仓库能够快速响应重复而复杂的分析查询,从而使数据仓库能有效地用于联机分析。OLAP 的多维数据模型和数据聚合技术可以组织并汇总大量的数据,以便能够利用联机分析和图形工具迅速对数据进行评估。当分析人员搜寻答案或试探可能性时,在得到对历史数据查询的回答后,经常需要进行进一步查询。OLAP 系统可以快速灵活地为分析人员提供实时支持。

 

通常的OLAP应用有财务报表、市场分析、市场计划、客户服务等。

目前国内已经有大量丰富的应用,比如银行、证券、电信、生产、销售行业,都有很多的成功案例。

 

在OLAP中,数据不再以关系型数据结构存放,而是以多维的数据结构存放。不再具有Detail的数据,而是只有Roll up后的信息。

 

微软的Analysis Service是一个不错的OLAP系统,一点不吹牛的说,它处理速度快,查询速度快,功能完整,支持海量数据,而且处理后的数据量很小,没有数据爆炸的问题。

 

 

第三讲 数据仓库结构

数据仓库的基本结构就是Star Schema和SnowFlake Schema,星型结构和雪花结构。

了解结构之前先得理解两个基本名词:事实表FactTable和维度表Dimension Table。

什么是事实和维度呢?我今天在U-mart买了两块巧克力,价格23.54¥。

这就是一个事实。其中包含的信息有客户:我;日期:今天;地点:U-mart;产品:巧克力;数量:2;价格:23.54¥。客户、日期、地点、产品就是维度Dimension,数量和价格是度量值Measure。

 

 


 

这就是一个星型架构。

维度表至少包含维度的Key和Name,Key和Name可以是同一列。维度也可能没有维度表,比如这个架构中的日期维度就没有维度表。

一个多维数据集架构Cube Schema有且只有一个事实表,不过你要用几个base table组合成一个view来做事实表也可以。(Cube 的Partition里面可以使用不同的事实表,这是后话。)

 

维度是有层次level的,一个维度至少有两个层次,在大多数情况下维度的成员会按金字塔形布局排列,最上面总有一个All的层次,比如客户维度就有(所有客户)-(客户)这两个层次。维度除了常规维度外,还有父子维度、虚拟维度等。后面会详细介绍各种维度。

如果一个维度有多于2个层次,那么这个维度可能有多个维度表,例如:

 

 


 

这样的就是雪花结构。

 

 

From: http://dev-club.esnai.com/club/bbs/elist.asp?page=6&nofolder=&path=&boardid=23

相关实践学习
数据库实验室挑战任务-初级任务
本场景介绍如何开通属于你的免费云数据库,在RDS-MySQL中完成对学生成绩的详情查询,执行指定类型SQL。
阿里云云原生数据仓库AnalyticDB MySQL版 使用教程
云原生数据仓库AnalyticDB MySQL版是一种支持高并发低延时查询的新一代云原生数据仓库,高度兼容MySQL协议以及SQL:92、SQL:99、SQL:2003标准,可以对海量数据进行即时的多维分析透视和业务探索,快速构建企业云上数据仓库。 了解产品 https://www.aliyun.com/product/ApsaraDB/ads
目录
相关文章
|
4月前
|
存储 消息中间件 SQL
分钟级实时数据分析的背后——实时湖仓产品解决方案
袋鼠云在结合当前数据湖技术的基础上,建设实时湖仓平台,满足客户“快、精、准”的数据需求。本文将详细介绍实时湖仓产品解决方案,让企业能够更专注地去解决他们的业务价值。
65 0
|
11月前
|
运维 Cloud Native 安全
降本50%!阿里云发布AnalyticDB数仓升舱解决方案
降本50%!阿里云发布AnalyticDB数仓升舱解决方案
188 0
|
存储 关系型数据库 数据挖掘
直播预告 | 柏睿数据 × PolarDB 湖仓一体联合解决方案
作为阿里云PolarDB开源社区的生态伙伴,柏睿数据和PolarDB联手,根据产品的特殊点整合统一的解决方案,新方案融合数据湖和数据仓库成为一种新型的开放式数据平台架构,PolarDB做湖,RapidsDB做仓,将数据湖和数据仓库的优势充分结合,通过RapidsDB的federation能力构建在数据湖低成本的数据存储架构之上,又继承了数据仓库的数据处理、分析和管理功能。本次分享将详细介绍湖和仓的边界区分,业内的通用数据同步实现方案以及RapidsDB的技术特性。
直播预告 | 柏睿数据 × PolarDB 湖仓一体联合解决方案
|
存储 SQL 关系型数据库
柏睿数据+PolarDB湖仓一体联合解决方案
柏睿数据和PolarDB联手,根据产品的特殊点整合统一的解决方案,新方案融合数据湖和数据仓库成为一种新型的开放式数据平台架构,PolarDB做湖,RapidsDB做仓,将数据湖和数据仓库的优势充分结合,通过RapidsDB的federation能力构建在数据湖低成本的数据存储架构之上,又继承了数据仓库的数据处理、分析和管理功能。
柏睿数据+PolarDB湖仓一体联合解决方案
|
存储 SQL 分布式计算
Apaceh Hudi实时湖仓解决方案 统一的流批存储抽象
——陈玉兆 阿里巴巴技术专家 Apache Hudi PMC member Apache Calcite PMC member
349 0
Apaceh Hudi实时湖仓解决方案 统一的流批存储抽象
|
存储 关系型数据库 数据管理
【最佳实践】高性价比的数据归档解决方案(DMS + AnalyticDB PostgreSQL)
发布全新数据归档方案,依托DMS + AnalyticDB PostgreSQL Serverless版本,帮助客户用低价格实现海量数据的持久化,还可以对归档数据进行完善管理、高效寻回、查看并进行分析
【最佳实践】高性价比的数据归档解决方案(DMS + AnalyticDB PostgreSQL)
|
运维 Cloud Native 安全
重磅 | 阿里云发布AnalyticDB数仓升舱解决方案 可帮客户节省50% IT采购成本
阿里云发布AnalyticDB数据仓库升舱解决方案,可帮助金融、电信等行业客户实现传统数仓向云原生数据仓库的平滑升级。
382 0
重磅 | 阿里云发布AnalyticDB数仓升舱解决方案 可帮客户节省50% IT采购成本
|
运维 Cloud Native 安全
重磅 | 阿里云发布AnalyticDB数仓升舱解决方案 可帮客户节省50% IT采购成本
7月19日,在今日召开的“升舱计划实战峰会”上,阿里云发布AnalyticDB数据仓库升舱解决方案,可帮助金融、电信等行业客户实现传统数仓向云原生数据仓库的平滑升级,在IT采购成本(软件+硬件) 降低约50%的同时,复杂查询性能从分钟级缩减至秒级
363 0
重磅 | 阿里云发布AnalyticDB数仓升舱解决方案 可帮客户节省50% IT采购成本
|
SQL 监控 Cloud Native
前沿分享|阿里云数据库解决方案架构师 王宏宇:云原生数据仓库AnalyticDB在零售行业的深度应用和业务价值
本篇内容为2021云栖大会-云原生数据仓库AnalyticDB技术与实践峰会分论坛中,阿里云数据库解决方案架构师 王宏宇关于“云原生数据仓库AnalyticDB在零售行业的深度应用和业务价值”的分享。
292 0
前沿分享|阿里云数据库解决方案架构师 王宏宇:云原生数据仓库AnalyticDB在零售行业的深度应用和业务价值
|
存储 负载均衡 监控
基于 EMR OLAP 的开源实时数仓解决方案之 ClickHouse 事务实现
阿里云 EMR OLAP 与 Flink 团队深度合作,支持了 Flink 到 ClickHouse 的 Exactly-Once写入来保证整个实时数仓数据的准确性。本文介绍了基于 EMR OLAP 的开源实时数仓解决方案。
基于 EMR OLAP 的开源实时数仓解决方案之 ClickHouse 事务实现