Press "Enter" to skip to content

浅谈数仓分层和模型

本站内容均来自兴趣收集,如不慎侵害的您的相关权益,请留言告知,我们将尽快删除.谢谢.

 

ODS层基础层-ODS(Operational Data Store-操作型数据存储):主要是未经过加⼯的原始数据

 

中间层-CDM\EDW(Enterprise Data Warehouse-企业级数据仓库,Common Data Model,公共维度模型层):

 

dwd-明细整合层

 

dws-⾼粒度汇总层,⼀般为主题宽表

 

dim-维度表

 

应⽤层-ADM(Application Data Mart-应⽤数据集市):数据应⽤或数据集市所在的层次。

数仓分层意义

 

数仓为空间换时间,通过大量预处理,提升用户数据效率体现等。故而存在大量数据冗余。如果不分层,源业务系统的业务规则发生变化将会影响整个数据清洗过程,工作量巨大。通过数据分层管理可以简化数据清洗的过程,因为把原来一步的工作分到了多个步骤去完成,相当于把一个复杂的工作拆成了多个简单的工作,把一个大的黑盒变成了一个白盒,每一层的处理逻辑都相对简单和容易理解,这样我们比较容易保证每一个步骤的正确性,当数据发生错误的时候,往往我们只需要局部调整某个步骤即可。

 

数仓建模

 

维度建模的基本概念

 

维度建模(dimensional modeling)是专门用于分析型数据库、数据仓库、数据集市建模的方法。

 

它本身属于一种关系建模方法,但和之前在操作型数据库中介绍的关系建模方法相比增加了两个概念:

 

维度表(dimension)

 

表示对分析主题所属类型的描述。比如”昨天早上张三在京东花费200元购买了一个皮包”。那幺以购买为主题进行分析,可从这段信息中提取三个维度:时间维度(昨天早上),地点维度(京东), 商品维度(皮包)。通常来说维度表信息比较固定,且数据量小。

 

事实表(fact table)

 

表示对分析主题的度量。比如上面那个例子中,200元就是事实信息。事实表包含了与各维度表相关联的外码,并通过JOIN方式与维度表关联。事实表的度量通常是数值类型,且记录数会不断增加,表规模迅速增长。

 

星形模式(Star Schema)

 

星形模式(Star Schema)是最常用的维度建模方式,下图展示了使用星形模式进行维度建模的关系结构:

可以看出,星形模式的维度建模由一个事实表和一组维表,且具有以下特点:a. 维表只和事实表关联,维表之间没有关联;b. 每个维表的主码为单列,且该主码放置在事实表中,作为两边连接的外码;c. 以事实表为核心,维表围绕核心呈星形分布;

 

雪花模式

 

雪花模式(Snowflake Schema)是对星形模式的扩展,每个维表可继续向外连接多个子维表。下图为使用雪花模式进行维度建模的关系结构:

星形模式中的维表相对雪花模式来说要大,而且不满足规范化设计。雪花模型相当于将星形模式的大维表拆分成小维表,满足了规范化设计。然而这种模式在实际应用中很少见,因为这样做会导致开发难度增大,而数据冗余问题在数据仓库里并不严重。

 

星座模式

 

星座模式(Fact Constellations Schema)也是星型模式的扩展。基于这种思想就有了星座模式:

 

前面介绍的两种维度建模方法都是多维表对应单事实表,但在很多时候维度空间内的事实表不止一个,而一个维表也可能被多个事实表用到。在业务发展后期,绝大部分维度建模都采用的是星座模式。

 

三种模式对比

 

归纳一下,星形模式/雪花模式/星座模式的关系如下图所示:

 

雪花模式是将星型模式的维表进一步划分,使各维表均满足规范化设计。而星座模式则是允许星形模式中出现多个事实表。

Be First to Comment

发表评论

电子邮件地址不会被公开。 必填项已用*标注