系列 | 漫谈数仓第一篇NO.1 『基础架构』

系统管理员 2023-05-31 07:09 66阅读 0赞

**01. 架构演进**

离线数据仓库到实时数据仓库，从lambda架构到kappa架构、再到混合架构。本文不再多再介绍，之前文章已有深入介绍，如有兴趣可看这篇文章：

![640?wx\_fmt=jpeg][640_wx_fmt_jpeg]

**02. 逻辑分层**

数仓分层，一般按ods->dw->dm整体架构。不同的企业，不同的业务场景，有衍生出不同的分层架构模式。例如经典四层架构：ods->dwd->dws-ads，bdl->fdl->gdl->adl等。

![640?wx\_fmt=png][640_wx_fmt_png]

技术选型，传统数仓一般以Oracle、greenplum、teradata 等，互联网数仓一般以Hadoop生态圈为主，离线以Hive为核心，准实时以spark为核心，实时以flink为核心构建。

**03. 数据调研**

业务调研，业务侧对齐，遵循关系型数据库建模方式，从概念模型（cdm）->逻辑模型（ldm）->物理模型（pdm）建模套路，是一个从抽象到具体的一个不断细化完善的分析，设计和开发的过程。

![640?wx\_fmt=png][640_wx_fmt_png 1]

需求调研，现有BI报表需求，统计需求，用户画像，推荐系统等数据应用。

数据库调研，了解数据库表数据结构、数据形态，全局把握业务流程数据流向，做到真正业务流程和数据结构结合。

**04. 主题域划分**

业务高度抽象，可先确定企业业务bu模块，然后可根据概念模型（cdm）进行一级主题划分，确定一致性维度和事实流程，构建总线矩阵。

![640?wx\_fmt=png][640_wx_fmt_png 2]

*图片来源 Kimball《The Data Warehouse Toolkits，- 3rd Edition》*

按照kimball大师经典建模四步骤：选择业务过程->声明粒度->确定维度->确定事实 进行维度建模。

![640?wx\_fmt=png][640_wx_fmt_png 3]

**05. 数仓规范**

构建企业级数据仓库，必不可少的就是制定数仓规范。包括 命名规范，流程规范，设计规范，开发规范 等。无规矩不成方圆，建设数仓也是这样。![640?wx\_fmt=png][640_wx_fmt_png 4]

开发规范 示例：

![640?wx\_fmt=png][640_wx_fmt_png 5]

**06. 数据治理**

大数据时代必不可少的一个重要环节，可从数据质量、元数据管理、数据安全、数据生命周期等方面开展实施。数据治理是一个企业安身立命的根本。

数据质量，必须保证完整性、准确性、一致性、时效性。每一个任务都应该配置数据质量监控，严禁任务裸奔。可建设统一数据质量告警中心从以下四个方面进行监控、预警和优化任务。

![640?wx\_fmt=png][640_wx_fmt_png 6]

元数据管理，关于数据的数据。可分为技术元数据和业务元数据。对于数仓开发和维护，模型血缘关系尤为重要。

数据安全，可包含以下五方面的内容，即数据的保密性、真实性、完整性、未授权拷贝和所寄生系统的安全性。

**07. 数仓理念**

从80年代到现在，数据仓库流派之争已趋于稳缓，比较经典的就是数仓大师Kimball的维度建模、数仓之父Inmon的范式(E-R)建模，另外还有Data Vault建模、Anchor模型等。

*Kimball Data Warehouse Architecture：*

![640?wx\_fmt=png][640_wx_fmt_png 7]

*Inmon Data Warehouse Architecture：*

![640?wx\_fmt=png][640_wx_fmt_png 8]

**结语：**数仓是一种思想，数仓是一种规范，数仓是一种解决方案。

--------------------

01. 公众号后台回复「06」获取「数据仓库」「数据治理」等经典大数据和数据仓库电子书或视频赠送。

02. 如要获取《大牛带你从0到1建设数据仓库》实战高清PPT或数仓实战视频，请关注公众号后添加小助手微信\[ ID**：**iom1128昵称：紫霞仙子\]，备注：PPT。

03. 高手如云，拉您入群「数据」，「爬虫」、「资料分享」，公众号后台回复：**加群**。技术大佬们在等你，各种资源定期分享~

--------------------

![640?wx\_fmt=jpeg][640_wx_fmt_jpeg 1]

*欢迎关注公众号哦*

[640_wx_fmt_jpeg]: /images/20230531/46b6a8d14ea94212bfdb81704a70d4df.png
[640_wx_fmt_png]: /images/20230531/5c1800b2fb424439a9cee147924aecc7.png
[640_wx_fmt_png 1]: /images/20230531/88594d9d7d7940569492f460d137caf3.png
[640_wx_fmt_png 2]: /images/20230531/d92d0d82a13b45ebae89943a53b5ab20.png
[640_wx_fmt_png 3]: /images/20230531/7d1daea73fda41c9a9d222a21e29b7ff.png
[640_wx_fmt_png 4]: /images/20230531/0151eaf6be8f41cab167d68bf23dfadf.png
[640_wx_fmt_png 5]: /images/20230531/655a549f040d4dce8e68bb8e9c797bb2.png
[640_wx_fmt_png 6]: /images/20230531/12d42b65431c449da4ef9049397d1ff8.png
[640_wx_fmt_png 7]: /images/20230531/3c75960330ab464fbab2f25897420f94.png
[640_wx_fmt_png 8]: /images/20230531/b749e25c731b4e8495a798b867ae4eef.png
[640_wx_fmt_jpeg 1]: /images/20230531/21d5303e1d484edc92838086e6de493f.png