图片清单:online-education-dw.md¶
- 文档:
source/_posts/DataWareHouseOffline/online-education-dw.md - 图片引用 69 张,已重绘 0 张,本清单列出 69 张,文件缺失 0 个
| # | key | 文件 | 尺寸 | 大小 | 行 | 状态 |
|---|---|---|---|---|---|---|
| 1 | image1 |
image1.png |
984×549 | 55 KB | 15 | 待处理 |
| 2 | image2 |
image2.png |
744×420 | 63 KB | 53 | 待处理 |
| 3 | image3 |
image3.png |
744×418 | 46 KB | 57 | 待处理 |
| 4 | image4 |
image4.png |
744×427 | 78 KB | 61 | 待处理 |
| 5 | image5 |
image5.png |
746×419 | 48 KB | 65 | 待处理 |
| 6 | image6 |
image6.png |
1302×893 | 104 KB | 69 | 待处理 |
| 7 | image7 |
image7.png |
1133×898 | 63 KB | 81 | 待处理 |
| 8 | image8 |
image8.png |
744×418 | 107 KB | 277 | 待处理 |
| 9 | image9 |
image9.png |
744×418 | 25 KB | 299 | 待处理 |
| 10 | image10 |
image10.png |
744×418 | 34 KB | 303 | 待处理 |
| 11 | image11 |
image11.png |
752×422 | 39 KB | 307 | 待处理 |
| 12 | image12 |
image12.png |
984×549 | 120 KB | 337 | 待处理 |
| 13 | image13 |
image13.png |
984×549 | 85 KB | 343 | 待处理 |
| 14 | image14 |
image14.png |
984×549 | 51 KB | 359 | 待处理 |
| 15 | image15 |
image15.png |
956×438 | 50 KB | 394 | 待处理 |
| 16 | image16 |
image16.png |
146×102 | 3 KB | 400 | 待处理 |
| 17 | image17 |
image17.png |
977×546 | 87 KB | 420 | 待处理 |
| 18 | image18 |
image18.png |
984×549 | 81 KB | 428 | 待处理 |
| 19 | image19 |
image19.png |
146×103 | 4 KB | 442 | 待处理 |
| 20 | image20 |
image20.png |
146×106 | 4 KB | 446 | 待处理 |
| 21 | image21 |
image21.png |
146×102 | 3 KB | 450 | 待处理 |
| 22 | image22 |
image22.png |
1141×678 | 37 KB | 602 | 待处理 |
| 23 | image23 |
image23.png |
530×406 | 32 KB | 649 | 待处理 |
| 24 | image24 |
image24.png |
999×845 | 70 KB | 655 | 待处理 |
| 25 | image25 |
image25.png |
989×359 | 34 KB | 663 | 待处理 |
| 26 | image26 |
image26.png |
538×314 | 26 KB | 667 | 待处理 |
| 27 | image27 |
image27.png |
709×818 | 69 KB | 671 | 待处理 |
| 28 | image28 |
image28.png |
1600×526 | 89 KB | 675 | 待处理 |
| 29 | image29 |
image29.png |
470×615 | 44 KB | 779 | 待处理 |
| 30 | image30 |
image30.png |
740×359 | 32 KB | 783 | 待处理 |
| 31 | image31 |
image31.png |
839×277 | 13 KB | 787 | 待处理 |
| 32 | image32 |
image32.png |
744×418 | 22 KB | 1942 | 待处理 |
| 33 | image33 |
image33.png |
744×418 | 41 KB | 1948 | 待处理 |
| 34 | image34 |
image34.png |
738×415 | 43 KB | 1952 | 待处理 |
| 35 | image35 |
image35.png |
738×415 | 64 KB | 1982 | 待处理 |
| 36 | image36 |
image36.png |
744×418 | 21 KB | 2649 | 待处理 |
| 37 | image37 |
image37.png |
738×415 | 29 KB | 2655 | 待处理 |
| 38 | image38 |
image38.png |
744×418 | 26 KB | 2730 | 待处理 |
| 39 | image39 |
image39.png |
738×415 | 42 KB | 2768 | 待处理 |
| 40 | image40 |
image40.png |
738×415 | 42 KB | 2868 | 待处理 |
| 41 | image41 |
image41.png |
1600×614 | 157 KB | 7617 | 待处理 |
| 42 | image42 |
image42.png |
1203×478 | 23 KB | 7811 | 待处理 |
| 43 | image43 |
image43.png |
881×601 | 28 KB | 7927 | 待处理 |
| 44 | image44 |
image44.png |
148×101 | 3 KB | 10984 | 待处理 |
| 45 | image45 |
image45.png |
1366×625 | 16 KB | 11022 | 待处理 |
| 46 | image46 |
image46.png |
1600×712 | 93 KB | 11028 | 待处理 |
| 47 | image47 |
image47.png |
1600×731 | 215 KB | 11034 | 待处理 |
| 48 | image48 |
image48.png |
1600×748 | 206 KB | 11050 | 待处理 |
| 49 | image49 |
image49.png |
1600×786 | 73 KB | 11073 | 待处理 |
| 50 | image50 |
image50.png |
1600×900 | 315 KB | 11079 | 待处理 |
| 51 | image51 |
image51.png |
1600×900 | 318 KB | 11083 | 待处理 |
| 52 | image52 |
image52.png |
1600×900 | 317 KB | 11087 | 待处理 |
| 53 | image53 |
image53.png |
1600×900 | 319 KB | 11091 | 待处理 |
| 54 | image54 |
image54.png |
1600×900 | 322 KB | 11095 | 待处理 |
| 55 | image55 |
image55.png |
1600×900 | 322 KB | 11099 | 待处理 |
| 56 | image56 |
image56.png |
1600×900 | 324 KB | 11103 | 待处理 |
| 57 | image57 |
image57.png |
1600×900 | 323 KB | 11107 | 待处理 |
| 58 | image58 |
image58.png |
1600×900 | 321 KB | 11111 | 待处理 |
| 59 | image59 |
image59.png |
1600×900 | 321 KB | 11115 | 待处理 |
| 60 | image60 |
image60.png |
616×766 | 30 KB | 11119 | 待处理 |
| 61 | image61 |
image61.png |
1600×787 | 227 KB | 11123 | 待处理 |
| 62 | image62 |
image62.png |
1600×451 | 106 KB | 11129 | 待处理 |
| 63 | image63 |
image63.png |
1600×442 | 106 KB | 11133 | 待处理 |
| 64 | image64 |
image64.png |
1600×900 | 334 KB | 11137 | 待处理 |
| 65 | image65 |
image65.png |
1600×726 | 32 KB | 11155 | 待处理 |
| 66 | image66 |
image66.png |
1366×625 | 38 KB | 11159 | 待处理 |
| 67 | image67 |
image67.png |
1366×625 | 49 KB | 11163 | 待处理 |
| 68 | image45 |
image45.png |
1366×625 | 16 KB | 11167 | 待处理 |
| 69 | image68 |
image68.png |
1600×656 | 60 KB | 11171 | 待处理 |
1. image1 · 第 15 行 · 待处理¶
- 读图路径:
D:/studybigdata/source/_posts/DataWareHouseOffline/assets/img/online-education-dw/image1.png - 章节:第1章 数据仓库概述 > 1.1 数据仓库概念 > 1.2 数据仓库核心架构
- 上文:
1.1 数据仓库概念¶
数据仓库是一个为数据分析而设计的企业级数据管理系统。数据仓库可集中、整合多个信息源的大量数据,借助数据仓库的分析能力,企业可从数据中获得宝贵的信息进而改进决策。同时,随着时间的推移,数据仓库中积累的大量历史数据对于数据科学家和业务分析师也是十分宝贵的。
1.2 数据仓库核心架构¶
- 下文:
第2章 数据仓库建模概述¶
2.1 数据仓库建模的意义¶
如果把数据看作图书馆里的书,我们希望看到它们在书架上分门别类地放置;如果把数据看作城市的建筑,我们希望城市规划布局合理;如果把数据看作电脑文件和文件夹,我们希望按照自己的习惯有很好的文件夹组织方式,而不是糟糕混乱的桌面,经常为找一个文件而不知所措。
2. image2 · 第 53 行 · 待处理¶
- 读图路径:
D:/studybigdata/source/_posts/DataWareHouseOffline/assets/img/online-education-dw/image2.png - 章节:2.1 数据仓库建模的意义 > 2.2 数据仓库建模方法论 > 2.2.1 ER模型
- 上文:
这一系列范式就是指在设计关系型数据库时,需要遵从的不同的规范。关系型数据库的范式一共有六种,分别是第一范式(1NF)、第二范式(2NF)、第三范式(3NF)、巴斯-科德范式(BCNF)、第四范式(4NF)和第五范式(5NF)。遵循的范式级别越高,数据冗余性就越低。 3)三范式 (1)函数依赖
- 下文:
(2)第一范式 (3)第二范式 (4)第三范式
3. image3 · 第 57 行 · 待处理¶
- 读图路径:
D:/studybigdata/source/_posts/DataWareHouseOffline/assets/img/online-education-dw/image3.png - 章节:2.1 数据仓库建模的意义 > 2.2 数据仓库建模方法论 > 2.2.1 ER模型
- 上文:
3)三范式 (1)函数依赖 (2)第一范式
- 下文:
(3)第二范式 (4)第三范式 下图为一个采用Bill Inmon倡导的建模方法构建的模型,从图中可以看出,较为松散、零碎,物理表数量多。
4. image4 · 第 61 行 · 待处理¶
- 读图路径:
D:/studybigdata/source/_posts/DataWareHouseOffline/assets/img/online-education-dw/image4.png - 章节:2.1 数据仓库建模的意义 > 2.2 数据仓库建模方法论 > 2.2.1 ER模型
- 上文:
(1)函数依赖 (2)第一范式 (3)第二范式
- 下文:
(4)第三范式 下图为一个采用Bill Inmon倡导的建模方法构建的模型,从图中可以看出,较为松散、零碎,物理表数量多。 这种建模方法的出发点是整合数据,其目的是将整个企业的数据进行组合和合并,并进行规范处理,减少数据冗余性,保证数据的一致性。这种模型并不适合直接用于分析统计。
5. image5 · 第 65 行 · 待处理¶
- 读图路径:
D:/studybigdata/source/_posts/DataWareHouseOffline/assets/img/online-education-dw/image5.png - 章节:2.1 数据仓库建模的意义 > 2.2 数据仓库建模方法论 > 2.2.1 ER模型
- 上文:
(2)第一范式 (3)第二范式 (4)第三范式
- 下文:
下图为一个采用Bill Inmon倡导的建模方法构建的模型,从图中可以看出,较为松散、零碎,物理表数量多。 这种建模方法的出发点是整合数据,其目的是将整个企业的数据进行组合和合并,并进行规范处理,减少数据冗余性,保证数据的一致性。这种模型并不适合直接用于分析统计。
2.2.2 维度模型¶
6. image6 · 第 69 行 · 待处理¶
- 读图路径:
D:/studybigdata/source/_posts/DataWareHouseOffline/assets/img/online-education-dw/image6.png - 章节:2.1 数据仓库建模的意义 > 2.2 数据仓库建模方法论 > 2.2.1 ER模型
- 上文:
(3)第二范式 (4)第三范式 下图为一个采用Bill Inmon倡导的建模方法构建的模型,从图中可以看出,较为松散、零碎,物理表数量多。
- 下文:
这种建模方法的出发点是整合数据,其目的是将整个企业的数据进行组合和合并,并进行规范处理,减少数据冗余性,保证数据的一致性。这种模型并不适合直接用于分析统计。
2.2.2 维度模型¶
数据仓库领域的令一位大师——Ralph Kimball倡导的建模方法为维度建模。维度模型将复杂的业务通过事实和维度两个概念进行呈现。事实通常对应业务过程,而维度通常对应业务过程发生时所处的环境。
7. image7 · 第 81 行 · 待处理¶
- 读图路径:
D:/studybigdata/source/_posts/DataWareHouseOffline/assets/img/online-education-dw/image7.png - 章节:2.2 数据仓库建模方法论 > 2.2.1 ER模型 > 2.2.2 维度模型
- 上文:
数据仓库领域的令一位大师——Ralph Kimball倡导的建模方法为维度建模。维度模型将复杂的业务通过事实和维度两个概念进行呈现。事实通常对应业务过程,而维度通常对应业务过程发生时所处的环境。 注:业务过程可以概括为一个个不可拆分的行为事件,例如在线教育交易中的下单,付款,加购等,都是业务过程。 下图为一个典型的维度模型,其中位于中心的SalesOrder为事实表,其中保存的是下单这个业务过程的所有记录。位于周围每张表都是维度表,包括Date(日期),Customer(顾客),Product(产品),Location(地区)等,这些维度表就组成了每个订单发生时所处的环境,即何人、何时、在何地下单了何种产品。从图中可以看出,模型相对清晰、简洁。
- 下文:
维度建模以数据分析作为出发点,为数据分析服务,因此它关注的重点的用户如何更快的完成需求分析以及如何实现较好的大规模复杂查询的响应性能。
第3章 维度建模理论之事实表¶
3.1 事实表概述¶
8. image8 · 第 277 行 · 待处理¶
- 读图路径:
D:/studybigdata/source/_posts/DataWareHouseOffline/assets/img/online-education-dw/image8.png - 章节:4.2 维度表设计步骤 > 4.3 维度设计要点 > 4.3.1 规范化与反规范化
- 上文:
规范化是指使用一系列范式设计数据库的过程,其目的是减少数据冗余,增强数据的一致性。通常情况下,规范化之后,一张表的字段会拆分到多张表。 反规范化是指将多张表的数据冗余到一张表,其目的是减少join操作,提高查询性能。 在设计维度表时,如果对其进行规范化,得到的维度模型称为雪花模型,如果对其进行反规范化,得到的模型称为星型模型。
- 下文:
数据仓库系统的主要目的是用于数据分析和统计,所以是否方便用户进行统计分析决定了模型的优劣。采用雪花模型,用户在统计分析的过程中需要大量的关联操作,使用复杂度高,同时查询性能很差,而采用星型模型,则方便、易用且性能好。所以出于易用性和性能的考虑,维度表一般是很不规范化的。
4.3.2 维度变化¶
维度属性通常不是静态的,而是会随时间变化的,数据仓库的一个重要特点就是反映历史的变化,所以如何保存维度的历史状态是维度设计的重要工作之一。保存维度数据的历史状态,通常有以下两种做法,分别是全量快照表和拉链表。
9. image9 · 第 299 行 · 待处理¶
- 读图路径:
D:/studybigdata/source/_posts/DataWareHouseOffline/assets/img/online-education-dw/image9.png - 章节:4.3 维度设计要点 > 4.3.1 规范化与反规范化 > 4.3.2 维度变化
- 上文:
2)拉链表 拉链表的意义就在于能够更加高效的保存维度信息的历史状态。 (1)什么是拉链表
- 下文:
(2)为什么要做拉链表 (3)如何使用拉链表
4.3.3 多值维度¶
10. image10 · 第 303 行 · 待处理¶
- 读图路径:
D:/studybigdata/source/_posts/DataWareHouseOffline/assets/img/online-education-dw/image10.png - 章节:4.3 维度设计要点 > 4.3.1 规范化与反规范化 > 4.3.2 维度变化
- 上文:
拉链表的意义就在于能够更加高效的保存维度信息的历史状态。 (1)什么是拉链表 (2)为什么要做拉链表
- 下文:
(3)如何使用拉链表
4.3.3 多值维度¶
如果事实表中一条记录在某个维度表中有多条记录与之对应,称为多值维度。例如,下单事实表中的一条记录为一个订单,一个订单可能包含多个课程,所以课程维度表中就可能有多条数据与之对应。
11. image11 · 第 307 行 · 待处理¶
- 读图路径:
D:/studybigdata/source/_posts/DataWareHouseOffline/assets/img/online-education-dw/image11.png - 章节:4.3 维度设计要点 > 4.3.1 规范化与反规范化 > 4.3.2 维度变化
- 上文:
(1)什么是拉链表 (2)为什么要做拉链表 (3)如何使用拉链表
- 下文:
4.3.3 多值维度¶
如果事实表中一条记录在某个维度表中有多条记录与之对应,称为多值维度。例如,下单事实表中的一条记录为一个订单,一个订单可能包含多个课程,所以课程维度表中就可能有多条数据与之对应。 针对这种情况,通常采用以下两种方案解决。
12. image12 · 第 337 行 · 待处理¶
- 读图路径:
D:/studybigdata/source/_posts/DataWareHouseOffline/assets/img/online-education-dw/image12.png - 章节:4.3.4 多值属性 > 第5章 数据仓库设计 > 5.1 数据仓库分层规划
- 上文:
第5章 数据仓库设计¶
5.1 数据仓库分层规划¶
优秀可靠的数仓体系,需要良好的数据分层结构。合理的分层,能够使数据体系更加清晰,使复杂问题得以简化。以下是该项目的分层规划。
- 下文:
5.2 数据仓库构建流程¶
以下是构建数据仓库的完整流程。
5.2.1 数据调研¶
13. image13 · 第 343 行 · 待处理¶
- 读图路径:
D:/studybigdata/source/_posts/DataWareHouseOffline/assets/img/online-education-dw/image13.png - 章节:第5章 数据仓库设计 > 5.1 数据仓库分层规划 > 5.2 数据仓库构建流程
- 上文:
优秀可靠的数仓体系,需要良好的数据分层结构。合理的分层,能够使数据体系更加清晰,使复杂问题得以简化。以下是该项目的分层规划。
5.2 数据仓库构建流程¶
以下是构建数据仓库的完整流程。
- 下文:
5.2.1 数据调研¶
数据调研重点要做两项工作,分别是业务调研和需求分析。这两项工作做的是否充分,直接影响着数据仓库的质量。 1)业务调研
14. image14 · 第 359 行 · 待处理¶
- 读图路径:
D:/studybigdata/source/_posts/DataWareHouseOffline/assets/img/online-education-dw/image14.png - 章节:5.1 数据仓库分层规划 > 5.2 数据仓库构建流程 > 5.2.1 数据调研
- 上文:
熟悉业务流程要求做到,明确每个业务的具体流程,需要将该业务所包含的每个业务过程一一列举出来。 熟悉业务数据要求做到,将数据(包括埋点日志和业务数据表)与业务过程对应起来,明确每个业务过程会对哪些表的数据产生影响,以及产生什么影响。产生的影响,需要具体到,是新增一条数据,还是修改一条数据,并且需要明确新增的内容或者是修改的逻辑。 下面以在线教育中的交易业务为例进行演示,交易业务涉及到的业务过程有用户试听、用户下单、用户支付,具体流程如下图。
- 下文:
2)需求分析 典型的需求指标如,最近一天各省份 Java 学科订单总额。 分析需求时,需要明确需求所需的业务过程及维度,例如该需求所需的业务过程就是用户下单,所需的维度有日期,省份,科目。
15. image15 · 第 394 行 · 待处理¶
- 读图路径:
D:/studybigdata/source/_posts/DataWareHouseOffline/assets/img/online-education-dw/image15.png - 章节:5.2.1 数据调研 > 5.2.2 明确数据域 > 5.2.3 构建业务总线矩阵
- 上文:
| 学习域 | 观看视频 |
5.2.3 构建业务总线矩阵¶
业务总线矩阵中包含维度模型所需的所有事实(业务过程)以及维度,以及各业务过程与各维度的关系。矩阵的行是一个个业务过程,矩阵的列是一个个的维度,行列的交点表示业务过程与维度的关系。
- 下文:
一个业务过程对应维度模型中一张事务型事实表,一个维度则对应维度模型中的一张维度表。所以构建业务总线矩阵的过程就是设计维度模型的过程。但是需要注意的是,总线矩阵中通常只包含事务型事实表,另外两种类型的事实表需单独设计。 按照事务型事实表的设计流程,选择业务过程🡪声明粒度🡪确认维度🡪确认事实,得到的最终的业务总线矩阵见以下表格。 后续的DWD层以及DIM层的搭建需参考业务总线矩阵。
16. image16 · 第 400 行 · 待处理¶
- 读图路径:
D:/studybigdata/source/_posts/DataWareHouseOffline/assets/img/online-education-dw/image16.png - 章节:5.2.1 数据调研 > 5.2.2 明确数据域 > 5.2.3 构建业务总线矩阵
- 上文:
业务总线矩阵中包含维度模型所需的所有事实(业务过程)以及维度,以及各业务过程与各维度的关系。矩阵的行是一个个业务过程,矩阵的列是一个个的维度,行列的交点表示业务过程与维度的关系。 一个业务过程对应维度模型中一张事务型事实表,一个维度则对应维度模型中的一张维度表。所以构建业务总线矩阵的过程就是设计维度模型的过程。但是需要注意的是,总线矩阵中通常只包含事务型事实表,另外两种类型的事实表需单独设计。 按照事务型事实表的设计流程,选择业务过程🡪声明粒度🡪确认维度🡪确认事实,得到的最终的业务总线矩阵见以下表格。
- 下文:
后续的DWD层以及DIM层的搭建需参考业务总线矩阵。
5.2.4 明确统计指标¶
明确统计指标具体的工作是,深入分析需求,构建指标体系。构建指标体系的主要意义就是指标定义标准化。所有指标的定义,都必须遵循同一套标准,这样能有效的避免指标定义存在歧义,指标定义重复等问题。
17. image17 · 第 420 行 · 待处理¶
- 读图路径:
D:/studybigdata/source/_posts/DataWareHouseOffline/assets/img/online-education-dw/image17.png - 章节:5.2.2 明确数据域 > 5.2.3 构建业务总线矩阵 > 5.2.4 明确统计指标
- 上文:
例如订单总额就是一个典型的原子指标,其中的业务过程为用户下单、度量值为订单金额,聚合逻辑为sum()求和。需要注意的是原子指标只是用来辅助定义指标一个概念,通常不会对应有实际统计需求与之对应。 (2)派生指标 派生指标基于原子指标,其与原子指标的关系如下图所示。
- 下文:
与原子指标不同,派生指标通常会对应实际的统计需求。请从图中的例子中,体会指标定义标准化的含义。 (3)衍生指标 衍生指标是在一个或多个派生指标的基础上,通过各种逻辑运算复合而成的。例如比率、比例等类型的指标。衍生指标也会对应实际的统计需求。
18. image18 · 第 428 行 · 待处理¶
- 读图路径:
D:/studybigdata/source/_posts/DataWareHouseOffline/assets/img/online-education-dw/image18.png - 章节:5.2.2 明确数据域 > 5.2.3 构建业务总线矩阵 > 5.2.4 明确统计指标
- 上文:
与原子指标不同,派生指标通常会对应实际的统计需求。请从图中的例子中,体会指标定义标准化的含义。 (3)衍生指标 衍生指标是在一个或多个派生指标的基础上,通过各种逻辑运算复合而成的。例如比率、比例等类型的指标。衍生指标也会对应实际的统计需求。
- 下文:
2)指标体系对于数仓建模的意义 通过上述两个具体的案例可以看出,绝大多数的统计需求,都可以使用原子指标、派生指标以及衍生指标这套标准去定义。同时能够发现这些统计需求都直接的或间接的对应一个或者是多个派生指标。 当统计需求足够多时,必然会出现部分统计需求对应的派生指标相同的情况。这种情况下,我们就可以考虑将这些公共的派生指标保存下来,这样做的主要目的就是减少重复计算,提高数据的复用性。
19. image19 · 第 442 行 · 待处理¶
- 读图路径:
D:/studybigdata/source/_posts/DataWareHouseOffline/assets/img/online-education-dw/image19.png - 章节:5.2.2 明确数据域 > 5.2.3 构建业务总线矩阵 > 5.2.4 明确统计指标
- 上文:
这些公共的派生指标统一保存在数据仓库的DWS层。因此DWS层设计,就可以参考我们根据现有的统计需求整理出的派生指标。 按照上述标准整理出的指标体系如下: (1)思维导图版
- 下文:
(2)PDF版 从上述指标体系中抽取出来的所有派生指标见如下表格。
5.2.4 维度模型设计¶
20. image20 · 第 446 行 · 待处理¶
- 读图路径:
D:/studybigdata/source/_posts/DataWareHouseOffline/assets/img/online-education-dw/image20.png - 章节:5.2.2 明确数据域 > 5.2.3 构建业务总线矩阵 > 5.2.4 明确统计指标
- 上文:
按照上述标准整理出的指标体系如下: (1)思维导图版 (2)PDF版
- 下文:
从上述指标体系中抽取出来的所有派生指标见如下表格。
5.2.4 维度模型设计¶
维度模型的设计参照上述得到的业务总线矩阵即可。事实表存储在DWD层,维度表存储在DIM层。
21. image21 · 第 450 行 · 待处理¶
- 读图路径:
D:/studybigdata/source/_posts/DataWareHouseOffline/assets/img/online-education-dw/image21.png - 章节:5.2.2 明确数据域 > 5.2.3 构建业务总线矩阵 > 5.2.4 明确统计指标
- 上文:
(1)思维导图版 (2)PDF版 从上述指标体系中抽取出来的所有派生指标见如下表格。
- 下文:
5.2.4 维度模型设计¶
维度模型的设计参照上述得到的业务总线矩阵即可。事实表存储在DWD层,维度表存储在DIM层。
5.2.5 汇总模型设计¶
22. image22 · 第 602 行 · 待处理¶
- 读图路径:
D:/studybigdata/source/_posts/DataWareHouseOffline/assets/img/online-education-dw/image22.png - 章节:6.1 数据仓库运行环境 > 6.1.1 Hive环境搭建 > SPARK_HOME
- 上文:
(3)通过insert测试效果 hive (default)> insert into table student values(1,'abc'); 若结果如下,则说明配置成功
- 下文:
6.1.2 Yarn环境配置¶
1)增加ApplicationMaster资源比例 容量调度器对每个资源队列中同时运行的Application Master占用的资源进行了限制,该限制通过yarn.scheduler.capacity.maximum-am-resource-percent参数实现,其默认值是0.1,表示每个资源队列上Application Master最多可使用的资源为该队列总资源的10%,目的是防止大部分资源都被Application Master占用,而导致Map/Reduce Task无法执行。
23. image23 · 第 649 行 · 待处理¶
- 读图路径:
D:/studybigdata/source/_posts/DataWareHouseOffline/assets/img/online-education-dw/image23.png - 章节:SPARK_HOME > 6.1.2 Yarn环境配置 > 6.2 数据仓库开发环境
- 上文:
[atguigu@hadoop102 hive]$ hiveserver2 2)配置DataGrip连接 (1)创建连接
- 下文:
(2)配置连接属性 所有属性配置,和Hive的beeline客户端配置一致即可。初次使用,配置过程会提示缺少JDBC驱动,按照提示下载即可。 3)测试使用
24. image24 · 第 655 行 · 待处理¶
- 读图路径:
D:/studybigdata/source/_posts/DataWareHouseOffline/assets/img/online-education-dw/image24.png - 章节:SPARK_HOME > 6.1.2 Yarn环境配置 > 6.2 数据仓库开发环境
- 上文:
(1)创建连接 (2)配置连接属性 所有属性配置,和Hive的beeline客户端配置一致即可。初次使用,配置过程会提示缺少JDBC驱动,按照提示下载即可。
- 下文:
3)测试使用 创建数据库gmall,并观察是否创建成功。 (1)创建数据库
25. image25 · 第 663 行 · 待处理¶
- 读图路径:
D:/studybigdata/source/_posts/DataWareHouseOffline/assets/img/online-education-dw/image25.png - 章节:SPARK_HOME > 6.1.2 Yarn环境配置 > 6.2 数据仓库开发环境
- 上文:
3)测试使用 创建数据库gmall,并观察是否创建成功。 (1)创建数据库
- 下文:
(2)查看数据库 (3)修改连接,指明连接数据库 (4)选择当前数据库为edu2077
26. image26 · 第 667 行 · 待处理¶
- 读图路径:
D:/studybigdata/source/_posts/DataWareHouseOffline/assets/img/online-education-dw/image26.png - 章节:SPARK_HOME > 6.1.2 Yarn环境配置 > 6.2 数据仓库开发环境
- 上文:
创建数据库gmall,并观察是否创建成功。 (1)创建数据库 (2)查看数据库
- 下文:
(3)修改连接,指明连接数据库 (4)选择当前数据库为edu2077
6.3 模拟数据准备¶
27. image27 · 第 671 行 · 待处理¶
- 读图路径:
D:/studybigdata/source/_posts/DataWareHouseOffline/assets/img/online-education-dw/image27.png - 章节:SPARK_HOME > 6.1.2 Yarn环境配置 > 6.2 数据仓库开发环境
- 上文:
(1)创建数据库 (2)查看数据库 (3)修改连接,指明连接数据库
- 下文:
(4)选择当前数据库为edu2077
6.3 模拟数据准备¶
通常企业在开始搭建数仓时,业务系统中会存在历史数据,一般是业务数据库存在历史数据,而用户行为日志无历史数据。假定数仓上线的日期为2022-02-21,为模拟真实场景,需准备以下数据。
28. image28 · 第 675 行 · 待处理¶
- 读图路径:
D:/studybigdata/source/_posts/DataWareHouseOffline/assets/img/online-education-dw/image28.png - 章节:SPARK_HOME > 6.1.2 Yarn环境配置 > 6.2 数据仓库开发环境
- 上文:
(2)查看数据库 (3)修改连接,指明连接数据库 (4)选择当前数据库为edu2077
- 下文:
6.3 模拟数据准备¶
通常企业在开始搭建数仓时,业务系统中会存在历史数据,一般是业务数据库存在历史数据,而用户行为日志无历史数据。假定数仓上线的日期为2022-02-21,为模拟真实场景,需准备以下数据。 注:在执行以下操作之前,先将HDFS上/origin_data路径下之前的数据删除。
29. image29 · 第 779 行 · 待处理¶
- 读图路径:
D:/studybigdata/source/_posts/DataWareHouseOffline/assets/img/online-education-dw/image29.png - 章节:6.2 数据仓库开发环境 > 6.3 模拟数据准备 > 6.4 Hive 常见问题及解决方式
- 上文:
(ii)使用工具 以 COLUMNS_V2 表中COMMENT 字段的修改为例 a)右键点击表名,选择设计表
- 下文:
b)在右侧页面中选中表的字段 c)在页面下方下拉列表中将字符集改为 utf8 修改字符集之后,已存在的中文注释能否正确显示?不能。为何?
30. image30 · 第 783 行 · 待处理¶
- 读图路径:
D:/studybigdata/source/_posts/DataWareHouseOffline/assets/img/online-education-dw/image30.png - 章节:6.2 数据仓库开发环境 > 6.3 模拟数据准备 > 6.4 Hive 常见问题及解决方式
- 上文:
以 COLUMNS_V2 表中COMMENT 字段的修改为例 a)右键点击表名,选择设计表 b)在右侧页面中选中表的字段
- 下文:
c)在页面下方下拉列表中将字符集改为 utf8 修改字符集之后,已存在的中文注释能否正确显示?不能。为何? 数据库中的字符都是通过编码存储的,写入时编码,读取时解码。修改字段编码并不会改变此前数据的编码方式,依然为默认的 latin1,此时读取之前的中文注释会用 utf8 解码,编解码方式不一致,依然乱码。
31. image31 · 第 787 行 · 待处理¶
- 读图路径:
D:/studybigdata/source/_posts/DataWareHouseOffline/assets/img/online-education-dw/image31.png - 章节:6.2 数据仓库开发环境 > 6.3 模拟数据准备 > 6.4 Hive 常见问题及解决方式
- 上文:
a)右键点击表名,选择设计表 b)在右侧页面中选中表的字段 c)在页面下方下拉列表中将字符集改为 utf8
- 下文:
修改字符集之后,已存在的中文注释能否正确显示?不能。为何? 数据库中的字符都是通过编码存储的,写入时编码,读取时解码。修改字段编码并不会改变此前数据的编码方式,依然为默认的 latin1,此时读取之前的中文注释会用 utf8 解码,编解码方式不一致,依然乱码。 (2)修改url连接
32. image32 · 第 1942 行 · 待处理¶
- 读图路径:
D:/studybigdata/source/_posts/DataWareHouseOffline/assets/img/online-education-dw/image32.png - 章节:8.7 地区维度表(全量) > 8.8 时间维度表(特殊) > 8.9 用户维度表(拉链表)
- 上文:
LOCATION '/warehouse/edu/dim/dim_user_zip/' TBLPROPERTIES ('orc.compress' = 'snappy'); 2)分区规划
- 下文:
3)数据装载 (1)数据装载过程 (2)数据流向
33. image33 · 第 1948 行 · 待处理¶
- 读图路径:
D:/studybigdata/source/_posts/DataWareHouseOffline/assets/img/online-education-dw/image33.png - 章节:8.7 地区维度表(全量) > 8.8 时间维度表(特殊) > 8.9 用户维度表(拉链表)
- 上文:
2)分区规划 3)数据装载 (1)数据装载过程
- 下文:
(2)数据流向 (3)首日装载 insert overwrite table edu.dim_user_zip
34. image34 · 第 1952 行 · 待处理¶
- 读图路径:
D:/studybigdata/source/_posts/DataWareHouseOffline/assets/img/online-education-dw/image34.png - 章节:8.7 地区维度表(全量) > 8.8 时间维度表(特殊) > 8.9 用户维度表(拉链表)
- 上文:
3)数据装载 (1)数据装载过程 (2)数据流向
- 下文:
(3)首日装载 insert overwrite table edu.dim_user_zip partition (dt = '9999-12-31')
35. image35 · 第 1982 行 · 待处理¶
- 读图路径:
D:/studybigdata/source/_posts/DataWareHouseOffline/assets/img/online-education-dw/image35.png - 章节:8.7 地区维度表(全量) > 8.8 时间维度表(特殊) > 8.9 用户维度表(拉链表)
- 上文:
and type = 'bootstrap-insert'; (4)每日装载 装载思路
- 下文:
装载语句 set hive.exec.dynamic.partition.mode=nonstrict; insert overwrite table edu.dim_user_zip
36. image36 · 第 2649 行 · 待处理¶
- 读图路径:
D:/studybigdata/source/_posts/DataWareHouseOffline/assets/img/online-education-dw/image36.png - 章节:8.10.2 每日装载脚本 > 第9章 数仓开发之DWD层 > 9.1 交易域加购事务事实表
- 上文:
LOCATION '/warehouse/edu/dwd/dwd_trade_cart_add_inc/' TBLPROPERTIES ('orc.compress' = 'snappy'); 2)分区规划
- 下文:
3)数据装载 (1)数据流向 (2)首日装载
37. image37 · 第 2655 行 · 待处理¶
- 读图路径:
D:/studybigdata/source/_posts/DataWareHouseOffline/assets/img/online-education-dw/image37.png - 章节:8.10.2 每日装载脚本 > 第9章 数仓开发之DWD层 > 9.1 交易域加购事务事实表
- 上文:
2)分区规划 3)数据装载 (1)数据流向
- 下文:
(2)首日装载 insert overwrite table edu.dwd_trade_cart_add_inc select data.id,
38. image38 · 第 2730 行 · 待处理¶
- 读图路径:
D:/studybigdata/source/_posts/DataWareHouseOffline/assets/img/online-education-dw/image38.png - 章节:9.1 交易域加购事务事实表 > 9.2 交易域加购周期快照事实表 > 9.3 交易域试听下单累积快照事实表
- 上文:
where dt = '2022-02-21' and deleted = '0' and sold = '0';
9.3 交易域试听下单累积快照事实表¶
- 下文:
1)建表语句 DROP TABLE IF EXISTS dwd_trade_course_order_inc; CREATE EXTERNAL TABLE dwd_trade_course_order_inc
39. image39 · 第 2768 行 · 待处理¶
- 读图路径:
D:/studybigdata/source/_posts/DataWareHouseOffline/assets/img/online-education-dw/image39.png - 章节:9.1 交易域加购事务事实表 > 9.2 交易域加购周期快照事实表 > 9.3 交易域试听下单累积快照事实表
- 上文:
TBLPROPERTIES ('orc.compress' = 'snappy'); 2)数据装载 (1)首日装载
- 下文:
set hive.exec.dynamic.partition.mode=nonstrict; with play as (
40. image40 · 第 2868 行 · 待处理¶
- 读图路径:
D:/studybigdata/source/_posts/DataWareHouseOffline/assets/img/online-education-dw/image40.png - 章节:9.1 交易域加购事务事实表 > 9.2 交易域加购周期快照事实表 > 9.3 交易域试听下单累积快照事实表
- 上文:
) final left join dim_course on course_id = dim_course.id; (2)每日装载
- 下文:
set hive.exec.dynamic.partition.mode=nonstrict; with play as (select id,
41. image41 · 第 7617 行 · 待处理¶
- 读图路径:
D:/studybigdata/source/_posts/DataWareHouseOffline/assets/img/online-education-dw/image41.png - 章节:11.1 流量主题 > 11.1.1 各来源流量统计 > 11.1.2 路径分析
- 上文:
用户路径分析,顾名思义,就是指用户在APP或网站中的访问路径。为了衡量网站优化的效果或营销推广的效果,以及了解用户行为偏好,时常要对访问路径进行分析。 用户访问路径的可视化通常使用桑基图。如下图所示,该图可真实还原用户的访问路径,包括页面跳转和页面访问次序。 桑基图需要我们提供每种页面跳转的次数,每个跳转由source/target表示,source指跳转起始页面,target表示跳转终到页面。
- 下文:
1)建表语句 DROP TABLE IF EXISTS ads_traffic_page_path; CREATE EXTERNAL TABLE ads_traffic_page_path
42. image42 · 第 7811 行 · 待处理¶
- 读图路径:
D:/studybigdata/source/_posts/DataWareHouseOffline/assets/img/online-education-dw/image42.png - 章节:11.1.3 各来源下单统计 > 11.2 用户主题 > 11.2.1 用户变动统计
- 上文:
留存分析是衡量产品对用户价值高低的重要指标。 此处要求统计新增留存率,新增留存率具体是指留存用户数与新增用户数的比值,例如2022-02-21新增100个用户,1日之后(2022-02-22)这100人中有80个人活跃了,那2022-02-21的1日留存数则为80,2022-02-21的1日留存率则为80%。 要求统计每天的1至7日留存率,如下图所示。
- 下文:
1)建表语句 DROP TABLE IF EXISTS ADS_USER_USER_RETENTION; CREATE EXTERNAL TABLE ADS_USER_USER_RETENTION
43. image43 · 第 7927 行 · 待处理¶
- 读图路径:
D:/studybigdata/source/_posts/DataWareHouseOffline/assets/img/online-education-dw/image43.png - 章节:11.2.1 用户变动统计 > 11.2.3 用户新增活跃统计 > 11.2.4 用户行为漏斗分析
- 上文:
on new.recent_days = act.recent_days;
11.2.4 用户行为漏斗分析¶
漏斗分析是一个数据分析模型,它能够科学反映一个业务过程从起点到终点各阶段用户转化情况。由于其能将各阶段环节都展示出来,故哪个阶段存在问题,就能一目了然。
- 下文:
该需求要求统计一个完整的购物流程各个阶段的人数,具体说明如下: | 统计周期 | 指标 | 说明 | |----------------|--------------------|--------------|
44. image44 · 第 10984 行 · 待处理¶
- 读图路径:
D:/studybigdata/source/_posts/DataWareHouseOffline/assets/img/online-education-dw/image44.png - 章节:12.2.4 编写每日导出脚本 > 第13章 数据仓库工作流调度 > 13.1 调度工具部署
- 上文:
[atguigu@hadoop102 bin]$ hdfs_to_mysql.sh all
第13章 数据仓库工作流调度¶
13.1 调度工具部署¶
- 下文:
13.2 数据准备¶
此处需要模拟生成一天的新数据,作为全流程调度的测试数据。 1)执行集群启动脚本,开启Hadoop、ZooKeeper、Kafka以及用户行为数据采集系统。
45. image45 · 第 11022 行 · 待处理¶
- 读图路径:
D:/studybigdata/source/_posts/DataWareHouseOffline/assets/img/online-education-dw/image45.png - 章节:13.2 数据准备 > 13.3 工作流调度实操 > 13.3.1 DolphinScheduler集群模式
- 上文:
1)启动DolphinScheduler [atguigu@hadoop102 dolphinscheduler]$ bin/start-all.sh 2)使用普通用户登录
- 下文:
3)向DolphinScheduler资源中心上传工作流所需脚本 (1)创建文件夹 (2)上传工作流所需脚本
46. image46 · 第 11028 行 · 待处理¶
- 读图路径:
D:/studybigdata/source/_posts/DataWareHouseOffline/assets/img/online-education-dw/image46.png - 章节:13.2 数据准备 > 13.3 工作流调度实操 > 13.3.1 DolphinScheduler集群模式
- 上文:
2)使用普通用户登录 3)向DolphinScheduler资源中心上传工作流所需脚本 (1)创建文件夹
- 下文:
(2)上传工作流所需脚本 将工作流所需的所有脚本上传到资源中心scripts路径下,结果如下 4)向DolphinScheduler的WorkerServer节点分发脚本依赖的组件
47. image47 · 第 11034 行 · 待处理¶
- 读图路径:
D:/studybigdata/source/_posts/DataWareHouseOffline/assets/img/online-education-dw/image47.png - 章节:13.2 数据准备 > 13.3 工作流调度实操 > 13.3.1 DolphinScheduler集群模式
- 上文:
(1)创建文件夹 (2)上传工作流所需脚本 将工作流所需的所有脚本上传到资源中心scripts路径下,结果如下
- 下文:
4)向DolphinScheduler的WorkerServer节点分发脚本依赖的组件 由于工作流要执行的脚本需要调用Hive、DataX等组件,故在DolphinScheduler的集群模式下,需要确保每个WorkerServer节点都有脚本所依赖的组件。 [atguigu@hadoop102 ~]$ xsync /opt/module/hive/
48. image48 · 第 11050 行 · 待处理¶
- 读图路径:
D:/studybigdata/source/_posts/DataWareHouseOffline/assets/img/online-education-dw/image48.png - 章节:13.2 数据准备 > 13.3 工作流调度实操 > 13.3.1 DolphinScheduler集群模式
- 上文:
[atguigu@hadoop102 ~]$ xsync /opt/module/datax/ 5)配置运行环境 (1)切换到 admin 用户,在环境管理下创建环境
- 下文:
(2)在环境配置中添加如下内容 标红部分根据集群情况修改。 export HADOOP_HOME=/opt/module/hadoop-3.1.3
49. image49 · 第 11073 行 · 待处理¶
- 读图路径:
D:/studybigdata/source/_posts/DataWareHouseOffline/assets/img/online-education-dw/image49.png - 章节:13.2 数据准备 > 13.3 工作流调度实操 > 13.3.1 DolphinScheduler集群模式
- 上文:
export PATH=$HADOOP_HOME/bin:$SPARK_HOME1/bin:$SPARK_HOME2/bin:$PYTHON_HOME:$JAVA_HOME/bin:$HIVE_HOME/bin:$FLINK_HOME/bin:$DATAX_HOME/bin:$PATH 6)创建工作流 (1)在edu项目下创建工作流
- 下文:
(2)各任务节点配置如下 mysql_to_hdfs_full hdfs_to_ods_db
50. image50 · 第 11079 行 · 待处理¶
- 读图路径:
D:/studybigdata/source/_posts/DataWareHouseOffline/assets/img/online-education-dw/image50.png - 章节:13.2 数据准备 > 13.3 工作流调度实操 > 13.3.1 DolphinScheduler集群模式
- 上文:
(1)在edu项目下创建工作流 (2)各任务节点配置如下 mysql_to_hdfs_full
- 下文:
hdfs_to_ods_db hdfs_to_ods_log ods_to_dwd
51. image51 · 第 11083 行 · 待处理¶
- 读图路径:
D:/studybigdata/source/_posts/DataWareHouseOffline/assets/img/online-education-dw/image51.png - 章节:13.2 数据准备 > 13.3 工作流调度实操 > 13.3.1 DolphinScheduler集群模式
- 上文:
(2)各任务节点配置如下 mysql_to_hdfs_full hdfs_to_ods_db
- 下文:
hdfs_to_ods_log ods_to_dwd ods_to_dim
52. image52 · 第 11087 行 · 待处理¶
- 读图路径:
D:/studybigdata/source/_posts/DataWareHouseOffline/assets/img/online-education-dw/image52.png - 章节:13.2 数据准备 > 13.3 工作流调度实操 > 13.3.1 DolphinScheduler集群模式
- 上文:
mysql_to_hdfs_full hdfs_to_ods_db hdfs_to_ods_log
- 下文:
ods_to_dwd ods_to_dim dwd_to_dws_1d
53. image53 · 第 11091 行 · 待处理¶
- 读图路径:
D:/studybigdata/source/_posts/DataWareHouseOffline/assets/img/online-education-dw/image53.png - 章节:13.2 数据准备 > 13.3 工作流调度实操 > 13.3.1 DolphinScheduler集群模式
- 上文:
hdfs_to_ods_db hdfs_to_ods_log ods_to_dwd
- 下文:
ods_to_dim dwd_to_dws_1d dws_1d_to_dws_nd
54. image54 · 第 11095 行 · 待处理¶
- 读图路径:
D:/studybigdata/source/_posts/DataWareHouseOffline/assets/img/online-education-dw/image54.png - 章节:13.2 数据准备 > 13.3 工作流调度实操 > 13.3.1 DolphinScheduler集群模式
- 上文:
hdfs_to_ods_log ods_to_dwd ods_to_dim
- 下文:
dwd_to_dws_1d dws_1d_to_dws_nd dws_1d_to_dws_td
55. image55 · 第 11099 行 · 待处理¶
- 读图路径:
D:/studybigdata/source/_posts/DataWareHouseOffline/assets/img/online-education-dw/image55.png - 章节:13.2 数据准备 > 13.3 工作流调度实操 > 13.3.1 DolphinScheduler集群模式
- 上文:
ods_to_dwd ods_to_dim dwd_to_dws_1d
- 下文:
dws_1d_to_dws_nd dws_1d_to_dws_td dws_to_ads
56. image56 · 第 11103 行 · 待处理¶
- 读图路径:
D:/studybigdata/source/_posts/DataWareHouseOffline/assets/img/online-education-dw/image56.png - 章节:13.2 数据准备 > 13.3 工作流调度实操 > 13.3.1 DolphinScheduler集群模式
- 上文:
ods_to_dim dwd_to_dws_1d dws_1d_to_dws_nd
- 下文:
dws_1d_to_dws_td dws_to_ads hdfs_to_mysql
57. image57 · 第 11107 行 · 待处理¶
- 读图路径:
D:/studybigdata/source/_posts/DataWareHouseOffline/assets/img/online-education-dw/image57.png - 章节:13.2 数据准备 > 13.3 工作流调度实操 > 13.3.1 DolphinScheduler集群模式
- 上文:
dwd_to_dws_1d dws_1d_to_dws_nd dws_1d_to_dws_td
- 下文:
dws_to_ads hdfs_to_mysql (3)各节点依赖关系如下
58. image58 · 第 11111 行 · 待处理¶
- 读图路径:
D:/studybigdata/source/_posts/DataWareHouseOffline/assets/img/online-education-dw/image58.png - 章节:13.2 数据准备 > 13.3 工作流调度实操 > 13.3.1 DolphinScheduler集群模式
- 上文:
dws_1d_to_dws_nd dws_1d_to_dws_td dws_to_ads
- 下文:
hdfs_to_mysql (3)各节点依赖关系如下 (4)保存工作流
59. image59 · 第 11115 行 · 待处理¶
- 读图路径:
D:/studybigdata/source/_posts/DataWareHouseOffline/assets/img/online-education-dw/image59.png - 章节:13.2 数据准备 > 13.3 工作流调度实操 > 13.3.1 DolphinScheduler集群模式
- 上文:
dws_1d_to_dws_td dws_to_ads hdfs_to_mysql
- 下文:
(3)各节点依赖关系如下 (4)保存工作流 注:定时调度时,全局参数值应设置为\$[yyyy-MM-dd-1]或者空值。
60. image60 · 第 11119 行 · 待处理¶
- 读图路径:
D:/studybigdata/source/_posts/DataWareHouseOffline/assets/img/online-education-dw/image60.png - 章节:13.2 数据准备 > 13.3 工作流调度实操 > 13.3.1 DolphinScheduler集群模式
- 上文:
dws_to_ads hdfs_to_mysql (3)各节点依赖关系如下
- 下文:
(4)保存工作流 注:定时调度时,全局参数值应设置为\$[yyyy-MM-dd-1]或者空值。 7)上线工作流
61. image61 · 第 11123 行 · 待处理¶
- 读图路径:
D:/studybigdata/source/_posts/DataWareHouseOffline/assets/img/online-education-dw/image61.png - 章节:13.2 数据准备 > 13.3 工作流调度实操 > 13.3.1 DolphinScheduler集群模式
- 上文:
hdfs_to_mysql (3)各节点依赖关系如下 (4)保存工作流
- 下文:
注:定时调度时,全局参数值应设置为\$[yyyy-MM-dd-1]或者空值。 7)上线工作流 8)执行工作流
62. image62 · 第 11129 行 · 待处理¶
- 读图路径:
D:/studybigdata/source/_posts/DataWareHouseOffline/assets/img/online-education-dw/image62.png - 章节:13.2 数据准备 > 13.3 工作流调度实操 > 13.3.1 DolphinScheduler集群模式
- 上文:
(4)保存工作流 注:定时调度时,全局参数值应设置为\$[yyyy-MM-dd-1]或者空值。 7)上线工作流
- 下文:
8)执行工作流 9)执行工作流后,出现下图所示页面,即表示执行成功。 注:工作流启动前选择的环境无效,必须在创建任务节点时选择对应环境。此处的“环境名称”可以置空。
63. image63 · 第 11133 行 · 待处理¶
- 读图路径:
D:/studybigdata/source/_posts/DataWareHouseOffline/assets/img/online-education-dw/image63.png - 章节:13.2 数据准备 > 13.3 工作流调度实操 > 13.3.1 DolphinScheduler集群模式
- 上文:
注:定时调度时,全局参数值应设置为\$[yyyy-MM-dd-1]或者空值。 7)上线工作流 8)执行工作流
- 下文:
9)执行工作流后,出现下图所示页面,即表示执行成功。 注:工作流启动前选择的环境无效,必须在创建任务节点时选择对应环境。此处的“环境名称”可以置空。
13.3.2 DolphinScheduler单机模式¶
64. image64 · 第 11137 行 · 待处理¶
- 读图路径:
D:/studybigdata/source/_posts/DataWareHouseOffline/assets/img/online-education-dw/image64.png - 章节:13.2 数据准备 > 13.3 工作流调度实操 > 13.3.1 DolphinScheduler集群模式
- 上文:
7)上线工作流 8)执行工作流 9)执行工作流后,出现下图所示页面,即表示执行成功。
- 下文:
注:工作流启动前选择的环境无效,必须在创建任务节点时选择对应环境。此处的“环境名称”可以置空。
13.3.2 DolphinScheduler单机模式¶
1)启动DolphinScheduler
65. image65 · 第 11155 行 · 待处理¶
- 读图路径:
D:/studybigdata/source/_posts/DataWareHouseOffline/assets/img/online-education-dw/image65.png - 章节:13.3 工作流调度实操 > 13.3.1 DolphinScheduler集群模式 > 13.3.2 DolphinScheduler单机模式
- 上文:
2)安全中心配置 由于DolphinScheduler的单机模式使用的是内置的ZK和数据库,故在集群模式下所做的相关配置在单机模式下并不可见,所以需要重新配置,必要的配置为创建租户和创建用户。 (1)使用管理员用户登录
- 下文:
(2)创建租户 (3)创建用户 3)切换普通用户登录
66. image66 · 第 11159 行 · 待处理¶
- 读图路径:
D:/studybigdata/source/_posts/DataWareHouseOffline/assets/img/online-education-dw/image66.png - 章节:13.3 工作流调度实操 > 13.3.1 DolphinScheduler集群模式 > 13.3.2 DolphinScheduler单机模式
- 上文:
由于DolphinScheduler的单机模式使用的是内置的ZK和数据库,故在集群模式下所做的相关配置在单机模式下并不可见,所以需要重新配置,必要的配置为创建租户和创建用户。 (1)使用管理员用户登录 (2)创建租户
- 下文:
(3)创建用户 3)切换普通用户登录 4)创建项目
67. image67 · 第 11163 行 · 待处理¶
- 读图路径:
D:/studybigdata/source/_posts/DataWareHouseOffline/assets/img/online-education-dw/image67.png - 章节:13.3 工作流调度实操 > 13.3.1 DolphinScheduler集群模式 > 13.3.2 DolphinScheduler单机模式
- 上文:
(1)使用管理员用户登录 (2)创建租户 (3)创建用户
- 下文:
3)切换普通用户登录 4)创建项目 5)其余操作
68. image45 · 第 11167 行 · 待处理¶
- 读图路径:
D:/studybigdata/source/_posts/DataWareHouseOffline/assets/img/online-education-dw/image45.png - 章节:13.3 工作流调度实操 > 13.3.1 DolphinScheduler集群模式 > 13.3.2 DolphinScheduler单机模式
- 上文:
(2)创建租户 (3)创建用户 3)切换普通用户登录
- 下文:
4)创建项目 5)其余操作 其余操作与集群模式基本一致,其中分发Hive、Spark、DataX这一步可以省略。
69. image68 · 第 11171 行 · 待处理¶
- 读图路径:
D:/studybigdata/source/_posts/DataWareHouseOffline/assets/img/online-education-dw/image68.png - 章节:13.3 工作流调度实操 > 13.3.1 DolphinScheduler集群模式 > 13.3.2 DolphinScheduler单机模式
- 上文:
(3)创建用户 3)切换普通用户登录 4)创建项目
- 下文:
5)其余操作 其余操作与集群模式基本一致,其中分发Hive、Spark、DataX这一步可以省略。