大数据实战派 都爱大讲台

当前位置:首页  /  课程  /  【系统课】大数据实时数仓工程师(Flink)

【系统课】大数据实时数仓工程师(Flink)

【系统课】大数据实时数仓工程师(Flink)

分享到:

本课程为大数据实时数仓项目实战课程,以大数据实时数仓项目为主线,理论和实战相结合,全方位、全流程、无死角讲解数仓项目的数仓基础、项目规划、需求分析、架构设计与技术选型、大数据平台构建、项目业务介绍、数据采集、数仓建模理论、数仓设计规范、数仓搭建、实时分析以及数据大屏制作。学完本课程,零基础的学员能入行大数据仓库工程师,有开发基础的学员也能快速积累项目实战经验。

该课程已经下线,欢迎挑选其他课程!


课程介绍

本课程为大数据实时数仓项目实战课程,以大数据实时数仓项目为主线,理论和实战相结合,全方位、全流程、无死角讲解数仓项目的数仓基础、项目规划、需求分析、架构设计与技术选型、大数据平台构建、项目业务介绍、数据采集、数仓建模理论、数仓设计规范、数仓搭建、实时分析以及数据大屏制作。学完本课程,零基础的学员能入行大数据仓库工程师,有开发基础的学员也能快速积累项目实战经验。



课程特色

1.课程以实时数仓项目为主线,理论与项目实战交替讲解,层层递进。
2.课程从数仓基础、项目规划、需求分析、架构设计与技术选型、大数据平台构建、项目业务介绍、数据采集、数仓建模理论、数仓设计规范、数仓搭建、实时分析以及大屏制作等项目完整流程讲解,不会跳讲和断讲。
3.课程中无论案例代码开发还是项目业务代码开发,每一行代码都会边实现讲解。
4.课程中目前使用Flink1.14.3最新稳定版本。



项目架构图



数据流程图



项目效果图


讲师介绍

  • 杨俊

    大讲台大数据高级讲师 | 原某广电数据咨询公司大数据高级架构师

    原某广电数据咨询公司大数据高级架构师 ,资深Java玩家,大数据技术狂热者,《实战大数据(Hadoop+Spark+Flink)》作者。曾在北京某广电数据咨询公司担任大数据高级架构师,8年以上大数据实操经验, 经历过10个以上的重量级大数据项目。Hadoop源码级技术大咖,熟练使用Hadoop、Spark、Flink、Hive、HBase、Flume、Kafka、ElasticSearch等各大主流组件。谦虚亲和,崇尚实操至上的教学理念。受到学员一致好评。

免费视频这么多,为什么还要来大讲台?

智能化

学习任务智能推送

混合式

“图文+视频”混合式课件

答疑快

30分钟问答响应

实战多

3分理论7分实战

包学会

账号长期有效学会为止

课程大纲

第1章 大数据仓库概述
大数据仓库概述 1.何为数据仓库
2.数据仓库VS数据库
3.数仓的由来
4.何为大数据仓库
5.数仓的价值与作用
6.大数据仓库的应用场景
第2章 数仓项目规划
数仓项目规划 7.项目可行性评估
8.业务范围确定
9.项目人员配备
第3章 项目需求分析
项目需求分析 10.智慧社区项目背景
11.智慧社区子系统介绍1
12.智慧社区子系统介绍2
13.智慧社区子系统介绍3
14.智慧社区子系统4
15.项目需求分析
第4章 实时数仓架构设计
实时数仓架构设计 16.数仓架构演进过程
17.数据仓库分层结构
18.离线数仓架构设计
19.Lambda架构设计
20.Kappa架构设计
21.数仓架构选型
第5章 实时数仓技术选型
实时数仓技术选型 22.日志文件采集-技术选型
23.数据库采集-技术选型
24.维度表存储-技术选型
25.事实表存储-技术选型
26.多维聚合分析-技术选型
27.实时数仓-技术架构
第6章 搭建Hadoop大数据平台
搭建Hadoop大数据平台 28.搭建Hadoop大数据平台
29.搭建IDEA开发环境
30.VMware WorkStations安装
31.Linux系统介绍
32.创建新的虚拟机
33.安装Centos7操作系统
34.Linux静态IP配置
35.Linux系统配置
36.JDK安装与配置
37.3节点集群环境准备
38.配置集群hosts文件
39.配置集群时钟服务器
40.配置集群ssh免密登录
41.集群脚本开发
42.搭建zookeeper分布式集群
43.Hadoop集群规划
44.HDFS集群配置
45.启动HDFS集群服务
46.HDFS集群测试运行
47.YARN集群配置
48.启动YARN集群服务
49.YARN集群测试运行
50.Hadoop集群故障转移测试
51.安装MySQL元数据库
52.Hive客户端安装部署
第7章 准备智慧社区数据集
准备智慧社区数据集 53.创建智慧社区业务表
54.开启MySQL数据库binlog日志
55.导入维表数据
56.导入实时表数据
第8章 搭建数据采集与存储平台
搭建数据采集与存储平台 57.搭建FlinkOnYARN集群环境(1)
58.搭建FlinkOnYARN集群环境(2)
59.搭建FlinkCDC数据采集平台(1)
60.搭建FlinkCDC数据采集平台(2)
61.搭建Kafka分布式集群环境
第9章 数仓建模理论
数仓建模理论 62.数仓建模理论模块整体介绍
63.数仓建模目标
64.关系范式模式介绍
65.数据库范式优缺点
66.第一范式(1NF)
67.第二范式(2NF)
68.第三范式(3NF)
69.ER实体模型
70.维度建模-事实表
71.维度建模-维度表
72.星型模型与雪花模型介绍
73.雪花模型与星型模型对比
74.维度建模模型如何选择
75.DataVault模型与Anchor模型
76.主流建模方法对比
77.数仓架构为什么分层?
78.数据源与ETL
79.ODS原始数据层
80.DWD明细数据层
81.维度建模过程
82.DWS服务数据层
83.DM与ADS的区别与联系
84.数据集市与数据仓库的区别与联系
第10章 数仓设计规范
数仓设计规范 85.数仓设计规范模块整体介绍
86.数据埋点规范
87.数仓层次规范
88.表命名规范
89.字段命名规范
90.脚本命名规范
91.脚本开发规范
第11章 搭建实时数仓ODS层
搭建实时数仓ODS层 92.实时数仓ODS核心概念介绍
93.启动实时数仓相关集群服务
94.FlinkCDC实时采集cars表至DIM层
95.FlinkCDC实时采集community表至DIM层
96.FlinkCDC实时采集date表至DIM层
97.FlinkCDC实时采集district表至DIM层
98.FlinkCDC实时采集house表至DIM层
99.FlinkCDC实时采集owner表至DIM层
100.FlinkCDC实时采集room表至DIM层
101.FlinkSQL与Kafka集成环境准备
102.FlinkCDC实时采集cars_log表至ODS层
103.FlinkCDC实时采集entrance_guard_log表至ODS层
第12章 搭建实时数仓DWD层
搭建实时数仓DWD层 104.实时数仓DWD层维表关联实现方式
105.搭建实时数仓DWD层-车辆进出事实表(1)
106.搭建实时数仓DWD层-车辆进出事实表(2)
107.搭建实时数仓DWD层-车辆进出事实表(3)
108.搭建实时数仓DWD层-门禁事实表(1)
109.搭建实时数仓DWD层-门禁事实表(2)
110.搭建实时数仓DWD层-门禁事实表(3)
第13章 搭建实时数仓工具Clickhouse
搭建实时数仓工具Clickhouse 111.搭建Clickhouse运行环境
112.配置客户端远程访问Clickhouse
第14章 搭建实时数仓DWS层
搭建实时数仓DWS层 113.Java客户端远程连接Clickhouse
114.搭建实时数仓DWS层-每日车辆出行行为(1)
115.搭建实时数仓DWS层-每日车辆出行行为(2)
116.搭建实时数仓DWS层-每日车辆出行行为(3)
117.搭建实时数仓DWS层-每日车辆出行行为(4)
118.搭建实时数仓DWS层-每日车辆出行行为(5)
119.搭建实时数仓DWS层-每日车辆出行行为(6)
120.搭建实时数仓DWS层-每日用户进程行为(1)
121.搭建实时数仓DWS层-每日用户进程行为(2)
122.搭建实时数仓DWS层-每日用户进程行为(3)
123.搭建实时数仓DWS层-每日用户进程行为(4)
124.搭建实时数仓DWS层-每日用户进程行为(5)
125.FlinkSQL流表与维表关联产生的问题
126.FlinkWindowJoin双流Join及应用场景
127.FlinkIntervalJoin双流Join及应用场景
128.FlinkRegularJoin双流Join及应用场景
第15章 搭建实时数仓ADS层
搭建实时数仓ADS层 129.搭建数仓ADS层-车辆出行数据统计
130.搭建数仓ADS层-小区出现数据统计
第16章 实时数仓大屏制作
实时数仓大屏制作 131.制作实时数仓数据大屏
132.Davinci架构
133.Davinci安装配置
134.Davinci初始化数据库
135.Davinci初始化配置
136.Davinci注册登录
137.Davinci创建项目并添加数据源
138.Davinci创建视图1
139.Davinci创建视图2
140.Davinci创建视图3
141.Davinci创建可视化组件1
142.Davinci创建可视化组件2
143.Davinci数仓大屏制作1
144.Davinci数仓大屏制作2
145.Davinci数仓大屏制作3

你可能还喜欢的课程

  • 【千元钜惠】 资深大数据架构大佬全程直播,传授硬核技能:①OLAP/HTAP/湖仓一体等多种架构;②借FlinkCDC/Kylin/Hudi/Doris等打造数仓;③湖仓一体化项目落地实践;④基于Flink和StreamX打造低代码大数据中台

    查看详情 QQ咨询

    大数据实战精英+架构师班

    查看详情 4个月

  • 【千元钜惠】 手握6000+节点的大数据运维大咖全程直播,4个月带你熟悉大数据集群规划、部署、监控、排错、容器化等技能,并完成3个商业项目。

    查看详情 QQ咨询

    大数据运维尖刀班

    查看详情 4个月

  • 【3重优惠】 技术大牛组团授课,专讲大数据核心知识和大型项目实战,多台物理服务器数十个节点现场直播演示!企业级实战项目让你四个月掌握2年的项目经验!

    查看详情 QQ咨询

    大数据开发工程师特训营

    查看详情 16周

  • 【优惠活动】 新东方、搜狗、腾讯等名企一线实战讲师授课,技“高”一筹!重在培养数据分析方法及思路,而不仅仅是学习技术及工具。带教多个互联网及金融领域企业真实项目,而不仅仅是讲理论和小案例。

    查看详情 QQ咨询

    数据分析特训营

    查看详情 16周

  • 本课程为大数据金融信贷项目实战课,着重讲解企业中常用的大数据技术理论与实战,如Hadoop、Hive、HBase、Sqoop、Flume、Kafka、Spark Streaming、Spark SQL、Spark Structured Streaming等。课程包含离线项目和实时项目,从项目业务需求、技术选型、架构设计、集群安装部署、集成开发以及项目可视化进行多方位实战讲解。

    查看详情 QQ咨询

    互联网金融信贷项目实战(Hadoop&Spark)

    查看详情 38小时44分钟

  • 干货多:15案例 + 3实战 + 2项目;
    提升快:滴滴出行一线架构师传授实战经验,30小时多方位讲解数据仓库构建相关理论及实战内容
    技术全:综合运用Hive/Flume/Kafka/Azkaban/Oozie/SparkSQL等技术;

    查看详情 QQ咨询

    基于大数据体系构建数据仓库

    查看详情 32小时52分钟

  • 本课程基于某电商公司运营实时分析系统(2B),对Flink进行系统讲解。通过本课程的学习,既能获得Flink企业级真实项目经验,也能深入掌握Flink的核心理论知识,还能获得Flink在生产环境中安装、部署、监控的宝贵经验,从而深入掌握Flink技术。

    查看详情 QQ咨询

    Flink电商运营项目实战

    查看详情 50小时6分钟

他们在学

  • waste

  • 25596

  • 冷月无声

 
QQ在线咨询
微信扫码咨询