课程介绍
《Flink实时数仓》课程主要基于Flink1.8稳定版本进行讲解,课程包含Flink DataSet、容错、Connector、Flink SQL以及实时数仓项目。希望通过本课程的学习,大家能快速掌握Flink 批处理和Flink SQL,并通过实时数仓项目快速积累项目经验。
课程收获
1.获得3年Flink项目实战经验
2.获得一套完整的Flink项目源码
适用人群
1.有一定Java基础的学员
2.对大数据感兴趣的学员
讲师介绍
-
杨俊
大讲台大数据高级讲师 | 原某广电数据咨询公司大数据高级架构师
原某广电数据咨询公司大数据高级架构师 资深Java玩家,大数据技术狂热者。曾在北京某广电数据咨询公司担任大数据高级架构师,7年以上大数据实操经验, 经历过10个以上的重量级大数据项目。Hadoop源码级技术大咖,熟练使用Hadoop、Spark、Flink、Hive、HBase、Flume、Kafka、ElasticSearch等各大主流组件。谦虚亲和,崇尚实操至上的教学理念。受到学员一致好评。
免费视频这么多,为什么还要来大讲台?
智能化
学习任务智能推送
混合式
“图文+视频”混合式课件
答疑快
30分钟问答响应
实战多
3分理论7分实战
包学会
账号长期有效学会为止
课程大纲
Flink 批处理 |
1.手写一个Flink 批处理程序 2.读取CSV格式数据源 3.递归读取目录下文件 4.Map&FlatMap&MapPartition实操 5.过滤和聚合转换操作 6.数据去重实操 7.Union实操 8.默认Join实操 9.Join并实现JoinFunction实操 10.left outer Join实操 11.right outer Join实操 12.full outer Join实操 13.DataSink数据输出 14.广播变量实操 15.分布式缓存实操 16.构造方法传参实操 17.withParameters传参实操 18.全局传参实操 |
Flink 批处理Connectors |
21.Flink 批处理Connector 22.Flink HBaseSink代码实现 23.Flink HBaseSink测试运行 24.Flink HBaseSource实现 |
Flink Table API & SQL |
25Flink Table API和SQL介绍 26Flink SQL编程套路-Stream SQL 27Flink SQL编程套路-Batch SQL 28Flink SQL编程套路-Batch Table 29Flink API&SQL流处理介绍 30动态表与连续查询 31表转流-Append-only 模式 32表转流-Retract 模式 33Flink SQL读取Kafka代码实现 34Flink SQL读取Kafka测试运行 35Flink Table API实操 36Flink SQL实操 |
Flink 实时数仓 |
37.项目需求 38.架构设计 39.解决方案 40.Mysql主备复制实现原理 41.Canal架构与工作原理 42.MySQL binlog介绍 43.MySQL安装 44.MySQL服务启动与设置 45.MySQL新建账号及开启Binlog 46.Canal-Kafka安装与配置 47.Canal-Kafka服务启动与测试 48.数据库建模 49.商品表数据接入(1) 50.商品表数据接入(2) 51.订单表数据实时接入(1) 52.订单表数据实时接入(2) 53.订单表数据实时接入(3) 54.Flink全量拉取模板(1) 55.Flink全量拉取模板(2) 56.Flink全量拉取模板(3) 57.动手实现Flink版本的Sqoop(1) 58.动手实现Flink版本的Sqoop(2) 59.Flink增量实时同步模块在生成环境中的难点问题 60.Flink增量实时同步模块实现(1) 61.Flink 增量实时同步模块实现(2) 62.Flink 增量实时同步模块实现(3) 63.Flink增量实时同步模块实现(4) 64.Flink增量实时同步模块整体联调(1) 65.Flink增量实时同步模块整体联调(2) 66.项目总结 |