课程介绍
本课程以FlinkSQL流批一体技术为主线,全面讲解Flink Table编程、SQL编程、Time与WaterMark、Window操作、函数使用、元数据管理,最后以一个完整的实战项目为例,详细讲解FlinkSQL的流式项目开发。学完本课程,希望零基础的学员能快速上手FlinkSQL进行项目开发,有基础的学员也能快速掌握FlinkSQL流批一体技术以及积累实战项目经验。
课程特色
1.课程以FlinkSQL技术为主线,先讲解FlinkSQL核心技术,后讲解项目实战。
2.课程从理论原理、环境配置、服务安装、组件集成开发、业务代码开发、可视化等项目完整流程讲解,不会跳讲和断讲
3.课程中无论案例代码开发还是项目业务代码开发,每一行代码都会边实现边讲解。
4.课程中目前使用Flink1.14.3最新稳定版本。
项目架构图
数据流程图
项目效果图
讲师介绍
-
杨俊
大讲台大数据高级讲师 | 原某广电数据咨询公司大数据高级架构师
原某广电数据咨询公司大数据高级架构师 ,资深Java玩家,大数据技术狂热者,《实战大数据(Hadoop+Spark+Flink)》作者。曾在北京某广电数据咨询公司担任大数据高级架构师,8年以上大数据实操经验, 经历过10个以上的重量级大数据项目。Hadoop源码级技术大咖,熟练使用Hadoop、Spark、Flink、Hive、HBase、Flume、Kafka、ElasticSearch等各大主流组件。谦虚亲和,崇尚实操至上的教学理念。受到学员一致好评。
免费视频这么多,为什么还要来大讲台?
智能化
学习任务智能推送
混合式
“图文+视频”混合式课件
答疑快
30分钟问答响应
实战多
3分理论7分实战
包学会
账号长期有效学会为止
课程大纲
Flink SQL流批统一 |
1.1Flink 流批统一思想 1.2Flink Table API与SQL执行过程 1.3关系代数与流处理 1.4理解动态表与连续查询 1.5动态表详解之连续查询 1.6动态表详解之动态表转数据流 1.7动态表详解之动态表查询限制 |
Flink Table编程全面详解 |
2.1FlinkSQL项目构建 2.2FlinkTableAPI与DataStream混合使用案例 2.3Flink标准TableAPI使用案例 2.4FlinkTableAPI开发步骤详解 2.5FlinkTableAPI查询案例 2.6FlinkSQL查询案例 2.7FlinkTableAPI与SQL混合查询案例 2.8FlinkTableAPI聚合查询案例 2.9FlinkTableAPI的输入输出 2.10FlinkTableAPI读取FileSystem和CSV案例 2.11FlinkTableAPI读取FileSystem和JSON案例 2.12FlinkTableAPI读取HDFS和JSON案例 2.13FlinkTableAPI读取HBase案例 2.14FlinkTableAPI读取Kafka案例 2.15FlinkTableAPI读取MySQL案例 2.16FlinkTableAPI读取Hive案例1 2.17FlinkTableAPI读取Hive案例2 2.18FlinkTableAPI读写Kafka案例 2.19FlinkTableAPI读写Kafka高级特性详解 2.20FlinkTableAPI读写MySQL案例 2.21FlinkTableAPI写入Hive案例 2.22FlinkTableAPI写入HBase案例1 2.23FlinkTableAPI写入HBase案例2 2.24FlinkTableAPI查询执行计划 2.25FlinkTableAPI多输入与输出1 2.26FlinkTableAPI多输入与输出2 |
Flink SQL编程全面详解 |
3.1FlinkSQL查询已注册表的案例 3.2FlinkSQL查询未注册表的案例 3.3FlinkSQL标准代码结构案例 3.4FlinkSQL基本语法介绍 3.5FlinkSQL读写Kafka案例 3.6FlinkSQL读Kafka写入MySQL案例 3.7FlinkSQL读MySQL写Hive案例 3.8FlinkSQL读Kafka写HBase案例 |
Flink SQL Time与Watermark |
4.1FlinkSQL时间与水位线机制 4.2FlinkSQL定义ProcessTime案例 4.3FlinkSQL定义EventTime案例 |
Flink SQL Window操作 |
5.1Flink窗口分类与使用 5.2FlinkTable基于processTime翻滚窗口处理案例 5.3FlinkTable基于EventTime翻滚窗口处理案例 5.4FlinkTable基于计数翻滚窗口处理案例 5.5FlinkTable基于ProcessTime滑动窗口处理案例 5.6FlinkTable基于计数滑动窗口处理案例 5.7FlinkTable基于EventTime滑动窗口处理案例 5.8FlinkTable基于ProcessTime的会话窗口处理案例 5.9FlinkTable基于EventTime会话窗口处理案例 5.10FlinkTable按ProcessTime排序无界按UNBOUNDED_RANGE开窗案例 5.11FlinkTable按ProcessTime排序有界向前2行开窗案例 5.12FlinkTable按ProcessTime排序有界向前5秒开窗案例 5.13FlinkTable按ProcessTime排序无界UNBOUNDED_ROW开窗案例 5.14FlinkTable按EventTime排序无界UNBOUNDED_RANGE开窗案例 5.15FlinkTable按EventTime排序无界UNBOUNDED_ROW开窗案例 5.16FlinkTable按EventTime排序有界向前5秒开窗案例 5.17FlinkTable按EventTime排序有界向前2行开窗案例 5.18FlinkSQL基于ProcessTime的滚动窗口案例 5.19FlinkSQL基于ProcessTime的滑动窗口案例 5.20FlinkSQL基于ProcessTime的session窗口案例 5.21FlinkSQL基于EventTime的滚动窗口案例 5.22FlinkSQL基于EventTime的滑动窗口案例 5.23FlinkSQL基于EventTime的会话窗口案例 5.24FlinkSQL按ProcessTime排序有界向前5s开窗案例 5.25FlinkSQL按ProcessTime排序有界向前3行开窗案例 5.26FlinkSQL按EventTime排序有界向前5s开窗案例 5.27FlinkSQL按EventTime排序有界向前3行开窗案例 |
Flink SQL 函数使用 |
6.1FlinkSQL内置函数 6.2FlinkSQL自定义函数分类与开发思路 6.3FlinkSQL自定义UDF案例1 6.4FlinkSQL自定义UDF案例2 6.5FlinkSQL自定义UDTF案例1 6.6FlinkSQL自定义UDTF案例2 6.7FlinkSQL自定义UDAF案例1 6.8FlinkSQL自定义UDAF案例2 6.9FlinkSQL自定义UDATF案例1 6.10FlinkSQL自定义UDATF案例2 |
Flink SQL 函数使用 |
7.1FlinkSQL元数据管理 7.2FlinkSQL与Hive整合访问 7.3FlinkSQL客户端的使用与参数详解 7.4FlinkSQL客户端与Kafka、MySQL集成 7.5FlinkSQL客户端与Hive集成 |
FlinkSQL项目之Flume日志采集系统 |
8.1Flume架构及运行原理 8.2Flume环境安装部署 8.3案例实践:搭建Flume分布式集群1 8.4案例实践:搭建Flume分布式集群2 8.5案例实践:搭建Flume分布式集群3 |
FlinkSQL项目之Kafka分布式消息系统 |
9.1Kafka架构设计与工作原理 9.2Kafka分布式集群搭建1 9.3Kafka分布式集群搭建2 9.4案例实践:Flume与Kafka集成开发 |
FlinkSQL项目之Davinci大数据可视化分析 |
10.1Davinci架构设计 10.2Davinci安装部署1 10.3Davinci安装部署2 10.4启动Davinci服务 |
FlinkSQL项目之Flink核心知识进阶 |
11.1Flink并行度设置 11.2Flink状态与容错 11.3Flink窗口计算 11.4Flink WaterMark机制 |