【企业级】Spark ON Docker大数据实战

课程介绍

基于Docker容器搭建Spark分布式集群，本课程一步步教大家如何部署docker，如何在docker部署spark，多台机器如何解决ip通信等一些真实的场景。

适用人群

1.对docker感兴趣的学员
2.对Spark感兴趣的学员

讲师介绍

张长志

大数据项目经理,大讲台课程合作讲师

09年在中国联通做JavaWeb开发工程师，11年在Motorola做Android开发负责人，15年成立猿团科技。工作中主要负责Spark、Python和移动端开发，管理过多个大型项目。在工作之余给企业和一些培训机构做Android、Hadoop、Spark培训，中国第一个讲跨平台技术的人。

免费视频这么多，为什么还要来大讲台？

智能化

学习任务智能推送

混合式

“图文+视频”混合式课件

答疑快

30分钟问答响应

实战多

3分理论7分实战

包学会

账号长期有效学会为止

课程大纲

第一章：Docker容器准备

Docker容器准备

01.课程介绍与目标
02.docker简介
03.centos安装docker引擎
04.从docker仓库下载镜像并查看
05.创建docker容器-查看容器
06.通过容器创建镜像文件
07.保存镜像为tar文件并复制到远程节点
08.从tar文件加载镜像
09下载jdk和spark并复制到容器中
10.在容器中安装yum包本身
11.安装相应软件包-nano-wget-nettools-nc
12.安装ssh和service软件包

第二章：Spark分布式集群搭建

Spark分布式集群搭建

1.容器中安装jdk配置环境变量
2.容器中安装spark并配置环境变量
3.生成centos-spark-ssh镜像并归档
4.跨节点启动多个容器实现互联互通
5.配置spark30节点无密登录其他容器
6.启动spark集群实现webui查看
7.修改容器配置-主机名-永久生效
8.通过exec指定启动脚本修改容器的hosts配置
9.使用spark集群实现word count统计

你可能还喜欢的课程

【千元钜惠】资深大数据架构大佬全程直播，传授硬核技能：①OLAP/HTAP/湖仓一体等多种架构；②借FlinkCDC/Kylin/Hudi/Doris等打造数仓；③湖仓一体化项目落地实践；④基于Flink和StreamX打造低代码大数据中台

查看详情 QQ咨询

大数据实战精英+架构师班

查看详情 4个月
【千元钜惠】手握6000+节点的大数据运维大咖全程直播，4个月带你熟悉大数据集群规划、部署、监控、排错、容器化等技能，并完成3个商业项目。

查看详情 QQ咨询

大数据运维尖刀班

查看详情 4个月
【3重优惠】技术大牛组团授课，专讲大数据核心知识和大型项目实战，多台物理服务器数十个节点现场直播演示！企业级实战项目让你四个月掌握2年的项目经验！

查看详情 QQ咨询

大数据开发工程师特训营

查看详情 16周
【优惠活动】新东方、搜狗、腾讯等名企一线实战讲师授课，技“高”一筹！重在培养数据分析方法及思路，而不仅仅是学习技术及工具。带教多个互联网及金融领域企业真实项目，而不仅仅是讲理论和小案例。

查看详情 QQ咨询

数据分析特训营

查看详情 16周
本课程为大数据金融信贷项目实战课，着重讲解企业中常用的大数据技术理论与实战，如Hadoop、Hive、HBase、Sqoop、Flume、Kafka、Spark Streaming、Spark SQL、Spark Structured Streaming等。课程包含离线项目和实时项目，从项目业务需求、技术选型、架构设计、集群安装部署、集成开发以及项目可视化进行多方位实战讲解。

查看详情 QQ咨询

互联网金融信贷项目实战（Hadoop&Spark）

查看详情 38小时44分钟
干货多：15案例 + 3实战 + 2项目；
提升快：滴滴出行一线架构师传授实战经验，30小时多方位讲解数据仓库构建相关理论及实战内容
技术全：综合运用Hive/Flume/Kafka/Azkaban/Oozie/SparkSQL等技术；

查看详情 QQ咨询

基于大数据体系构建数据仓库

查看详情 32小时52分钟
本课程基于某电商公司运营实时分析系统（2B），对Flink进行系统讲解。通过本课程的学习，既能获得Flink企业级真实项目经验，也能深入掌握Flink的核心理论知识，还能获得Flink在生产环境中安装、部署、监控的宝贵经验，从而深入掌握Flink技术。

查看详情 QQ咨询

Flink电商运营项目实战

查看详情 50小时6分钟

他们在学

冯雪然
蓝色飞扬
pxj
138****2185
小李飞刀
24942
蜡笔
一切从简
135****3376
181****0804
YFK123
star25116
向日葵22127
198****5510
赤少
王佐之才