大数据实战派 都爱大讲台

当前位置:首页  /  课程  /  15天搞定ELK海量日志分析平台

15天搞定ELK海量日志分析平台

15天搞定ELK海量日志分析平台

分享到:

涵盖ELK大型日志分析平台的完整流程,包括Logstash采集接入不同渠道的日志(Apache日志,Nginx 日志,系统日志等等),ElasticSearch对各种渠道的日志建立索引、存储实现快速查询,Kibana实现数据分析和数据可视化。

该课程已经下线,欢迎挑选其他课程!

课程特色

1、基于企业真实商用项目需求进行讲解,快速提升项目经验,解决公司海量日志实时查询、快速分析等棘手问题。

2、涵盖ELK大型日志分析平台的完整流程,包括Logstash采集接入不同渠道的日志(Apache日志,Nginx 日志,系统日志等等),ElasticSearch对各种渠道的日志建立索引、存储实现高级查询,Kibana实现数据分析和数据可视化等。

3、特别注重实际项目开发过程中遇到的典型问题分析以及解决方案与优化,窥视大型成熟互联网公司日志分析平台如何架构、优化与维护,提升项目视野与高度。

项目涉及技术

Java,Logstash,ElasticSearch,Kibana,Hbase

Logstash:监控、过滤、收集各种类型和渠道日志

Elasticsearch:存储海量日志并提供实时搜索功能

Kibana:提供Web管理界面,功能强大、操作方便,支持查询、统计、图表展现、监控、预警和权限管理。

适用人群

1、想了解和学习大型日志分析平台的学员;

2、0编程基础想做海量日志收集、分析处理、查询展示的学员;

3、想转行或者从事海量数据实时查询的学员;

4、想提升大数据相关技能和积累项目经验的学员;

课程目标

1、熟悉 ELK 整个数据处理流程,包括数据采集、数据处理、数据可视化

2、熟练掌握Logstash 采集和处理不同渠道、不同类型的海量日志

3、熟练掌握ElasticSearch建立索引、高级查询以及ElasticSearch集群的维护与优化

4、掌握使用Kibana实现数据分析、数据可视化以及预警

5、能独立搭建ELK海量日志分析平台,实现对公司海量日志的分析、查询以及可视化

讲师介绍

  • 烨 华

    大讲台特聘高级讲师 |  大数据架构师

    曾任职猎豹移动大数据部门架构师,8年上市互联网公司软件研发经验,兼具多年大数据实战经验和大数据线上/下授课经验。擅长Hadoop、Storm、Spark、Flink、Flume、Kafka、ElasticSearch、Docker、ELK、爬虫等大数据相关技术,主持负责过国外舆情监控项目,实时数据处理、海量数据极速检索。

开课时间

视频课,随买随学

学习方式

在线学习 + QQ群答疑

提供完整视频和学习资料,可在线反复观看,有效期1年


课程大纲

一、ElasticSearch 环境准备及核心技术讲解
1、ElasticSearch 概念及架构原理
2、ElasticSearch 分布式集群安装部署
3、ElasticSearch 核心插件,比如security安全插件、Watcher报警插件、Marvel 管理和查询插件
4、ElasticSearch 核心概念,比如cluster集群,shards分片,replicas副本等
5、ElasticSearch API操作,常见的建立索引功能和复杂查询功能(包括精确查询、字段置顶查询、高亮显示、过滤、排序、聚合Aggregate等)
6、ElasticSearch 集成中文分词器IK,支持中文查询与索引
7、从源码层面分析ElasticSearch中的Routing路由功能
8、ElasticSearch 企业级优化
9、实战:ElasticSearch 实现极速查询
二、Logstash 环境准备及核心组件讲解
1、Logstash 核心配置语法以及Filebeat组件的灵活使用
2、Logstash安装部署及使用技巧
3、Logstash Input插件采集file、eventlog、jdbc、kafka、redis、s3等数据源
4、Logstash 核心Filter插件,比如grok、geoip、json等
5、Logstash Output插件将采集数据灵活输出到不同系统,比如elasticsearch、file、kafka、redis等
6、实战:Logstash 实现海量日志采集、过滤、解析、输出
三、Kibana 环境准备及核心功能讲解
1、Kibana 概述
2、Kibana 安装部署及使用技巧
3、Kibana 实现数据查询
4、Kibana 实现数据可视化
5、Kibana 监控预警
6、实战:Kibana 将采集到的海量数据进行数据分析、数据查询,并构建图表可视化
四、ELK平台架构及项目实战
1、结合企业真实项目需求,分析ELK架构的应用场景和价值
2、剖析大型公司分布式日志系统架构,比如新浪微博,freewheel,畅捷通等
3、动手构建ELK 海量日志分析平台
4、利用Logstash实时采集不同项目系统的海量异常堆栈信息(可以实现跨行收集每条异常堆栈信息),对海量数据进行过滤和解析,同时可以自定义匹配模式解析项目中的复杂结构日志,并按日志类别和日期回滚输出到ElasticSearch集群建立索引
5、利用ElasticSearch 实现对海量数据的实时查询
6、利用Kibana 实现海量日志的分析查询、数据可视化及监控预警
7、ELK 项目优化以及大数据项目经验分享
五、大数据面试真题现场剖析
ElasticSearch+HBase架构解决方案(可以实现类似百度搜索功能)【xx集团面试题】剖析
1、针对企业中的一个典型需求展开分析【针对一批海量数据,既要实现全量存储,又要实现快速复杂查询】
2、着重分析和讲解如何自定义ElasticSearch中的mapping信息
3、ElasticSearch+HBase组合使用,实现百度全文检索功能

常见问题

Q:会有实际上机演示和动手操作吗?

A:本课程为项目拆解课,全程实操演练!不仅仅是简单演示,而是手把手带你操练真实项目。

Q:在线直播课程怎么答疑?

A: 每个班级会建立专门的班级QQ群,学员可以针对课程中的问题,或者自己学习与动手实践中的问题,向老师提问,老师会进行相应解答。同时,强烈推荐大家到官网技术问答区提问,方便知识的沉淀,同时也避免因为QQ群信息刷屏而导致你的问题被老师错过。

你可能还喜欢的课程

  • 【千元钜惠】 资深大数据架构大佬全程直播,传授硬核技能:①OLAP/HTAP/湖仓一体等多种架构;②借FlinkCDC/Kylin/Hudi/Doris等打造数仓;③湖仓一体化项目落地实践;④基于Flink和StreamX打造低代码大数据中台

    查看详情 QQ咨询

    大数据实战精英+架构师班

    查看详情 4个月

  • 【千元钜惠】 手握6000+节点的大数据运维大咖全程直播,4个月带你熟悉大数据集群规划、部署、监控、排错、容器化等技能,并完成3个商业项目。

    查看详情 QQ咨询

    大数据运维尖刀班

    查看详情 4个月

  • 【3重优惠】 技术大牛组团授课,专讲大数据核心知识和大型项目实战,多台物理服务器数十个节点现场直播演示!企业级实战项目让你四个月掌握2年的项目经验!

    查看详情 QQ咨询

    大数据开发工程师特训营

    查看详情 16周

  • 【优惠活动】 新东方、搜狗、腾讯等名企一线实战讲师授课,技“高”一筹!重在培养数据分析方法及思路,而不仅仅是学习技术及工具。带教多个互联网及金融领域企业真实项目,而不仅仅是讲理论和小案例。

    查看详情 QQ咨询

    数据分析特训营

    查看详情 16周

  • 本课程为大数据金融信贷项目实战课,着重讲解企业中常用的大数据技术理论与实战,如Hadoop、Hive、HBase、Sqoop、Flume、Kafka、Spark Streaming、Spark SQL、Spark Structured Streaming等。课程包含离线项目和实时项目,从项目业务需求、技术选型、架构设计、集群安装部署、集成开发以及项目可视化进行多方位实战讲解。

    查看详情 QQ咨询

    互联网金融信贷项目实战(Hadoop&Spark)

    查看详情 38小时44分钟

  • 干货多:15案例 + 3实战 + 2项目;
    提升快:滴滴出行一线架构师传授实战经验,30小时多方位讲解数据仓库构建相关理论及实战内容
    技术全:综合运用Hive/Flume/Kafka/Azkaban/Oozie/SparkSQL等技术;

    查看详情 QQ咨询

    基于大数据体系构建数据仓库

    查看详情 32小时52分钟

  • 本课程基于某电商公司运营实时分析系统(2B),对Flink进行系统讲解。通过本课程的学习,既能获得Flink企业级真实项目经验,也能深入掌握Flink的核心理论知识,还能获得Flink在生产环境中安装、部署、监控的宝贵经验,从而深入掌握Flink技术。

    查看详情 QQ咨询

    Flink电商运营项目实战

    查看详情 50小时6分钟

他们在学

  • Fiona

  • 冯雪然

  • 158****7250

  • .

  • Nightwish

  • 23050

  • LJY

  • 22845

  • 我叫夏学习

  • 左岸の烟づ逝

  • 麋鹿

  • Z_last

  • 22819

  • 小明

  • 小白JJ

 
QQ在线咨询
微信扫码咨询