高端IT人才在线实训平台

当前位置:首页  /  课程  /  30天搞定大数据爬虫项目

30天搞定大数据爬虫项目

30天搞定大数据爬虫项目
分享到:

本项目采用Java语言实现,绝对基于真实的爬虫项目进行改进和优化,希望进一步提升大家的大数据项目经验。本项目基本涵盖了爬虫项目的整个流程,包括数据爬虫、全文检索、数据可视化、爬虫项目监控、爬虫项目维护等等。解决了爬虫项目中遇到的棘手问题,包括破解网站反爬策略、网站模板定期变更、网站频繁访问IP被封等等问题。

  • 市场价  ¥1299

  • 特惠价  ¥899

  • 试学价  ¥99

时长    30天          

99元试学 全款购买 当前学习人数 599 收藏

有效期:365天
有效期自支付成功后开始计算。

全网独一无二的“直播+视频+图文+答疑”混合式学习模式,每一步操作,每一行代码都可以100% Get到,绝不走马观花,30天搞定大数据爬虫项目,妥妥的!

首期拼团240人参加,加上后期补报的,已有超过260人参加。课程结束3个月后,还有不少学员希望参加该课程。这次再开放少量名额,机会只有一次。

【现在参加,仅需299元】

【微信扫码,立即参团】

课程特色

1、基于绝对真实的爬虫项目进行优化和拆解,大幅提升Hadoop综合项目经验,年后跳槽面试绝对不心虚。

2、涵盖爬虫项目完整流程,包括数据爬虫、全文检索、数据可视化、爬虫项目监控、爬虫项目维护等等。

3、手把手教你破解爬虫项目中遇到的棘手难题,包括破解网站反爬策略、网站模板定期变更、网站频繁访问IP被封等等。

4、全网独一无二的“直播+视频+图文+答疑”混合式学习模式,每一步操作,每一行代码都可以100% Get到,绝不走马观花,30天搞定大数据爬虫项目,妥妥的!

项目涉及技术

Java、HttpClient、Redis、Solr、HBase、Zookeeper、HighChart、HTMLEmail

基础要求

本课程面向有Java基础,有Hadoop大数据平台基础,希望进一步学习大数据爬虫项目的朋友;

讲师介绍

  • 杨俊

    大讲台Hadoop高级讲师   |   原某广电数据咨询公司大数据高级架构师

    原某广电数据咨询公司大数据高级架构师 资深Java玩家,大数据技术狂热者。曾在北京某广电数据咨询公司担任大数据高级架构师,6年以上大数据实操经验, 经历过10个以上的重量级大数据项目。Hadoop源码级技术大咖,熟练使用Hadoop、Hive、HBase等各大主流组件。谦虚亲和,崇尚实操至上的教学理念。受到学员一致好评。

课程大纲

项目背景
1、了解传统广电收视率项目背景
2、用户数据有哪些价值点
3、哪些机构掌握这些数据
4、爬虫目标:互联网各大视频网站
项目总体需求
1、多维度统计:总播放指数、每日播放增量、评论数、收藏数、赞、踩
2、数据可视化:节目收视排行榜、多维度指标趋势图
难点分析
1、网站采取反爬策略
2、网站模板定期变动
3、网站URL抓取失败
4、网站频繁抓取IP被封
系统架构设计
1、总体架构解析
2、数据流向
3、功能模块划分
4、各个模块详细解读
技术选型
1、数据采集层
2、数据存储层
3、数据处理层
4、数据展示层
部署方案
1、爬虫项目:分布式集群
2、爬虫定时项目:一台服务器
3、爬虫项目监控:一台服务器
4、爬虫可视化:多台服务器
5、Hbase数据库:分布式集群
6、Redis数据库:分布式集群
7、Solr 全文检索:分布式集群
8、Zookeeper 监控:分布式集群
9、Solr 建立索引:一台服务器
10、邮件提醒:一台服务器
爬虫代码详尽实现
1、下载、解析视频网站详情页面url,提取关键字段数据
2、抽取视频网站解析规则模板,优化解析代码
3、打通数据爬虫的下载、解析、存储流程
4、采用Hbase存储爬虫数据,详解Hbase宽表和窄表设计以及爬虫项目表的详细设计,包含rowKey设计、列簇设计、历史版本
5、解析视频网站所有分页url并优化解析实现类
6、使用Queue队列存储视频网站所有url,实现视频网站url循环抓取
7、采用高、低优先级队列循环抓取视频网站url
8、采用Redis数据库实现url抓取优先级,并支持分布式爬虫
9、采用多线程爬虫,加快爬虫效率
10、定时启动爬虫项目
11、完善爬虫项目、补充抓取关键字段数据
全文检索
1、Lucene、Solr、ElasticSearch简介
2、全文检索过程:索引创建和搜索索引
3、解决全文检索的核心问题
4、Solr+Hbase组合提升检索效率
5、Solr 配置详解
6、Solr 安装部署
7、Solr 建立索引
8、Solr 检索视频网站数据
数据可视化
1、采用SpringMVC框架编写爬虫Web项目
2、编写Hbase工具类查询Hbase数据
3、编写Solr工具类检索爬虫数据
4、采用Freemarker或者jsp展示页面
5、采用Highcharts插件展示收视指数曲线图
6、打通爬虫整个项目流程,实时查看收视排行榜以及收视指数曲线图
项目优化一
1、设置合理的抓取时间间隔,模拟正常用户访问,降低IP被封概率
2、采用Redis 动态IP库,随机获取IP,随机抓取不同网站数据,降低同一IP对统一网站的访问频率
3、实现分布式爬虫,提高爬虫效率
项目优化二
1、Ganglia、Zookeeper简介
2、详解Zookeeper特性监控爬虫项目
3、完善爬虫项目注册Zookeeper集群
4、编写Watcher监视器监控爬虫项目生命周期
5、集群监控的整体联调
项目优化三
1、监控器监控爬虫项目异常,异常数据插入数据库
2、编写邮件Mail项目扫描爬虫项目异常信息,通知运维人员
3、编写定时器定时执行Mail项目

你可能还喜欢的课程

  • 技术大牛组团授课,专讲Hadoop核心知识和大型项目实战,多台物理服务器数十个节点现场直播演示!企业级实战项目让你三个月掌握2年的项目经验!

    查看详情 立即试学

    Hadoop就业特训营

    ¥9800 试学价:¥99 16周

  • 前端畅销书作者、百度和腾讯工程师组团授课。网易云音乐、京东天猫首页、炫酷游戏和H5页面手把手带你轻松搞定,还有Angular.js、ES6等必杀技要被你Get。

    查看详情 立即试学

    大数据可视化就业特训营

    ¥4800 试学价:¥99 14周

  • 和大讲台广受欢迎的Hadoop课程一样,这门Spark志在就业,剑指高薪。不玩多而全的碎碎念,而是专注于把核心组件讲透讲深入;不玩小儿科demo ,而是拿企业级项目带教实战;不局限于Spark本身,而是经常稍带一些大型项目经验及最新的NB技术,在帮你拓展视野的同时也能顺道装逼。

    查看详情 立即试学

    Spark高薪就业课

    ¥3800 试学价:¥99 10周

  • JQuery — web前端开发的利器,本课程将从理论基础+实战演练两方面对JQuery基础应用进行全面讲解,让你轻松搞定JQuery 。

    查看详情 立即试学

    jQuery从入门到巅峰实战

    ¥59 6周

  • 这是一套 系统且具有很强实战性 的Storm课程,从实时流计算及其在新浪、腾讯、360、百度等公司应用分析,到Storm的架构、工作流、机制,再到Storm集群的部署、运行、监控,最后以某上市婚恋网站的真实项目做为案例来详细讲解并带领大家完成从理论到实战的进阶!

    查看详情 立即试学

    Storm实战课程

    ¥699 试学价:¥9 3周

他们在学

  • 杨老师

  • 雷老师

  • 247402776

  • Silence

  • 黄金之兽

  • 若水

  • 982955465

  • 我们都是好孩子

  • 你卑微了我

  • ALL IN

  • xiehuadong1

  • 不爱学习的小孩

  • 坚_Zhouls_持

  • 倔强

  • richard

  • 谷谷

意见
反馈