大厂学院SVIP十门合集|完结无秘

## 第1章：【项目启动】项目背景及架构分析（9节，43分钟）

- 1-1 课程概览

- 1-2 ***学前必读***

- 1-3 课程目录

- 1-4 项目目的

- 1-5 项目流程

- 1-6 技术选型

- 1-7 项目总体架构

- 1-8 项目架构V1版本

- 1-9 项目架构V2版本

## 第2章：【环境部署】基础开发环境搭建（8节，55分钟）

- 2-1 课程目录

- 2-2 OOTB环境的使用介绍

- 2-3 JDK部署

- 2-4 Scala部署

- 2-5 Maven部署

- 2-6 Hadoop配置

- 2-7 Hadoop格式化&启停

- 2-8 ZK部署

## 第3章：【数据采集】构建日志服务器（14节，95分钟）

- 3-1 课程目录

- 3-2 数据产生和上报流程

- 3-3 构建多Module工程

- 3-4 快速构建第一个Spring Boot应用程序

- 3-5 SpringBoot热部署

- 3-6 关于Annotation的补充

- 3-7 yml配置文件的使用

- 3-8 开发日志服务Controller

- 3-9 客户端上报日志功能开发

- 3-10 客户端与日志服务器联调测试

- 3-11 客户端日志上报到日志服务器并落盘

- 3-12 日志服务部署到服务器上运行并联调

- 3-13 对接项目数据到日志服务器

- 3-14 作业

## 第4章：【数据收集】基于Flume构建分布式日志收集（23节，160分钟）

- 4-1 课程目录

- 4-2 产生背景

- 4-3 采集和收集的区别

- 4-4 Flume概述

- 4-5 Flume版本迭代

- 4-6 Flume体系架构与三大核心组件

- 4-7 业界数据收集框架对比

- 4-8 Flume部署

- 4-9 Flume Agent编程案例

- 4-10 Event

- 4-11 Flume经典部署方案

- 4-12 Flume收集文件数据到HDFS需求分析

- 4-13 Flume收集文件数据到HDFS实现

- 4-14 Flume收集文件夹数据到HDFS

- 4-15 TailDirSource实战

- 4-16 Flume拦截器二次开发需求分析

- 4-17 Flume自定义拦截器开发

- 4-18 Flume自定义拦截器Agent配置

- 4-19 Flume自定义拦截器功能测试

- 4-20 使用Flume收集日志服务器落地的日志数据

- 4-21 面试题：谈谈你对Flume高可用的看法

- 4-22 本章作业

- 4-23 【夯实学习成果，攻克面试官】Flume面试题

## 第5章：【消息队列】基于Kafka构建实时数据交换（14节，111分钟）

- 5-1 课程目录

- 5-2 Kafka概述

- 5-3 Kafka核心术语

- 5-4 Kafka单Broker部署及使用

- 5-5 Kafka多Broker部署及使用

- 5-6 容错性测试

- 5-7 Kafka Producer API编程

- 5-8 Kafka Consumer API编程

- 5-9 Kafka对接Flume收集的数据

- 5-10 对接项目数据到Kafka

- 5-11 Kafka数据存储

- 5-12 面试题：谈谈你对acks的看法

- 5-13 Kafka面试题

- 5-14 【讨论题】谈谈你对Kafka的认识

## 第6章：【实时流处理】Spark Streaming核心API及编程初探（21节，177分钟）

- 6-1 课程目录

- 6-2 Spark Streaming概述

- 6-3 Spark Streaming宏观角度了解

- 6-4 基于IDEA+Maven构建第一个流处理应用程序

- 6-5 本地功能测试

- 6-6 官网案例解读

- 6-7 Spark部署及服务器端测试

- 6-8 StreamingContext编程注意事项

- 6-9 核心概念DStream

- 6-10 核心概念Input DStream和Receiver

- 6-11 实战之读取文件系统的数据

- 6-12 常用Transformation操作

- 6-13 实战之日志数据过滤RDD方式实现

- 6-14 实战之日志数据过滤transform方式实现

- 6-15 实战之带状态的应用程序开发

- 6-16 常用Output操作

- 6-17 实战之统计结果写入数据库

- 6-18 快速了解Spark SQL进行数据分析

- 6-19 实战之SparkStreaming和Spark SQL的整合使用

- 6-20 面试题：谈谈你对消费语义的认识

- 6-21 Spark Streaming面试题

## 第7章：【实时流处理】应用Spark Streaming实现数据分析及调优（39节，298分钟）

- 7-1 课程目录

- 7-2 项目需求介绍

- 7-3 论Offset对整个实时作业处理结果的影响

- 7-4 图解SparkStreaming整合Kafka offset的管理机制

- 7-5 使用checkpoint维护offset

- 7-6 自定义维护offset的表结构设计

- 7-7 使用ScalikeJDBC对MySQL进行读写操作

- 7-8 Offset的获取及存储注意事项

- 7-9 自定义维护Offset存储实现

- 7-10 自定义维护Offset读取实现

- 7-11 Offset管理封装及作业

- 7-12 数据流打通及日志字段描述

- 7-13 数据清洗功能

- 7-14 功能三需求分析

- 7-15 HBase初探

- 7-16 HBase部署

- 7-17 HBase核心API编程

- 7-18 需求三功能实现

- 7-19 功能四功能实现

- 7-20 功能扩展及实现思路

- 7-21 Spark调优之序列化

- 7-22 调优之序列化在SS中的使用场景

- 7-23 调优之设置合理的Batch Interval

- 7-24 调优之限速

- 7-25 集群规模评估

- 7-26 集群部署进程分布规划

- 7-27 HBase逻辑模型

- 7-28 HBase物理存储模型

- 7-29 HBase架构宏观角度分析

- 7-30 HBase架构组件职责

- 7-31 面试题之HBase寻址机制

- 7-32 面试题之HBase写数据流程

- 7-33 面试题之HBase读数据流程

- 7-34 项目打包并运行在YARN上

- 7-35 HBase表及rowkey设计原则

- 7-36 本章总结及作业

- 7-37 Spark Streaming面试题

- 7-38 【讨论题】谈谈你对HBase的认识

- 7-39 【讨论题】SparkStreaming对接Kafka的关键点

## 第8章：【实时流处理】Structured Streaming企业级应用（19节，137分钟）

- 8-1 课程目录

- 8-2 SparkStreaming的不足

- 8-3 Structured Streaming概述

- 8-4 快速开发第一个Structured Streaming应用程序

- 8-5 Structured Streaming编程模型

- 8-6 处理EventTime和延迟数据

- 8-7 使用SQL完成统计分析

- 8-8 对接csv数据源数据

- 8-9 对接分区数据源数据

- 8-10 对接Kafka数据源数据

- 8-11 基于EventTime的窗口统计原理详解

- 8-12 基于EventTime的窗口统计功能实现

- 8-13 延迟数据处理及Watermark

- 8-14 File Sink

- 8-15 Kafka Sink

- 8-16 ForeachSink到MySQL

- 8-17 容错语义

- 8-18 Structured Streaming 实战面试题

- 8-19 【讨论题】实时处理框架选型问题

## 第9章：【实时流处理】应用Structured Streaming实现数据分析及调优（10节，60分钟）

- 9-1 课程目录

- 9-2 项目需求

- 9-3 数据清洗

- 9-4 Redis概述及部署

- 9-5 Redis命令行操作快速入门

- 9-6 通过Jedis API操作Redis

- 9-7 将统计结果输出到Redis

- 9-8 打包到服务器运行

- 9-9 调优及作业

- 9-10 Structured Streaming 面试题

## 第10章：【数据可视化】使用Echarts完成数据展示（14节，116分钟）

- 10-1 课程目录

- 10-2 Spring Data概述

- 10-3 Spring Data整合MySQL开发环境准备及实体类开发

- 10-4 Spring Data存取MySQL功能开发及测试

- 10-5 Controller层开发及测试

- 10-6 常用可视化框架介绍

- 10-7 Echarts图形形成方式

- 10-8 Spring Boot整合Echarts快速开发一个可视化展示功能

- 10-9 Spring Data整合HBase开发环境搭建

- 10-10 Spring Data整合HBase查询功能开发及测试

- 10-11 Spring Data整合Redis查询功能开发及测试

- 10-12 可视化项目部署

- 10-13 前后端服务部署及效果演示

- 10-14 前后端交互流程分析

## 第11章：【拓展&经验分享】核心梳理及面试指导（9节，65分钟）

- 11-1 课程目录

- 11-2 HR面试常考点一

- 11-3 HR面试常考点二

- 11-4 HR面试常考题三

- 11-5 HR面试常考点作业

- 11-6 简历编写及面试准备

- 11-7 Spark&NoSQL实时数据处理实践案例分享

- 11-8 课程总结与展望

- 11-9 【讨论题】谈谈离线处理和实时处理的区别