培训内容

1.   大数据的产生背景与发展历程

2.   大数据的5V特征，以及与云计算的关系

3.   大数据应用需求以及潜在价值分析

4.   业界最新的大数据技术发展态势与应用趋势

5.   大数据与数据仓库

6.   Google的三驾马车（三篇论文）

l  GFS分布式文件系统

l  MapReduce计算模型

l  BigTable大表

1.   大数据生态系统全景图

2.   主流的大数据解决方案介绍

3.   Apache大数据平台方案剖析

4.   CDH大数据平台方案剖析

5.   HDP大数据平台方案剖析

6.   大数据与云计算

7.   实验环境的准备

1.   分布式文件系统HDFS产生背景与适用场景

2.   HDFS master-slave系统架构与读写工作原理

3.   HDFS核心组件技术讲解，NameNode与fsimage、editslog，DataNode与数据块

4.   HDFS Federation机制与HDFS HA

5.   HDFS参数调优与性能优化

1. Hadoop 2.0的核心组件YARN工作原理

2. MapReduce产生背景与适用场景

3. MapReduce计算模型的基本原理

4. MapReduce作业执行流程

5. MapReduce编程模型: Map处理和Reduce处理

6. MapReduce处理流程

7. MapReduce开发高级应用：

l  Sort技术与应用场景

l  Combiner技术与应用场景

l  Partitioner技术与应用场景

大数据ETL操作工具，与大数据分布式采集系统

1.   Hadoop与DBMS之间数据交互工具的应用

2.   Sqoop导入导出数据的工作原理

3.   Flume-NG数据采集系统的数据流模型与系统架构

4.   Kafka分布式消息订阅系统的应用介绍与平台架构，及其使用模式

面向OLAP型应用的NoSQL数据库及数据仓库

1.   关系型数据库瓶颈，以及NoSQL数据库的发展，概念，分类，及其在半结构化和非结构化数据场景下的适用范围

2.   列存储NoSQL数据库HBase简介与数据模型剖析

3.   HBase分布式集群系统架构与读写机制，ZooKeeper分布式协调服务系统的工作原理与应用

4.   数据仓库Hive的体系架构与安装配置

5.   Hive的数据模型：内部表、外部表、分区表、桶表

内存计算引擎Spark Core

1.   Spark产生动机、基本概念与适用场景

2.   Spark编程模型与RDD弹性分布式数据集的工作原理与机制

3.   Spark实时处理平台运行架构与核心组件

4.   Spark RDD主要Transformation：map, flatMap, filter, union, sample, join, reduceByKey, groupByKey

5.   Spark RDD主要action：count，collect，reduce，saveAsTextFile

6.   Spark宽、窄依赖关系与DAG图分析

7.   Spark容错机制

8.   Spark作业调度机制

9.   Spark缓存机制：Cache操作，Persist操作与存储级别

10. 部署Spark standardalone和Spark on YARN

Spark的数据分析引擎Spark SQL

1.   基于Spark的大型分布式数据仓库SparkSQL基础知识与应用场景

2.   Spark SQL实时数据仓库的实现原理与工作机制

3.   SparkSQL数据模型DataFrame

4.   SparkSQL程序开发与

5.   SparkSQL数据读取与结果保存：json，Hive table，Parquet file，RDD

6.   SparkSQL和Hive的区别与联系

7.   SparkSQL操作实战

Spark的流式计算引擎Spark Streaming

1.   Storm关键技术与并发机制

2.   Storm编程模型与基本开发模式

3.   Storm数据流分组

4.   Storm可靠性保证与Acker机制

5.   Storm应用案例分析

6.   流数据处理工具Spark Streaming基本概念与数据模型

7.   SparkStreaming工作机制

8.   SparkStreaming程序开发介绍

9.   SparkStreaming的全局统计和窗口函数

Flink的核心：Flink Runtime

1.   Flink简介

2.   Flink的体系架构

3.   Flink的安装与部署

l  Standalone的模式

l  Yarn模式的两种模式

l  Yarn两种模式的区分

l  Flink on yarn内部实现

l  Flink HA的实现

l  Flink UI界面介绍

4.   Flink的分布式缓存

5.   对比：Flink、Storm和Spark Streaming

Flink的DataSet API与DataStream API

1.   Map、FlatMap与MapPartition

2.   Filter与Distinct

3.   Join操作

4.   笛卡尔积

5.   First-N

6.   外链接操作

7.   DataSources

8.   DataStream Transformation 转换操作

9.   Data Sinks

Flink的高级特性

1.   广播变量、累加器和计数器

2.   状态管理和恢复

3.   Window和Time