大数据分析师LEVEL ll 复习大纲篇 | 第五章 大数据分析之 Spark 工具及实战（二）

第三节、Spark 流式计算框架 Spark Streaming、Structured Streaming

【领会】

Kafka 分布式消息分发机制

SparkStreaming 应用场景

SparkStreaming 基本概念

SparkDStream 的存储级别

StructuredStreaming 计算框架

【熟知】

批处理间隔、离散数据流 SparkDStream、窗口、滑动间隔、窗口间隔等重要概念

熟练使用 SparkDStream 的相关操作

SparkStreaming 的三种应用模式，以及实现三种模式的相关操作

【应用】

搭建 Kafka 环境，能够将 Kafka 作为高级数据源时使用 Spark Streaming，基于 HDFS 上

文本数据创建 Spark DStream，并利用相关操作进行数据分析，基于网络中实时数据创建

Spark DStream，并结合窗口等概念和相关操作进行数据分析，基于无状态模式处理 HDFS

上的文本数据，基于 stateful 与 window 模式处理网络实时数据。

第四节、Spark 交互式数据查询框架 Spark SQL

【领会】

SparkSQL 的发展历程

SparkSQL 的性能

SparkSQL、Hive、Shark 之间的联系

SparkSQL 的应用场景

hive/console 的安装过程与基本原理

【熟知】

基于 Hadoop 搭建 SparkSQL 的测试环境

掌握 LogicalPlan、SqlParser、Analyzer、Optimizer 等组件

SchemaRDD 的基本概念与相关操作

不同数据源的运行计划

不同查询的运行计划

查询优化策略

【应用】

HiveContext 与 SQLContext 的基础应用，利用 SparkSQL 对 JSON 文件、Parquet 文件以

及 Hive 上的数据进行交互式查询。

这就是大纲第五章的内容，希望对大家能有所帮助。