下载解压

下载所需版本的 Spark，官网下载地址：http://spark.apache.org/downloads.html

下载后进行解压：

# tar -zxvf  spark-2.2.3-bin-hadoop2.6.tgz

3.2 配置环境变量

# vim /etc/profile

添加环境变量：

# spark
export SPARK_HOME=/opt/module/spark-2.4.5
export  PATH=${SPARK_HOME}/bin:$PATH

使得配置的环境变量立即生效：

# source /etc/profile

集群配置

进入 ${SPARK_HOME}/conf 目录，拷贝配置样本进行修改：

spark-env.sh

 cp spark-env.sh.template spark-env.sh

# 配置JDK安装位置
JAVA_HOME=/opt/module/jdk1.8.0_241
# 配置hadoop配置文件的位置
HADOOP_CONF_DIR=/opt/module/hadoop-2.7.7/etc/hadoop
# 配置zookeeper地址
SPARK_DAEMON_JAVA_OPTS="-Dspark.deploy.recoveryMode=ZOOKEEPER -Dspark.deploy.zookeeper.url=node01:2181,node02:2181,node03:2181,node04:2181,node05:2181-Dspark.deploy.zookeeper.dir=/spark"

slaves

cp slaves.template slaves

配置所有 Woker 节点的位置：

node01
node02
node03
node04
node05

安装包分发

将 Spark 的安装包分发到其他服务器，分发后建议在这四台服务器上也配置一下 Spark 的环境变量。

scp -r /opt/module/spark-2.4.5 root@node05:/opt/module/ # 分发到node05, 其余略

启动集群

启动ZooKeeper集群

分别到三台服务器上启动 ZooKeeper 服务：

 zkServer.sh start

启动Hadoop集群

# 启动dfs服务
start-dfs.sh
# 启动yarn服务
start-yarn.sh

启动Spark集群

进入 node01 的 ${SPARK_HOME}/sbin 目录下，执行下面命令启动集群。执行命令后，会在 node01 上启动 Master 服务，会在 slaves 配置文件中配置的所有节点上启动 Worker 服务。

${SPARK_HOME}/sbin/start-all.sh

在 node02执行下面的命令，启动备用的 Master 服务：

${SPARK_HOME}/sbin/start-master.sh

查看服务

查看 Spark 的 Web-UI 页面，端口为 8080。此时可以看到 hadoop001 上的 Master 节点处于 ALIVE 状态，并有 3 个可用的 Worker 节点。

而 hadoop002 和 hadoop003 上的 Master 节点均处于 STANDBY 状态，没有可用的 Worker 节点。

验证集群高可用

此时可以使用 kill 命令杀死 hadoop001 上的 Master 进程，此时备用 Master 会中会有一个再次成为 主 Master，我这里是 hadoop002，可以看到 hadoop2 上的 Master 经过 RECOVERING 后成为了新的主 Master，并且获得了全部可以用的 Workers。

Hadoop002 上的 Master 成为主 Master，并获得了全部可以用的 Workers。

此时如果你再在 hadoop001 上使用 start-master.sh 启动 Master 服务，那么其会作为备用 Master 存在。

提交作业

和单机环境下的提交到 Yarn 上的命令完全一致，这里以 Spark 内置的计算 Pi 的样例程序为例，提交命令如下：

spark-submit \
--class org.apache.spark.examples.SparkPi \
--master yarn \
--deploy-mode client \
--executor-memory 1G \
--num-executors 10 \
/usr/app/spark-2.4.0-bin-hadoop2.6/examples/jars/spark-examples_2.11-2.4.0.jar \
100