安装步骤:

  1. 安装JDK
  2. 配置SSH免密登录
  3. HDFS环境搭建
  4. YARN环境搭建

安装JDK

参考上篇文章:安装JDK-Centos7
成功安装:
image.png

配置SSH免密登录

Hadoop 组件之间需要基于 SSH 进行通讯。所以需要配置SSH免密登录。

配置映射

配置 ip 地址和主机名映射:(配置完后需重启生效)

  1. vim /etc/hosts
  2. 192.168.10.143 hadoop001
  3. # 文件末尾增加
  4. #192.168.10.143为本机ip hadoop001为本机名

生成公私钥

生成公匙和私匙:

  1. ssh-keygen -t rsa

授权写入公匙到授权文件

进入 ~/.ssh 目录下,查看生成的公匙和私匙,并将公匙写入到授权文件:

  1. cd ~/.ssh
  2. ll
  3. cat id_rsa.pub >> authorized_keys
  4. chmod 600 authorized_keys

HDFS环境搭建

安装包下载并解压

下载 Hadoop 安装包,并解压。

附Apache下载地址. 注:点击Binary download下文件进行下载。source download下为源码文件。

  1. tar -zvxf hadoop-2.10.1.tar.gz

配置环境变量

  1. vi /etc/profile
  2. #插入如下内容
  3. export HADOOP_HOME=/root/hadoop-2.10.1
  4. export PATH=${HADOOP_HOME}/bin:$PATH
  5. #保存退出
  6. :wq
  7. source /etc/profile #环境变量立即生效

Hadoop文件配置

进入 ${HADOOP_HOME}/etc/hadoop/ 目录下,修改添加以下配置:

hadoop-env.sh

  1. export JAVA_HOME=/root/jdk1.8.0_321/ #java安装位置

core-site.xml

  1. <configuration>
  2. <property>
  3. <!--指定 namenode hdfs 协议文件系统的通信地址-->
  4. <name>fs.defaultFS</name>
  5. <value>hdfs://hadoop001:8020</value>
  6. </property>
  7. <property>
  8. <!--指定 hadoop 存储临时文件的目录-->
  9. <name>hadoop.tmp.dir</name>
  10. <value>/home/hadoop/tmp</value>
  11. </property>
  12. </configuration>

hdfs-site.xml

用于指定副本系数和临时文件存储位置:

  1. <configuration>
  2. <property>
  3. <!--由于我们这里搭建是单机版本,所以指定 dfs 的副本系数为 1-->
  4. <name>dfs.replication</name>
  5. <value>1</value>
  6. </property>
  7. </configuration>

slaves-节点配置

配置所有从属节点的主机名或 IP 地址,由于是单机版本,所以指定本机即可。

  1. vi slaves
  2. localhost

关闭防火墙

不关闭防火墙可能导致无法访问 Hadoop 的 Web UI 界面:

  1. # 查看防火墙状态
  2. sudo firewall-cmd --state
  3. # 关闭防火墙:
  4. sudo systemctl stop firewalld.service

初始化namenode

第一次启动 Hadoop 时需要进行初始化,进入 ${HADOOP_HOME}/bin/ 目录下,执行以下命令:

  1. ./hdfs namenode -format

可能出现以下问题:
image.png
实际上namenode节点会进行启动和关闭,如在下一步启动HDFS出现namenode节点未启动,请检查hostname是否和core-site.xml 中hdfs://hadoop001:8020 文件设置一致。

启动HDFS

进入 ${HADOOP_HOME}/sbin/ 目录下,启动 HDFS:

  1. ./start-dfs.sh

验证是否启动成功

方式一:执行 jps 查看 NameNodeDataNode 服务是否已经启动:
0.png
方式二:查看 Web UI 界面,端口为 50070
1.png

YARN环境搭建

修改配置

进入 ${HADOOP_HOME}/etc/hadoop/ 目录下,修改添加以下配置:

mapred-site.xml

如果没有mapred-site.xml,则拷贝一份样例文件后再修改
cp mapred-site.xml.template mapred-site.xml

  1. <configuration>
  2. <property>
  3. <name>mapreduce.framework.name</name>
  4. <value>yarn</value>
  5. </property>
  6. </configuration>

yarn-site.xml

  1. <configuration>
  2. <property>
  3. <!--配置 NodeManager 上运行的附属服务。需要配置成 mapreduce_shuffle 后才可以在 Yarn 上运行 MapReduce 程序。-->
  4. <name>yarn.nodemanager.aux-services</name>
  5. <value>mapreduce_shuffle</value>
  6. </property>
  7. </configuration>

启动服务

进入 ${HADOOP_HOME}/sbin/ 目录下,启动 YARN:

  1. ./start-yarn.sh

验证是否启动成功

方式一:执行 jps 命令查看 NodeManagerResourceManager 服务是否已经启动:
image.png
方式二:查看 Web UI 界面,端口号为 8088
2.png

再次启动

进入 ${HADOOP_HOME}/sbin/ 目录下,启动 HDFS和YARN:

  1. ./start-dfs.sh
  2. ./start-yarn.sh