日志聚集概念:应用运行完成以后,将程序运行日志信息上传HDFS系统上。
开启日志聚集功能,需要重新启动NodeManager、ResourceManager和HistoryServer。
1 yarn-site.xml配置
[root@hadoop102 hadoop]# vim yarn-site.xml
添加:
<!-- 开启日志聚集功能 --><property><name>yarn.log-aggregation-enable</name><value>true</value></property><!-- 设置日志聚集服务器地址 --><property><name>yarn.log.server.url</name><value>http://hadoop102:19888/jobhistory/logs</value></property><!-- 设置日志保留时间为7天 --><property><name>yarn.log-aggregation.retain-seconds</name><value>604800</value></property>
分发
[root@hadoop102 hadoop]# xsync yarn-site.xml
重启yarn相关服务

[root@hadoop103 ~]# cd /opt/module/hadoop-3.1.3/[root@hadoop103 hadoop-3.1.3]# sbin/stop-yarn.sh
[root@hadoop103 hadoop-3.1.3]# sbin/start-yarn.sh
[root@hadoop102 hadoop-3.1.3]# mapred --daemon start historyserver
