网站如何更换空间,传媒网站给行业做宣传,网站开发好学,网站app在线生成器问题#xff1a;
一开始job history是正常的#xff0c;配置了日志的聚集以后不管做什么任务都不显示任务#xff0c;hdfs是正常运行#xff0c;而且根据配置步骤都重启过了。
下面先po出日志聚集的操作步骤#xff0c;再讲问题 1.配置yarn-site.xml
cd $HADOOP_HOME/e…问题
一开始job history是正常的配置了日志的聚集以后不管做什么任务都不显示任务hdfs是正常运行而且根据配置步骤都重启过了。
下面先po出日志聚集的操作步骤再讲问题 1.配置yarn-site.xml
cd $HADOOP_HOME/etc/hadoopvim yarn-site.xml添加如下代码
!-- 开启日志聚集功能 --
propertynameyarn.log-aggregation-enable/namevaluetrue/value
/property
!-- 设置日志聚集服务器地址 --
property nameyarn.log.server.url/name valuehttp://hadoop102:19888/jobhistory/logs/value
/property
!-- 设置日志保留时间为7天 --
propertynameyarn.log-aggregation.retain-seconds/namevalue604800/value
/property2.分发配置
xsync $HADOOP_HOME/etc/hadoop/yarn-site.xml3.关闭NodeManager 、ResourceManager和HistoryServer
sbin/stop-yarn.shmapred --daemon stop historyserver4.启动NodeManager 、ResourceManage和HistoryServer
start-yarn.shmapred --daemon start historyserver到这里都没有错找了半天发现是前面配置的mapred-site.xml出错了就是如果设置日志聚集的话前面配置的mapred-site也需要修改一下配置。 如下
?xml version1.0?
?xml-stylesheet typetext/xsl hrefconfiguration.xsl?
!--Licensed under the Apache License, Version 2.0 (the License);you may not use this file except in compliance with the License.You may obtain a copy of the License athttp://www.apache.org/licenses/LICENSE-2.0Unless required by applicable law or agreed to in writing, softwaredistributed under the License is distributed on an AS IS BASIS,WITHOUT WARRANTIES OR CONDITIONS OF ANY KIND, either express or implied.See the License for the specific language governing permissions andlimitations under the License. See accompanying LICENSE file.
--!-- Put site-specific property overrides in this file. --configuration!-- 指定 MapReduce 程序运行在 Yarn 上表示MapReduce使用yarn框架 --propertynamemapreduce.framework.name/namevalueyarn/value/property!-- 开启MapReduce小任务模式 --propertynamemapreduce.job.ubertask.enable/namevaluetrue/value/property!-- 历史服务器端地址 --
propertynamemapreduce.jobhistory.address/namevaluehadoop102:10020/value
/property!-- 历史服务器web端地址 --
propertynamemapreduce.jobhistory.webapp.address/namevaluehadoop102:19888/value
/property
/configurationyarn框架没有配置 造成的结果
修改以后在分发一下重新启动就好了运行命令也有记录了
hadoop jar share/hadoop/mapreduce/hadoop-mapreduce-examples-3.1.3.jar wordcount /input /output如图 这样就改好了出现类似问题的话大部分就是mapred-site和yarn-site这两个文件没有配置好就可以多检查几遍看看。
刚刚发现这个错误是源于我上一篇博文的修改错误的结果但是很奇怪的是改回来再运行wordcount没有卡住了。
