mapreduce 中的随机播放错误:本地提取器中的随机播放错误
Shuffle error in mapreduce: Error in shuffle in local fetcher
我应该在哪里寻找更正随机播放错误。我检查了 yarn-site.xml。我是运行一个集群。我试着环顾四周,但找不到任何有用的东西。
纱-site.xml
<configuration>
<!-- Site specific YARN configuration properties -->
<property>
<name>yarn.nodemanager.aux-services </name>
<value>mapreduce.shuffle </value>
</property>
<property>
<name>yarn.nodemanager.aux-services.mapreduce.shuffle.class </name>
<value>org.apache.hadoop.mapred.ShuffleHandler</value>
</property>
<property>
<name>yarn.resourcemanager.resource-tracker.address</name>
<value>slave5:8031</value>
</property>
<property>
<name>yarn.resourcemanager.scheduler.address</name>
<value>slave5:8030</value>
</property>
<property>
<name>yarn.resourcemanager.address</name>
<value>slave5:8032</value>
</property>
</configuration>
从 core-site.xml 中删除有关临时文件的配置。这个答案对我有帮助。
从核心中删除这样的东西-site.xml:-
<property>
<name>hadoop.tmp.dir</name>
<value>/app/hadoop/tmp</value>
</property>
我应该在哪里寻找更正随机播放错误。我检查了 yarn-site.xml。我是运行一个集群。我试着环顾四周,但找不到任何有用的东西。
纱-site.xml
<configuration>
<!-- Site specific YARN configuration properties -->
<property>
<name>yarn.nodemanager.aux-services </name>
<value>mapreduce.shuffle </value>
</property>
<property>
<name>yarn.nodemanager.aux-services.mapreduce.shuffle.class </name>
<value>org.apache.hadoop.mapred.ShuffleHandler</value>
</property>
<property>
<name>yarn.resourcemanager.resource-tracker.address</name>
<value>slave5:8031</value>
</property>
<property>
<name>yarn.resourcemanager.scheduler.address</name>
<value>slave5:8030</value>
</property>
<property>
<name>yarn.resourcemanager.address</name>
<value>slave5:8032</value>
</property>
</configuration>
从 core-site.xml 中删除有关临时文件的配置。这个答案对我有帮助。
从核心中删除这样的东西-site.xml:-
<property>
<name>hadoop.tmp.dir</name>
<value>/app/hadoop/tmp</value>
</property>