MapReduce 作业失败,线程异常 "main" java.io.IOException:java.net.ConnectException

MapReduce Job Failing with -- Exception in thread "main" java.io.IOException: java.net.ConnectException

我是运行 Hadoop 上的一个简单计数程序。我的输入文件大小为 4 GB。由于某种原因,作业不断失败并出现错误:

但是,如果我用一个小的输入文件(比如 100MB)尝试相同的代码,它工作得很好。我是新手,我似乎找不到任何可行的解决方案。我的设置是 Psuedo Distributed。

我需要进行任何配置更改吗?我已经按照 hadoop 文档提供的 Psuedo 分布式设置进行了标准配置。

任何帮助将不胜感激。

根据您发布的错误堆栈跟踪,ConnectionRefused 异常是针对 JobHistoryServer 的。

对于伪分布式设置,无需更改配置即可启动 JobHistoryServer。使用此命令启动它,

$HADOOP_HOME/sbin/mr-jobhistory-daemon.sh start historyserver