MapReduce 作业失败,线程异常 "main" java.io.IOException:java.net.ConnectException
MapReduce Job Failing with -- Exception in thread "main" java.io.IOException: java.net.ConnectException
我是运行 Hadoop 上的一个简单计数程序。我的输入文件大小为 4 GB。由于某种原因,作业不断失败并出现错误:
但是,如果我用一个小的输入文件(比如 100MB)尝试相同的代码,它工作得很好。我是新手,我似乎找不到任何可行的解决方案。我的设置是 Psuedo Distributed。
我需要进行任何配置更改吗?我已经按照 hadoop 文档提供的 Psuedo 分布式设置进行了标准配置。
任何帮助将不胜感激。
根据您发布的错误堆栈跟踪,ConnectionRefused 异常是针对 JobHistoryServer 的。
对于伪分布式设置,无需更改配置即可启动 JobHistoryServer
。使用此命令启动它,
$HADOOP_HOME/sbin/mr-jobhistory-daemon.sh start historyserver
我是运行 Hadoop 上的一个简单计数程序。我的输入文件大小为 4 GB。由于某种原因,作业不断失败并出现错误:
但是,如果我用一个小的输入文件(比如 100MB)尝试相同的代码,它工作得很好。我是新手,我似乎找不到任何可行的解决方案。我的设置是 Psuedo Distributed。
我需要进行任何配置更改吗?我已经按照 hadoop 文档提供的 Psuedo 分布式设置进行了标准配置。
任何帮助将不胜感激。
根据您发布的错误堆栈跟踪,ConnectionRefused 异常是针对 JobHistoryServer 的。
对于伪分布式设置,无需更改配置即可启动 JobHistoryServer
。使用此命令启动它,
$HADOOP_HOME/sbin/mr-jobhistory-daemon.sh start historyserver