hadoop集群测试的最低要求是什么

What are the minimum requirement of hadoop cluster for testing

我是 Hadoop 新手。我正在尝试构建 hadoop 集群来测试 hadoop.I 的性能,想知道每个节点(主节点和从节点)的最小集群大小、内存、磁盘 space、核心数是多少,我想知道知道测试文件的大小是多少。我正在尝试处理文本文件

对于 HortonWorks

  • 在 32 位和 64 位上运行 OS(Windows 7、Windows 8 和 Mac OSX 和 LINUX)
  • 您的机器应该至少有 10 GB 才能运行 分配 8GB 的​​ VM
  • 在 BI 上启用虚拟化OS 仅当您运行在 VM 上启用它
  • 浏览器:Chrome 25+、IE 9+、Safari 6+、Firefox 18+ 推荐。 (沙盒不会 运行 在 IE 10 上)

只需转到他们的下载页面 http://hortonworks.com/hdp/downloads/


看看 Cloudera 要求你会得到这个

  • RAM - 4 GB
  • 必须禁用 IPv6。
  • 没有被 iptables 或防火墙阻止;端口 7180 必须打开,因为它用于安装后访问 Cloudera Manager。 Cloudera Manager 使用必须打开的特定端口进行通信。
  • ext3:这是最受测试的 HDFS 底层文件系统。
  • CPU - 越多越好
  • JDK 1.7 至少

更多信息可以查看以下link

http://www.cloudera.com/documentation/enterprise/latest/topics/cm_ig_cm_requirements.html#cmig_topic_4_1_unique_1