使用静态池 cgroup 限制 Hue 资源
Limiting Hue resources with Static pools cgroup
我了解到您可以通过静态服务池中的 cgroups 限制 Hadoop 服务。我想限制 Hue 服务,因为有时它会耗尽我们在边缘节点上的所有内存并损害我们的加载过程。
但是我无法在静态服务池配置中找到 Hue - 它只给我选项 - HDFS、Impala、YARN、Hbase。
色调设置可以在这里完成,还是我需要在其他地方完成?
谢谢。
您可以根据需要激活cgroup内存选项(Cgroup Memory Soft Limit,Cgroup Memory Hard Limit)。
在这种情况下,您可以尝试在 Cloudera Manager Hue 配置页面中设置 cgroup 内存软限制,但我认为这不会有太大帮助。由于 Python 内存碎片 ,这是 Hue 中的一个已知问题。 Hue中有几个常见的操作可能会触发它,比如下载大型查询结果集(超过10M)或者使用HDFS文件浏览器浏览一个有大量文件(1000+)的HDFS目录。请您的用户避免执行这些操作。
如果此内存问题不断发生,您可以使用 https://github.com/cloudera/hue/blob/master/tools/ops/hue_mem_cron.sh 处的脚本来设置 cron 作业。该脚本监控 Hue 进程内存使用情况,如果使用过多则将其终止。您需要将 Cloudera Manager 配置为自动重启 Hue。
当然,关闭 Hue 并不是一个理想的解决方案。您可以做的是在多个 Hue 实例之前使用负载平衡器设置 Hue HA 以缓解该问题。您可以按照文档 https://www.cloudera.com/documentation/enterprise/latest/topics/cdh_hag_hue_config.html 进行设置
我了解到您可以通过静态服务池中的 cgroups 限制 Hadoop 服务。我想限制 Hue 服务,因为有时它会耗尽我们在边缘节点上的所有内存并损害我们的加载过程。
但是我无法在静态服务池配置中找到 Hue - 它只给我选项 - HDFS、Impala、YARN、Hbase。
色调设置可以在这里完成,还是我需要在其他地方完成?
谢谢。
您可以根据需要激活cgroup内存选项(Cgroup Memory Soft Limit,Cgroup Memory Hard Limit)。
在这种情况下,您可以尝试在 Cloudera Manager Hue 配置页面中设置 cgroup 内存软限制,但我认为这不会有太大帮助。由于 Python 内存碎片 ,这是 Hue 中的一个已知问题。 Hue中有几个常见的操作可能会触发它,比如下载大型查询结果集(超过10M)或者使用HDFS文件浏览器浏览一个有大量文件(1000+)的HDFS目录。请您的用户避免执行这些操作。
如果此内存问题不断发生,您可以使用 https://github.com/cloudera/hue/blob/master/tools/ops/hue_mem_cron.sh 处的脚本来设置 cron 作业。该脚本监控 Hue 进程内存使用情况,如果使用过多则将其终止。您需要将 Cloudera Manager 配置为自动重启 Hue。
当然,关闭 Hue 并不是一个理想的解决方案。您可以做的是在多个 Hue 实例之前使用负载平衡器设置 Hue HA 以缓解该问题。您可以按照文档 https://www.cloudera.com/documentation/enterprise/latest/topics/cdh_hag_hue_config.html 进行设置