我可以在 Azure HDInsight 中使用 WebHDFS 吗?

Can I use WebHDFS in Azure HDInsight?

我创建了一个 HDInisght,使用 Azure 存储作为它的 HDFS。我想知道我是否可以使用 webHDFS api 将二进制文件上传到 HDFS。

我试过了https://<HOST>:<HTTP_PORT>/webhdfs/v1/。但是我不确定 HostHttp_port.

与此同时,我检查了 hdfs-site.xml 并发现

  <property>
    <name>dfs.webhdfs.enabled</name>
    <value>false</value>
    <final>true</final>
  </property>

我应该把值设为True然后才能使用吗?

Note: Azure HDInsight does not support WebHDFS.

您无需创建 HDInsight 群集即可使用 WebHDFS 与 ADLS 通信。

  1. Azure 存储与 WebHDFS 不兼容。

  2. Azure Data Lake Store 是一个云级文件系统,与 Hadoop 分布式文件系统 (HDFS) 兼容并与 Hadoop 生态系统一起工作。您现有的使用 WebHDFS 的应用程序或服务 API 可以轻松地与 ADLS 集成。

参考: WebHDFS FileSystem APIs

  1. ADLS Gen2 兼容 Hadoop 文件系统并针对云规模大数据分析存储进行了优化,但不兼容 WebHDFS。