提取远程 zip 文件并将其解压缩到 java 中的 hdfs

Question

我正在做的只是解压缩并上传一个 zip 文件，该文件可以从网站下载到 hdfs。这是代码：

String src="http://corpus.byu.edu/wikitext-samples/text.zip";
String dst = "hdfs://cshadoop1/user/hxy162130/assignment1";
InputStream a = new URL(src).openStream();
System.out.println(a == null);
ZipInputStream in = new ZipInputStream(a);
System.out.println(in == null);
ZipEntry zE = in.getNextEntry();        
System.out.println(zE == null);

如您所见，我使用 openStream 方法将 url 更改为输入流，然后使用输入流作为 ZipInputStream.Finally 的参数，我从 zipinputStream 中获取了一个条目。但是问题是getNextEntry方法returns一个空值，也就是说我的代码输出的是false,false,true。而且我就是找不到问题出在哪里。

Answer 1

对 http://corpus.byu.edu/wikitext-samples/text.zip 的 HTTP 请求导致 301 Moved Permanently 给出新的 Location: https://corpus.byu.edu/wikitext-samples/text.zip。因此，使用此 URL.

不再有可用的 ZIP 资源

要遵循重定向，您可以这样做：

import java.net.URL;
import java.net.URLConnection;
import java.io.InputStream;
import java.util.zip.*;


class ReadZipInputStream {

 public static void main(String[] args) throws Exception {

  String src="http://corpus.byu.edu/wikitext-samples/text.zip";
  //301 Moved Permanently: Location:https://corpus.byu.edu/wikitext-samples/text.zip

  URL url = new URL(src);
  URLConnection connection = url.openConnection();
  String redirect = connection.getHeaderField("Location");
  if (redirect != null){
   connection = new URL(redirect).openConnection();
  }

  InputStream a = connection.getInputStream();
  System.out.println(a);

  ZipInputStream in = new ZipInputStream(a);
  System.out.println(in);

  ZipEntry zE = in.getNextEntry();        
  System.out.println(zE);

 }
}

提取远程 zip 文件并将其解压缩到 java 中的 hdfs

Extract a remote zip file and unzip it to a hdfs in java

java

hadoop

zipinputstream