使用 warcio 创建带有 requests.get() 响应的 warc 记录
Creating a warc record with requests.get() response using warcio
我正在使用 warcio
库来读写 warc
文件。
当尝试写入来自 requests.get(URL,stream=False)
的响应 object 的记录时,warcio
仅将 HTTP headers 写入记录而不是负载。但是,当启用流模式时,它工作正常。
有没有办法在未启用流模式时存储有效负载?
我找到了解决方法,但不确定它是否正确。我没有使请求对象可流化,而是使负载可流化
BytesIO(response.text.encode())
这似乎有效。
我正在使用 warcio
库来读写 warc
文件。
当尝试写入来自 requests.get(URL,stream=False)
的响应 object 的记录时,warcio
仅将 HTTP headers 写入记录而不是负载。但是,当启用流模式时,它工作正常。
有没有办法在未启用流模式时存储有效负载?
我找到了解决方法,但不确定它是否正确。我没有使请求对象可流化,而是使负载可流化
BytesIO(response.text.encode())
这似乎有效。