Python 3.7:散列二进制文件

Python 3.7 : Hashing a binary file

我正在尝试为给定文件生成散列,在这种情况下,散列函数进入二进制文件(.tgz 文件)然后生成错误。有什么方法可以读取二进制文件并生成它的 md5 哈希值吗?

我收到的错误是:

buffer = buffer.decode('UTF-8') UnicodeDecodeError: 'utf-8' codec can't decode byte 0xbc in position 10: invalid start byte

源代码为:

import hashlib

def HashFile(filename, readBlockSize = 4096):
    hash = hashlib.md5()

    with open(filename, 'rb') as fileHandle:

        while True:
            buffer = fileHandle.read(readBlockSize)

            if not buffer:
                break

            buffer = buffer.decode('UTF-8')                
            hash.update(hashlib.md5(buffer).hexdigest())

    return

我在 Linux 上使用 Python 3.7。

您可以在此处进行一些调整。

您不需要解码 .read() 返回的字节,因为 md5() 首先期望 bytes,而不是 str:

>>> import hashlib
>>> h = hashlib.md5(open('dump.rdb', 'rb').read()).hexdigest()
>>> h
'9a7bf9d3fd725e8b26eee3c31025b18e'

这意味着您可以从函数中删除行 buffer = buffer.decode('UTF-8')

如果您想使用该函数的结果,您还需要 return hash

最后,您需要将原始字节块传递给 .update(),而不是它的十六进制摘要(它是 str);请参阅文档“example.

综合起来:

def hash_file(filename: str, blocksize: int = 4096) -> str:
    hsh = hashlib.md5()
    with open(filename, "rb") as f:
        while True:
            buf = f.read(blocksize)
            if not buf:
                break
            hsh.update(buf)
    return hsh.hexdigest()

(以上是使用 Redis .rdb 转储二进制文件的示例。)