os.walk 递归访问文件夹非常慢

Question

我的数据集有超过 1000 个文件夹，我正在使用 os.walk 递归访问每个文件夹中的每个图像。 os.walk 几个文件夹运行良好，但加载 1000 个以上的文件夹非常慢。我需要替代解决方案或任何可以解决此问题的解决方案。
你可以看到类似的代码：

def run(dirname, img):
    data = img.load()
    width, height = img.size
    output_img = Image.new("RGB", (100, 100))
    Zero=np.zeros(shape=(100, 100), dtype=np.uint8)

    for (x, y) in labels:
        component = uf.find(labels[(x, y)])
        labels[(x, y)] = component
        path = 'D:/Python36/Fold/'
        if labels[(x, y)] == 0:
            Zero[y][x] = 255
            Zeroth = Image.fromarray(Zero)
            Zeroth.save(os.path.join(dirname, 'Zero.png'), 'png')


def main():
    path = "D:/Python36/Fold/"
    for root, dirs, files in os.walk(path):
        for file_ in files:
            img = Image.open(os.path.join(root, file_))
            img = img.point(lambda p: p > 190 and 255)
            img = img.convert('1')
            (labels, output_img) = run(root, img)


if __name__ == "__main__":
    main()

Answer 1

您的问题不清楚，但 Python 有 os.scandir 不对每个文件调用 stat，而且速度更快。 Related doc.

旧 Python 版本 (<3.5) https://pypi.python.org/pypi/scandir.

的 PyPI 包

Answer 2

调试您的代码并按顺序执行文件您可以使用 sorted(os.walk(path)) 并检查您的代码在哪个文件中变慢。
检查这个它可能 help how os.walk works

os.walk 递归访问文件夹非常慢

os.walk is very slow for recursively accessing folders

python

os.walk

scandir

subdirectory

python-3.x